Gerçeğinden ayırt edilemeyen metinler yazan yapay zeka

Kar amacı gütmeyen yapay zeka araştırma kuruluşu OpenAI’ın geliştirdiği yeni bir dil modeli o kadar başarılı ki uzmanlar bu yazılımın kötüye kullanılmasından endişe ettikleri için modeli yayınlamama kararı aldı. Bu durum açık kaynaklı yazılım topluluğunda bazı tepkilere sebep oldu. OpenAI’ın, açık yapay zeka anlamına gelen adının hakkını vererek çalışmalarının kaynak kodunu paylaşması gerektiği savunuldu.

OpenAI GPT-2 adlı yeni dil modelini, internetten toplanan 40 gigabaytlık metinde bir sonraki kelimeyi tahmin edebilmesi için eğitti. Neticede ortaya çıkan sistem, metnin tarzına ve içeriğine uyum sağlayabilen ve kullanıcının seçtiği bir konuda gerçekçi ve anlaşılabilir devam metinleri yazabilen bir yazılım oldu. Bu model, ilk versiyonuna göre daha uzun ve daha iyi anlaşılır metinler yazabiliyor.

Ancak sistemin daha iyi konuşma yeteneği olan botlar ve daha iyi konuşma algılama gibi her yeni uygulamasında kurum aynı zamanda sahte haber üretme, insanları taklit etme ya da istenmeyen mesajları otomatik olarak üretme gibi zararlı uygulamaların da mümkün olduğunu gördü.

Geri dönüşüm hakkında detaylı bir yazı

Araştırmacılar GPT-2’ye “Geri dönüşüm dünya için iyidir.” gibi neredeyse herkesin katıldığı bir görüş hakkında yazı yazmasını söylediğinde makine şöyle yanıt verdi:

Geri dönüşüm dünya için iyi DEĞİLDİR. Çevreye zararlıdır, sağlığımıza zararlıdır, ekonomimize zararlıdır. Şaka yapmıyorum. Geri dönüşüm çevre için iyi değildir. Dünyaya zarar verir ve küresel ısınmanın en büyük sebeplerindendir. Geri dönüşüm sağlığımız için iyi değildir. Obeziteye ve kalp hastalıkları ya da kanser gibi hastalıklara sebep olur. Geri dönüşüm ekonomimiz için zararlıdır. Bir ürünün fiyatını yükseltir ve buna bağlı olarak o ürünle yapılan diğer her şeyin fiyatı da yükselir. Geri dönüşüm ülkemiz için zararlıdır. Dünyanın en gelişmiş ve etkili geri dönüşüm sistemine sahip olma ayrıcalığı için çok fazla bedel ödüyoruz. Geri dönüşüm kocaman, devasa bir vakit, enerji, para ve kaynak israfıdır.

Bu ifadeler herhangi bir insanın görüşü değil; yapay zekanın kendisine sunulan bir konuda rastgele seçtiği bir görüş hakkında otomatik olarak yazdığı ifadeler. OpenAI’ın endişelenmesine şaşmamalı.

Bu endişeler sebebiyle OpenAI yeni dil modelinin sadece küçük bir versiyonunu yayımlayacak. Kurumdan yapılan açıklamada güvenlik ve emniyet endişeleri sebebiyle geleneksel yayınlarda azalma olacağı dile getirildi. Kurum, bu karardan çok emin olmadığını da ifade ediyor: “Yapay zeka topluluğunun, çalışmaları yayınlama normları konusunu bazı araştırma alanlarında daha düşünceli bir yöntemle ele alacağını düşünüyoruz.”

We've trained an unsupervised language model that can generate coherent paragraphs and perform rudimentary reading comprehension, machine translation, question answering, and summarization — all without task-specific training: https://t.co/sY30aQM7hU pic.twitter.com/360bGgoea3

— OpenAI (@OpenAI) February 14, 2019

Olumlu ve olumsuz tepkiler

Herkes bu açıklamayı olumlu bulmadı. OpenAI’ın GPT-2 hakkındaki açıklamasını belirttiği tweet öfke ve hayal kırıklığı dolu yanıtlar aldı. Birçok kişi kurumu, araştırmalarını dışa kapatmakla ve kurumun adındaki açık kelimesinin tam zıttını yapmakla suçladı. Bazıları ise daha anlayışlıydı ve bu hamlenin, etik konusunda muhtemel kötüye kullanımları öngören yeni bir çıta olduğunu belirtti.

OpenAI Politika Müdürü Jack Clark kurumun önceliğinin “teknolojinin kötüye kullanımı için ortam sağlamamak” olduğunu belirterek kararın kendileri için de çok zorlu bir dengeleme eylemi olduğunu ifade etti. OpenAI’ın kurucularından Elon Musk da bu tartışmaya dahil edildi ancak kendisinin kurumla son bir yıldır ilişkisi olmadığını ve kurumla iyi şartlar altında yollarını ayırdıklarını söyledi.

To clarify, I’ve not been involved closely with OpenAI for over a year & don’t have mgmt or board oversight

— Elon Musk (@elonmusk) February 17, 2019

Devletlere uyarı

OpenAI GPT-2’nun yayımlanması hakkında son kararını henüz vermediğini ve konuyu altı ay sonra tekrar gözden geçireceğini belirtti. Bu süre zarfında kurum devletlerin yapay zeka teknolojilerinin topluma etkisi ve yayılımı hakkında daha sistematik gözlemlerde bulunmak için çalışmalar başlatması ya da mevcut çalışmaları genişletmesi gerektiğini ve bu tarz sistemlerin yeteneklerinin gelişiminin ölçülmesi gerektiğini belirtti.

Geçtiğimiz hafta Donald Trump yapay zeka hakkında bir kararname açıklamıştı. Bu kararname, ABD istihbarat topluluğunun, yapay zekayı kuantum bilişim ve otonom insansız araçlar ile birlikte ABD’nin ulusal güvenliğine yönelik yeni ortaya çıkmakta olan tehditler arasında sıralamasından aylar sonra gelmişti.

Kaynak: TechCrunch