Yapay zeka destekli otonom silah üretimine karşı ortak çağrı

Yapay zeka üzerine gerçekleştirilen ortak bir konferansta Future of Life Institute (Yaşamın Geleceği Enstitüsü) 2 bin 400’den fazla kişinin ve 160 adet kurum ve kuruluşun; ölümcül otonom silahların geliştirilmesi, üretilmesi, ticareti ya da kullanılması gibi eylemlerde yer almayacağını ve bu eylemlere destek vermeyeceğini belirten bir açıklamaya imza attığını söyledi. 90 farklı ülkeden gelen imzacılar ayrıca hükumetlerin bu tarz silahları yasa dışı hale getirmesi için de talepte bulundu. Google Deepmind ve Xprize Derneği anlaşmaya imza atan gruplar arasında yer aldı. Ayrıca Tesla ve SpaceX CEO’su Elon Musk, Deepmind kurucuları Demis Hassabis, Shane Legg ve Mustafa Süleyman da açıklamayı imzaladı.

Devlete yapay zeka sunan şirketler

Açıklama bir grup şirketin geliştirdiği teknolojileri devlet kurumlarıyla ve kolluk kuvvetleriyle paylaşmasının ardından geldi. Google ABD Ordusuna dron görsellerini işaretleyebilen bir yapay zeka sistemi sağlamak üzere Project Maven’ı Pentagon’a sunmuştu. Bu projede insan onayı gerekse de yapay zekanın neyin dost neyin düşman olduğuna karar verme sürecinde yer alması tartışma yaratmıştı. Benzer şekilde Amazon, yüz tanıma teknolojisini kolluk kuvvetleriyle paylaştığı için; Microsoft ise ABD Göçmenlik ve Gümrük Muhafaza birimine yapay zeka teknolojileri sağladığı için eleştirilere maruz kalmıştı.

Açıklamada “Binlerce yapay zeka araştırmacısı, insan hayatına son vermenin riskini, sorumluluğunu ve zorluğunu ortadan kaldırırsak, ölümcül otonom silahların, özellikle gözetleme ve veri sistemlerine bağlandıklarında, şiddet ve baskının güçlü araçları haline geleceğini düşünüyor. İnsan hayatına son vermek asla bir makinenin kararına bırakılmamalıdır.” ifadelerine yer verildi.

“Otonom silahların biyolojik silahtan farkı yok”

Future of Life Institute Başkanı Max Tegmark “Yapay zeka liderlerinin konuşmanın yanı sıra çalışmaları eyleme dökmeleri; politikacıların şimdiye kadar hayata geçirmekte başarısız olduğu bir düzenlemeyi uygulamaya sokmaları beni heyecanlandırıyor.” Yapay zekanın kötüye kullanımını kınar ve buna engel olursak, bu teknolojinin dünyaya yardımcı olma potansiyeli çok büyük. Otonom olarak insanları öldürmeye karar veren yapay zeka fikri, biyolojik silahlar kadar iğrenç ve istikrarsızlaştırıcı bir düşünce. Bu yüzden aynı şekilde mücadele edilmeli.” diyor.

Google yapay zeka teknolojisinde şirketin izleyeceği etik kurallarına dair bir dizi prensip yayımlamıştı. Şirket politikasına göre, silahlarda, gözetleme teknolojilerinde ve bunun dışında uluslararası kanunlar ve insan haklarına uygun olmayan herhangi bir alanda yapay zeka geliştirilmeyecek ya da uygulamaya konulmayacak. Microsoft ise ABD Göçmenlik ve Gümrük Muhafaza kurumuyla yaptığı iş birliğinin sadece e-posta, takvim, mesajlaşma ve belge yönetimini kapsadığını, bu kuruma yüz tanıma teknolojisi sunmadığını belirtti. Şirket ayrıca geliştirdiği yüz tanıma teknolojisi için bir dizi prensip hazırlamak için çalışmalarını sürdürüyor.

2015’te Elon Musk Future of Life Institute’a yapay zekanın insanlığa nasıl yararlı olabileceğinin araştırılması için 10 milyon Dolar bağışta bulunmuştu. Geçtiğimiz yıl ise Musk, Hassabis ve Süleyman, Future of Life Institute tarafından Birleşmiş Milletler’e gönderilen ve otonom silah sistemlerinin düzenlenmesini talep eden mektuba imza atmıştı.

Kaynak: Engadget