Otonom silahlarla ilgili distopik bir kısa film: Slaughterbots

Bu hafta İsviçre’nin Cenevre kentinde gerçekleştirilecek AB Konvansiyonel Silahlar Toplantısı hazırlıkları kapsamında, Yaşamın Geleceği Enstitüsü (Future of Life Institute) bir kısa film yayınladı. Slaughterbots adlı kısa film, otonom silahlar hakkında uluslararası bir anlaşma sağlanmaması halinde ne gibi tehditerle karşı karşıya olduğumuzu gözler önüne seriyor.

Şu anda ABD Ordusu tarafından kullanılan drone’lar insanlara muhtaç fakat yapay zeka alanında yaşanan hızlı gelişmeler sayesinde drone’ların yakın zaman insan faktörünü aşarak otonom ölüm makinelerine dönüşmesi mümkün görünüyor. Birçoğu yapay zeka alanında çalışan ve sayıları giderek artan bir grup endişeli insan, buna asla izin verilmemesi gerektiğini zira bu tür silahların savaş çıkmasını kolaylaştırabileceğini, insan yaşamını daha ucuz hale getireceğini ve teröristleri güçlendireceğini düşünüyor. 

“1950’lerde yaşıyoruz gibi davranıyorlar.”

Kaliforniya Üniversitesi’nde yapay zeka araştırmacısı Stuart Russel, “Slaughterbots’un yapım sürecine katkıda bulundum çünkü film karşı karşıya olduğumuz durumu açık şekilde özetliyor. Devlet bakanları sanki 1950’lerde yaşıyormuşuzcasına makinelerin ‘tam otonom’ olup olamayacaklarını, ‘insan gibi karar verip veremeyeceğini’ tartışırken toplu katliama sebep olabilecek nitelikte silahlar üreten teknoloji hızla ilerliyor. Russel, yapay zekanın insanlık için oldukça faydalı olabileceğini inkar etmiyor fakat “Makinelerin kimi öldüreceğine karar vermelerine izin vermek güvenliğimiz ve özgürlüğümüz açısından yıkıcı olacaktır.” diyor.

Slaughterbots, Black Mirror’a oldukça benzer bir tarzda üretildi ve film yakın gelecekte geçiyor. Filmde, StratoEnergetics adlı kurmaca şirketi, yapay zeka destekli yeni ve küçük öldürücü drone’larını piyasaya sürmeye hazırlanırken görüyoruz. Bundan sonra işlerin rengi değişiyor. Kötü insanların eline geçen drone’lar siyasileri, siyasal eylemcileri ve hatta öğrencileri hedef alarak birer suikast aracına dönüşüyor. Film, bu tür silahları üretmenin ne kadar kolay ve bu silahlara karşı önlem almanın ne kadar zor olacağını gösteriyor.

Endişe giderek artıyor

Yaşamın Geleceği Enstitüsü iki yıl önce, otonom ölüm makinelerinin yasaklanması için çıkarılan ve 20 binden fazla insanın imzaladığı bir açık mektup yayımlamıştı. Daha yakın zamanda da yapay zeka profesörü Toby Walsh benzer bir açık mektup yayımladı. Yapay zekanın ölümcül gücüyle ilgili endişelerin son örneğinde ise 300’den fazla Kanadalı ve Avustralyalı bilimci kendi devlet başkanlarına çağrıda bulunarak yapay zekanın silah olarak kullanımına yasak getirilmesini talep etti. Yaşanan gelişmelerin sıklığı, bu ölümcül silahları üretmeye ve kullanmaya ne kadar yakın olduğumuzu gösteriyor. Slaughterbots kısa filminin sonunda yer alan autonomousweapons.org adresinden ölümcül otonom silahların yasaklanmasıyla ilgili daha detaylı bilgilere ve haberlere erişilebilir.

Kaynak: Gizmodo