Dünyanın ilk psikopat yapay zekası: Norman

Yapay zekanın karanlık tarafa geçmesiyle ilgili film ya da dizi bulmak hiç de zor değil. Robotların istenmeyen şekilde davranması ve dünyaya kaosun hakim olması, Hollywood‘da oldukça popüler bir hikaye. Ancak bilimciler bu kez yanlışlıkla değil, bilinçli bir şekilde kötü niyetli bir yapay zeka yarattı. Norman adı verilen yapay zeka, psikopat gibi davranması için eğitildi.

Çalışmada MIT araştırmacıları Norman’a (ünlü Sapık filminden esinlenilmiş) şiddet ve korku ögeleri içeren görseller göstererek onu eğitti. Daha sonra Norman ünlü Rorschach testine tabi tutuldu. Sonuçlar oldukça ürperticiydi.

“Ölen insanlar görüyorum”

Bir görselde standart bir yapay zeka ‘içinde çiçekler olan bir vazo’ görürken Norman ‘bir adamın silahla vurulduğunu‘ gördü. Bir başka görselde standart yapay zeka ‘gökyüzünde bir şemsiye’ gördü. Norman ise ‘çığlık atan eşinin önünde vurularak öldürülen bir adam‘ gördü. Standart yapay zekanın ‘yan yana duran bir çift’ gördüğü görselde ise Norman ‘hamile bir kadının yüksek bir binadan düştüğünü‘ gördüğünü söyledi. Araştırmacılar, sürekli olumsuz görsellere ve depresif düşünceye maruz kalan Norman’ın empati mantığını harekete geçiremediğini belirtti.

Rahatsız edici çalışma, makine öğreniminde algoritmaya sunulan verilerin, elde edilen sonucu nasıl etkilediğini göstermeyi amaçlıyor. Algoritmaların taraflı ya da adaletsiz olduğu düşünüldüğünde aslında sorun algoritmanın kendisinde değil, onu geliştirmek için seçilen verilerde. Bu durum ciddi sonuçlara yol açabilir. Gelecekte yapay zekanın insanlarla birebir iletişime geçtiği ve karar aldığı alanlarda taraflı hatta ırkçı sonuçlar üretmemesi için geliştirme aşamasında kullanılan verilere dikkat edilmesi gerekiyor. Norman örneğinden yola çıkarsak gelecekte yapay zeka insanların güvenliğini bile tehdit edebilir.

Kaynak: Engadget