Komutlara ‘hayır’ diyebilen robotlar

Bilim kurgu yazarları insanları robotlardan gelebilecek tehlikelere karşı ne kadar uyarırsa uyarsın, maceraperest araştırmacılar robotlar üzerinde tehlikeli deneyler yapmaya devam ediyor. Tufts Üniversitesi mühendislerinden Gordon Briggs ve Dr. Matthais Scheutz, insanların komutlarına karşı gelebilen robotlar geliştirdi.

Aklınıza hemen insanları öldürmeye niyetli Terminatör benzeri robotlar gelmesin. Bu çalışma aslında Isaac Asimov‘un tarafından belirlenen ‘3 robot yasası‘nın üçüncü maddesini uygulamak amacıyla geliştirilmiş gibi duruyor. Yani bir robotun kendi benliğini koruması amaçlanıyor. Ancak Asimov bu yasanın aynı zamanda ikinci maddede belirtilen “Robotlar insanların komutlarına uymak zorundadır” yasası ile çelişmemesi gerektiğini söylüyor.

Emre itaatsizliğin sebebi güvenlik

Aslında Shafer ve Dempster adlı robotların, kendilerine verilen komutları sorgulaması kötü bir özellik değil. Örneğin bir masanın üzerinde dururken dümdüz yürümesi söylendiğinde buna itiraz eden robotun amacı yere düşüp kırılmasını önlemek. Üstelik komutu veren kişi “Merak etme ben seni tutarım” şeklinde mantıklı bir öneri sunduğunda robot itiraz etmekten vazgeçiyor ve kendisine verilen komutu yerine getirerek boşluğa doğru yürüyor.

Benzer bir şekilde, bir engele doğru yürümesi istenen robot (Shafer) önce buna itiraz ediyor. Daha sonra kendisine önündeki engelin sert bir yapıda olmadığı söylendiğinde robot önünde dizilmiş teneke kutulara doğru yürüyor. Yani robotlar kendilerine bir zarar gelmeyeceği konusunda bilgilendirildiklerinde komutlara yine sorgusuz bir şekilde itaat ediyor.

Robotların çalışma prensiplerini belirlerken hangi konulara önem verileceği konusu uzun süredir tartışılan ve ortak bir sonuca ulaşmamış bir konu. Pek çok uzman robotların insanlara zarar verme kapasitesine sahip olmaması gerektiğini düşünüyor. Ancak askeri alanda geliştirilen ve tek amacı öldürmek olan robotlar üretme çalışmaları devam ediyor. Bu robotların bir insana zarar vermeyi reddetmesi ve verilen komutlara itaat etmemesi  varoluş amaçlarına ters bir durum oluştururdu.

Robotların ahlaki değerleri olmalı mı?

Öte yandan robotların insan komutlarına uymak yerine kendi ahlaki değerlerinin bulunması da bir başka öneri. Ancak bu ahlaki değerlerin insanların çıkarlarıyla çatışması durumunda robotların kontrolünü sonsuza dek kaybetme riskimiz de bulunuyor. Ünlü fizikçi Stephen Hawking ve girişimci Elon Musk geçmişte yapay zekanın kontrolden çıkma ihtimaline karşı insanları uyarmıştı.

Görünen o ki bu tarz uyarılar, daha yeni şeyler üretmek isteyen araştırmacıları ve daha güçlü olmak isteyen orduları durdurmayacak. Tıpkı bilim kurgu filmlerinde gördüğümüz gibi uyarıda bulunan bilimcilerin ve felsefecilerin fikirleri dikkate alınmayacak. Sonuçta kaderimiz, kendi ürettiğimiz robotların ahlaki değerlerine bağlı olabilir. Bunu zaman gösterecek.

Kaynak: Daily Mail