Komutlara ‘hayır’ diyebilen robotlar

Kendisine zarar verme ihtimali olan komutlara karşı gelebilen robotlar geliştirildi. Güvenlik amacıyla da olsa robotların itaatsizliği endişe yaratıyor.

Haber Özeti

Tam Sürüm

Bilim kurgu yazarları insanları robotlardan gelebilecek tehlikelere karşı ne kadar uyarırsa uyarsın, maceraperest araştırmacılar robotlar üzerinde tehlikeli deneyler yapmaya devam ediyor. Tufts Üniversitesi mühendislerinden Gordon Briggs ve Dr. Matthais Scheutz, insanların komutlarına karşı gelebilen robotlar geliştirdi.

Aklınıza hemen insanları öldürmeye niyetli Terminatör benzeri robotlar gelmesin. Bu çalışma aslında Isaac Asimov‘un tarafından belirlenen ‘3 robot yasası‘nın üçüncü maddesini uygulamak amacıyla geliştirilmiş gibi duruyor. Yani bir robotun kendi benliğini koruması amaçlanıyor. Ancak Asimov bu yasanın aynı zamanda ikinci maddede belirtilen “Robotlar insanların komutlarına uymak zorundadır” yasası ile çelişmemesi gerektiğini söylüyor.

Emre itaatsizliğin sebebi güvenlik

Aslında Shafer ve Dempster adlı robotların, kendilerine verilen komutları sorgulaması kötü bir özellik değil. Örneğin bir masanın üzerinde dururken dümdüz yürümesi söylendiğinde buna itiraz eden robotun amacı yere düşüp kırılmasını önlemek. Üstelik komutu veren kişi “Merak etme ben seni tutarım” şeklinde mantıklı bir öneri sunduğunda robot itiraz etmekten vazgeçiyor ve kendisine verilen komutu yerine getirerek boşluğa doğru yürüyor.

Benzer bir şekilde, bir engele doğru yürümesi istenen robot (Shafer) önce buna itiraz ediyor. Daha sonra kendisine önündeki engelin sert bir yapıda olmadığı söylendiğinde robot önünde dizilmiş teneke kutulara doğru yürüyor. Yani robotlar kendilerine bir zarar gelmeyeceği konusunda bilgilendirildiklerinde komutlara yine sorgusuz bir şekilde itaat ediyor.

Robotların çalışma prensiplerini belirlerken hangi konulara önem verileceği konusu uzun süredir tartışılan ve ortak bir sonuca ulaşmamış bir konu. Pek çok uzman robotların insanlara zarar verme kapasitesine sahip olmaması gerektiğini düşünüyor. Ancak askeri alanda geliştirilen ve tek amacı öldürmek olan robotlar üretme çalışmaları devam ediyor. Bu robotların bir insana zarar vermeyi reddetmesi ve verilen komutlara itaat etmemesi  varoluş amaçlarına ters bir durum oluştururdu.

Robotların ahlaki değerleri olmalı mı?

Öte yandan robotların insan komutlarına uymak yerine kendi ahlaki değerlerinin bulunması da bir başka öneri. Ancak bu ahlaki değerlerin insanların çıkarlarıyla çatışması durumunda robotların kontrolünü sonsuza dek kaybetme riskimiz de bulunuyor. Ünlü fizikçi Stephen Hawking ve girişimci Elon Musk geçmişte yapay zekanın kontrolden çıkma ihtimaline karşı insanları uyarmıştı.

Görünen o ki bu tarz uyarılar, daha yeni şeyler üretmek isteyen araştırmacıları ve daha güçlü olmak isteyen orduları durdurmayacak. Tıpkı bilim kurgu filmlerinde gördüğümüz gibi uyarıda bulunan bilimcilerin ve felsefecilerin fikirleri dikkate alınmayacak. Sonuçta kaderimiz, kendi ürettiğimiz robotların ahlaki değerlerine bağlı olabilir. Bunu zaman gösterecek.

Kaynak: Daily Mail

Tufts Üniversitesi mühendislerinden Gordon Briggs ve Dr. Matthais Scheutz, insanların komutlarına karşı gelebilen robotlar geliştirdi. Masanın üzerindeyken kendisine dümdüz yürümesi söylenen robotlar, aşağıya düşme ihtimalini göz önünde bulundurarak bu komuta karşı geliyor. Benzer bir şekilde, önünde bir engel olduğunu gören robot o yöne doğru yürümeyi reddediyor. Ancak araştırmacılar robotları, bu eylemi gerçekleştirmekte herhangi bir sorun olmadığına ikna ettiklerinde robotlar verilen komutları yerine getiriyor. Bu sorgulamanın sebebi aslında sadece güvenlik olsa da yapay zekanın insan kontrolünden çıkması konusundaki endişeleri artırıyor.

1 Yorum

Yorum yazmak için tıklayın

Yorumunuz:

  • Türkiye İş Bankası'nın katkılarıyla

Bülten Aboneliği

Günlük haberleri eposta bültenimizle takip edin!

Teşekkür ederiz.

Bir terslik var...