Yapay zeka kıyametini engellemek için 23 yol

Dünyanın en başarılı yapay zeka uzmanları yapay zekanın aşırı gelişip dünyayı ele geçirmemesi için bir araya geldi ve 23 maddelik bir bildiri hazırladı.

Haber Özeti

Tam Sürüm

Bilim kurgu kitapları ve filmlerinin vazgeçilmez konularından birisi, robotların insanlardan daha zeki hale gelip dünyayı ele geçirmesidir. Dünyanın en başarılı yapay zeka uzmanları da bu felaket senaryosunun gerçeğe dönüşmemesi için bir araya geldi.

Daha önce Stephen Hawking ve Elon Musk gibi tanıdık kişilerin de dikkat çektiği bu konuyu tartışmak üzere Kaliforniya’nın Asilomar sahilinde bir araya gelen uzmanlar, gelecekteki yapay zeka araştırmalarını yönlendirmek üzere 23 prensip üzerinde anlaşma sağladı. Maddeler; araştırma konuları, etik ve değerler, uzun vadeli konular gibi çeşitli başlıklara ayrıldı. Bu başlıklar altında bilimcilerin hükumetlerle hangi şartlar altında çalışacağından, ölümcül silahların nasıl kullanılması gerektiğine kadar pek çok farklı konuya değiniyor. Maddeler şu şekilde:

Araştırma konuları

  1. Araştırmanın amacı: Yapay zeka araştırmasının amacı kontrolsüz bir zeka değil, faydalı bir zeka geliştirmek olmalıdır.
  2. Araştırma Fonlaması: Yapay zekaya yapılacak yatırımlar, teknolojinin yararını belirlemeye yönelik çalışmalar için gerekli fonlamaları da içermelidir. Bu çalışmalar, bilgisayar bilimleri, ekonomi, hukuk, etik ve sosyal çalışmalar konusunda, aşağıdaki gibi sorulara yanıt bulmak için yapılabilir:
    • Gelecekte yapay zeka sistemlerini; hacklenmeden, bizim istediğimiz gibi çalışacak şekilde nasıl geliştirebiliriz?
    • İnsanların kaynaklarını ve amaçlarını yok etmeden, otomasyonu kendi refahımızı artırmak için nasıl kullanabiliriz?
    • Yasal sistemimizi yapay zeka ile uyumlu ve etkili bir şekilde çalışacak hale nasıl getirebiliriz?
    • Hangi değerler yapay zeka ile ilişkilendirilmeli, yapay zeka hangi yasal ve etik konumlara sahip olmalıdır?
  3. Bilim-Siyaset İlişkisi: Yapay zeka araştırmacıları ve siyasetçiler arasında yapıcı ve sağlıklı bir ilişki olmalıdır.
  4. Araştırma Kültürü: Yapay zeka araştırmacıları ve geliştiriciler arasında bir iş birliği, güven ve şeffaflık kültürü oluşturulmalıdır.
  5. Yarıştan Kaçınma: Yapay zeka sistemleri geliştiren ekipler aktif bir şekilde iş birliği içinde olmalı ve güvenlik standartları konusunda kolaya kaçmak engellenmelidir.

Etik ve Değerler

  1. Güvenlik: Yapay zeka sistemleri, yaşam süreleri boyunca güvenli ve sağlam olmalıdır.
  2. Hata Şeffaflığı: Bir yapay zeka sistemi zarara sebep olursa, bunun sebebinin bilinebiliyor olması gereklidir.
  3. Yasal Şeffaflık: Herhangi bir otonom sistemin, yargı kararlarına dahil olması durumunda tatmin edici bir açıklama sunulmalı ve bu açıklama bir insan yetkili tarafından denetlenebilir olmalıdır.
  4. Sorumluluk: Gelişmiş yapay zeka tasarımcıları be üreticileri, bu ürünlerin kötüye kullanımı ve eylemleri sebebiyle ortaya çıkan ahlaki sonuçlarda pay sahibidir. Bu sonuçlar hakkında sorumlulukları ve bunları düzeltme imkanları bulunmalıdır.
  5. Değer Belirleme: Yüksek derecede otonom yapay zeka sistemleri, amaçları ve davranışları insan değerleri ile eşdeğer olacak şekilde tasarlanmalıdır.
  6. İnsan Değerleri: Yapay zeka sistemleri, ideal insani saygınlık, haklar, özgürlükler ve kültürel çeşitlilikler ile uyumlu bir şekilde tasarlanmalı ve yönetilmelidir.
  7. Kişisel Mahremiyet: İnsanların ürettikleri verilerin hangilerinin yapay zeka sistemlerine verileceğini belirleme ve kontrol etme hakkı olmalıdır.
  8. Özgürlük ve Mahremiyet: Yapay zekanın kişisel verilere uygulanması, kişilerin gerçek ya da algılanan özgürlüklerini sebepsiz yere kısıtlamamalıdır.
  9. Ortak Fayda: Yapay zeka teknolojileri mümkün olduğunca çok kişiye fayda ve güç sağlamalıdır.
  10. Ortak Refah: Yapay zeka tarafından oluşturulan ekonomik refah, geniş çevrelerce paylaşılmalı ve tüm insanlığa fayda sağlamalıdır.
  11. İnsan Kontrolü: İnsanlar kararları yapay zeka sistemlerine ne zaman ve ne şekilde bırakacaklarını kontrol edebilmelidir.
  12. Tahribat Karşıtlığı: İleri yapay zeka sistemleri tarafından kontrol edilen güç, toplumların sağlıklı yaşamının temel taşı olan toplumsal ve sivil süreçlere saygılı olmalı ve geliştirmeli, bu süreçleri tahrip etmemelidir.
  13. Yapay Zeka Silahlanma Yarışı: Ölümcül otonom silahlanma yarışı oluşması engellenmelidir.

Uzun vadeli konular

  1. Kapasite Önlemi: Herhangi bir fikir birliği olmadan, gelecekteki yapay zekaların yeteneklerinin üst sınırı konusunda güçlü tahminlerde bulunmaktan kaçınılmalıdır.
  2. Önem: İleri yapay zeka, insanlığın Dünya üzerindeki yaşam tarihinde önemli değişikliklere sebep olabilir. Buna göre yönetilmeli ve düzenlenmelidir.
  3. Riskler: Yapay zeka sistemleri tarafından ortaya konulan yıkıcı ya da varoluşsal riskler plan dahilinde, beklenen etkisinin ölçüsüyle orantılı bir şekilde azaltılmaya çalışılmalıdır.
  4. Tekrarlanan Öz-gelişim: Sayısını ve kalitesini hızla artıracak şekilde kendisini sürekli geliştirecek ve yeniden üretecek şekilde tasarlanmış yapay zeka sistemleri katı güvenlik ve kontrol önlemlerine tabi olmalıdır.
  5. Ortak Çıkar: Süperzeka sistemleri sadece insanlığın geneli tarafından kabul görmüş etik idealler ve tüm insanlığın faydası için geliştirilmelidir. Bir ülke ya da bir organizasyon için değil.
Kaynak: Science Alert

Bilim kurgu kitapları ve filmlerinin vazgeçilmez konularından birisi, robotların insanlardan daha zeki hale gelip dünyayı ele geçirmesidir. Dünyanın en başarılı yapay zeka uzmanları da bu felaket senaryosunun gerçeğe dönüşmemesi için bir araya geldi. Daha önce Stephen Hawking ve Elon Musk gibi tanıdık kişilerin de dikkat çektiği bu konuyu tartışmak üzere Kaliforniya'nın Asilomar sahilinde bir araya gelen uzmanlar, gelecekteki yapay zeka araştırmalarını yönlendirmek üzere 23 prensip üzerinde anlaşma sağladı. Maddeler; araştırma konuları, etik ve değerler, uzun vadeli konular gibi çeşitli başlıklara ayrıldı.

5 Yorum

Yorum yazmak için tıklayın

Yorumunuz:

  • Yapay zeka göründüğü kadarıyla ülkeler ve organizasyonlar bazında tartışılıyor ve çözümler araştırılıyor. Her şeyden evvel YZ bir insanlık halidir. Bazı konularda aciz kaldığımız ve otomatizme ihtiyacımız olduğu doğrudur. İnsan aklıyla, duygularıyla, vicdanıyla, karar mekanizmalarıyla her an hata yapabilir bir varlıktır. Biyolojik perspektiften de baktığımız da henüz yaradılış tarihimiz bile bir meçhuldür. Bazılarımız akıllı tasarıma inanıyor, bazılarımız primatların (maymunların) gelişmiş versiyonu olduğumuza inanıyor. İnsanlık henüz biyolojinin bir garabetidir. Hala Newton fiziğinin yasalarıyla yönetiliyor dünya. Ulusal ekonomi ve ulusal siyaset anlayışları Newtonizmdir. Her ulusun bir vagonu var. Bu vagonların içinde ve dışında müthiş çıkar çatışmaları ve bencillik var. Dünyayı içinde hiç bir ortak dayanışma ve ortak düzen ve ortak güvenlik anlayışının olmadığı, birimler bazında düşünürsek her ulusal birim kendi kurduğu mekanizmalarla kendi başının çaresine bakıyor. Dolayısıyla yaptığımız YZ tartışmalarının içinde organizasyon ve devletlerin çok acemice sergiledikleri korkaklık ve güvensizlik sendromları var. YZ hayata geçecekse 7,5 milyarlık dünya insanının ortak çıkarlarını garantileyecek bir Dünya Organizasyonu hayata geçirilmelidir öncelikle. Her bir fert dünyanın geleceğinden tek tek sorumludur. Yine iyiler ve kötüler olacaksa, yine zenginler ve fakirler olacaksa ve birbirlerine karşı çeşitli şekillerde organizeyse o zaman bu grupların YZ leride karşılıklı tavır mı alacaklar birbirlerine. O zaman kendilerine 35 yıllık YZ uzmanı diyenler ” Uygarlık doruğuna çıktığında her kes ölecek.” deyip saçmalayacaklar. Dünya ve insanlık evrende rastlanan eşsiz bir varlıktır. Ve onu korumak da tüm insan toplumlarının vazifesidir. Bu ortak sorumluluk ilkeleri ve prensipleri doğrultusunda oluşturulacaksa Yapay Zeka kullanışlıdır. Dünya artık Galaktik Gezegen niteliği edinmiştir. Ve bu geri dönüşsüzdür. Yıldızlara yıllar önce “biz buradayız” mesajları gönderdik. Bizimle iletişime geçecek dünyadışı uygarlıklara çizdik oynamıyoruz deme şansı yok dünyanın. Marsta koloniler kuracağız. Artık galaktik varlıklarız. Dünya bizim evimiz ise evimizin içini düzenlemek zorundayız. Dünya vatandaşı bilinci oluşturmalıyız. Hem de hızla. Eski hal muhal diyenler avcı toplayıcı, feodal, merkantilist kapitalist, sosyalist sistemler tarihin çöplüğüne atıldılar. Yok olanlar evrensel değişimi anlamayanlardır. Bu söylediklerim doğrultusunda gelirse Well come Yapay Zeka. Hoş gelmiş.

  • 21/11/2017 tarihli yorumumu aynen tekrarlıyorum. İnsanlık cephesinde yeni birşey yok. Sadece endişelenen bazı duyarlı eğitimli gruplar var. Muhakkak ki bu bir sorumluluk meselesi. Ve lakin mevcut durumda determinizm ya da nedensellik anlayışı ile yönetilen dünya ekonomik üretim biçimleri uygarlığımızı endüstri ötesi bir yüzyıla taşıdılar. İşler makinenin ve otomatizmin sorumlulukları yarı yarıya yükümlenebileceği parametrelere geldi dayandı. Şimdi artık yapay zekanın insan zekası seviyelerine vardırılması bir zorunluluk olmaya başladı. Islak beyin ve ıslak hücre ile silikon beyin ve silikon hücrenin bir rekabete girişecekleri şimdilik eşyanın tabiatına aykırı. Bu durumun gezegenden gezegenlerarası sürecin ilerideki tarihlerinde uzayda olabileceğini düşünüyorum. Ve bu olgununda kendisini dayatan bir zorunluluk olacağını hesabediyorum. Zira insan beyni gezegenlerarası binlerce ışık yılı uzaklıklara şimdiki 3uzay1zaman öğretilmiş-alışılmış teknik ve teknolojilerle rahatlıkla ve ciddi sağlık sorunlarıyla karşılaşmadan varabilecek potansiyelde değil. İnsan ırkının geleceğinde belki de bu ileri gelişim sürecinin bir üst basamağı olacakmış düşüncesindeyim. Gezegen bilimi uzun ömürlülük ve hastalıklarla savaşımı ön plana almak durumundadır. Dünya nüfusunun ekonomik yönlerden tutarlı geçim seviyesi sağlanmalıdır. Eğitim olmazsa olmazıdır diye de belirtelim. Yeniden yontma taş devrindense bilgi çağı ve endüstri ötesi çağ daha iyidir. O takdirde işleri kader ve kadercilik değil, çağdaş uygarlık seviyesi perspektiflerinde değerlendirmek gerekmektedir. Saygı ve sevgiyle kalın. 17/09/2018

  • Kapitalist iletişim çağı yani bilim çağı bu sağduyulu tespitler doğrultusunda pratik hayatta fazla birşeyler yapabilecek şansa sahip değil. Çünkü tarihin tekeri ters çevrilmez. Bu determinist gidişat dünyanın iktisadi ve sosyal düzenidir. Fani kurmuşsun temeli diyorsa bir türküde. Özce dünya yeni baştan sağduyu ve akıl doğrultusunda insani ve hakça yeniden planlanmalıdır. Şimdiki doğrultuda post endüstriyel çizgi ruh yada enerji bedeni ve zekayı metal bedenlere aktarır. Ve lakin insan formu elde etmesi programlanabilir madde keşfini zorunlu kılar. İnsan ömrünün yüz sene ile sınırlı olduğunu hesap edersiniz yapay suni zekalı varlıkları charge yaptığımızda sonsuz yaşamın versiyonları deneyimlemir. 16.10.2018

  • Türkiye İş Bankası'nın katkılarıyla

Bülten Aboneliği

Günlük haberleri eposta bültenimizle takip edin!

Teşekkür ederiz.

Bir terslik var...