Avrupa Komisyonu yapay zekanın etik prensiplerini tartışıyor

Avrupa Komisyonu tarafından görevlendirilen 52 bağımsız uzman, yapay zeka prensipleri taslak raporunu yayımladı.

Haber Özeti

Tam Sürüm

Öyle ya da böyle ABD ve Çin gibi güçlü rakipleri karşısında Avrupa kendini yapay zeka (YZ) yarışında ayrı bir yere koyacak bir yaklaşım geliştirmek zorunda. Aslında tam olarak bir yarışın olduğunu söylemek de güç. Eldeki son bilgilere göre Avrupa’daki YZ yatırımları 2016 yılında yaklaşık 3-4 milyar Dolar iken Asya’nın yatırımları 8-12 milyar Dolar civarında. Kuzey Amerika’nın yatırımları ise 15-23 milyar Dolar civarında.

Önümüzdeki 10 yılda aradaki yatırım açığını kapatmayı uman Avrupa Komisyonu, şimdi de kendini farklı bir YZ’nin (temel hak ve etik kurallara saygı gösteren ‘güvenilir YZ’) öncüsü olarak konumlandırmaya çalışıyor. Bu bir halkla ilişkiler çalışması mı yoksa gerçekten bir yenilik mi? Tahminen ikisi de değil, bunlardan ziyade dengeli bir yaklaşım için araştırma çabası.

YZ’nin topluma etkileri hakkında söylenebilecek olumlu ve olumsuz pek çok şey var. Örneğin YZ kanser tedavisini daha az zehirli yapabilir ya da olası insan kaçakçılığı kurbanlarını tespit etmekte kullanılabilir. Bunun yanında yüz tanıma teknolojisiyle dünya çapında bir sivil gözlem ağının oluşturulmasına yardımcı olabilir. Hatta YZ insan haklarını tehlikeye atacak, insan müdahalesi olmadan hedefini seçip yok edecek katil robotların hayata geçmesini de sağlayabilir.

Hayatımızda yaşayacağımız bu değişimi, risklerin azaltıldığı ve faydaların çoğaltıldığı uygun bir amaca yönlendirmek adına Avrupa Komisyonu, akademiyi, sanayiyi ve sivil toplumu temsil eden 52 bağımsız uzmandan oluşan çalışma grubunu geçtiğimiz Nisan ayında görevlendirdi. Bu grup, 18 Aralık’ta YZ’nin geliştirilmesi ve kullanılması üzerine etik prensipleri içeren ilk taslak çalışmayı yayımladı.

37 sayfalık rapordaki bazı kaygılar yukarıda aktarılan risklerle de bağlantılı. Bunlardan başında “izinsiz kimlik saptaması” var. YZ ile güçlendirilmiş yüz tanıma teknolojisine sahip yazılımlar toplu takibi yeni bir boyuta taşıyacak.

Henüz bu uygulama Çin gibi merkezi sistemlerin kuvvetli olduğu ülkelerle sınırlı olsa da yakın zamanda tüm dünyada yaygın şekilde kullanılabilir. Yakın zamanda Birleşik Krallık polisinin Noel alışverişi yapanları yüz tanıma yöntemleriyle test ettiğine yönelik açıklaması buna örnek gösterilebilir.

Bu uygulamanın suistimal edilmesini önlemek adına vatandaşların rızasının alınması gerekiyor ki bu söylenildiği kadar kolay hayata geçebilecek bir şey değil. Londra örneğinde görüldüğü gibi yüz tanıma sistemlerinin kullanıldığı her yerde belirtilse ve geçenlerin izlemeden çıkmayı isteme şansları olsa bile, izlenmeye izin vermemek ve kameralardan kaçınmak sizi otomatikman şüpheli konumuna sokuyor.

Bir diğer kaygı ise insan gibi davranan ‘gizlenmiş YZ sistemleri’ konusunda. Kuaförü arayan Google Asistan ya da Hiroshi Ishiguro tarafından yapılan insansı robotları bir düşünün. Raporu hazırlayan uzmanlar bu sistemlerin topluma nüfus etmesinin insanlık algımızı değiştireceğini ve insan olmanın değerini azaltacağını belirtiyor.

Aynı şekilde, ‘vatandaşların puanlanmasını’ esas alan sosyal kredi de özünde kötü olmayan hatta alışık da olduğumuz (okulda kullanılan puanlama sistemleri ya da ehliyet alırken kullanılanlar gibi) bir sistem. Fakat şeffaf olmayan sistemler de (Çin’in sosyal kredi sistemi gibi) işleri her anlamda zorlaştıracak.

Yayınlanan taslak etik prensiplerine göre eğer kısıtlı bir sosyal grup içerisinde vatandaş puanlama sistemi uygulanmak istenirse, puanlama sisteminin nasıl olduğuna dair bilgi verilmesi, puanlamanın amacı ve metodolojisinin ne olduğunun açıklanması ve istenirse puanlama sisteminden çıkma fırsatı da verilmesi gerekiyor. Tabii bu da söylemesi uygulamasından kolay bir prensip. Çin kadar geniş kapsamlı olmasa da dünyanın hiçbir yerinde bir politikacı veya ilgili hükumet birimi vatandaşlarının her türlü isteğini bilebileceği ve ona göre ceza ve ödül sistemi uygulayabileceği bir yöntemi kullanmaya karşı koyamaz gibi duruyor. Avrupa Komisyonu’nun da tam olarak YZ sistemlerinde kontrol etmek istediği konulardan biri de bu.

Ölümcül otonom silahları ya da daha çok bilinen adıyla katil robotları denetlemek için aslında geç kalınmış da olabilir. Bu sistemleri yasaklamak adına yapılan ilk düzenleme Eylül ayında ABD, Rusya, Güney Kore, İsrail ve Avustralya’nın da içerisinde bulunduğu bir grup tarafından reddedildi.

Bu sistemler seçici öldürme eyleminde (örneğin çocukların hedef alınmaması gibi) başarılı olabilse de, raporu hazırlayan uzmanların görüşü şu şekilde: “Nerede, ne zaman, kimi öldüreceklerine herhangi bir insan müdahalesi olmadan kendilerinin karar verebilecek olması tarihte görülmemiş bir silahlanma yarışını beraberinde getirebilir ve sonuç olarak insan kontrolünün gerekli olmayacağı savaş durumları oluşabilir.”

18 Ocak’a kadar görüşlere açık olacak taslağın nihai hali, yorumlar ve geri dönüşler doğrultusunda Mart ayında yayımlanacak.

Kaynak: Forbes

Avrupa Komisyonu tarafından görevlendirilen uzmanlar yapay zekanın geliştirilmesi ve kullanılması üzerine etik prensipleri içeren ilk taslak çalışmayı yayımladı. Rapor genel olarak yapay zeka ile ilgili kaygılar için nasıl bir etik çerçeve geliştirilmesi gerektiğini açıklıyor. Raporun nihai hali, yorumlar ve geri dönüşler doğrultusunda Mart ayında yayımlanacak.

2 Yorum

  • YZ, seçilmişleri ve kamu görevlilerini denetlesin. Halk adına alınan kararların ve yapılan işlerin doğruluğu, görevlilerin işlerini ne kadar düzgün yaptığı, kişisel çıkar elde edip etmedikleri, kaynakların kötüye kullanılıp kullanılmadığı gibi şeyler her zaman denetlenmeye muhtaç ve bu denetimin sonucu da kamuya açık olmalı nihayetinde…

    • Yapay zekanın akıbetini ellerinde bulunduran siyasilerin kendilerini denetlettirme gibi bir olaya girmesi özellikle dünyanın bu haliyle mümkün değil.Şu an umulabilecek en önemli şey yapay zekanın insanların kötü emellerine alet olmamasıdır.Bir tık ötesi ne kadar uç bir ihtimal olsa da kendi bilincine sahip olan yapay zekanın bunu kötüye yorarak insan ırkını tehdit etmesidir.

Yorum yazmak için tıklayın

Yorumunuz:

Bülten Aboneliği

Günlük haberleri eposta bültenimizle takip edin!

Teşekkür ederiz.

Bir terslik var...

Dünya Halleri sitesi 6 Ağustos 2019 tarihinde yayın hayatını noktalamıştır.

Haber Özeti

Tam Sürüm

Dünya Halleri sitesi 6 Ağustos 2019 tarihinde yayın hayatını noktalamıştır.

Avrupa Komisyonu tarafından görevlendirilen uzmanlar yapay zekanın geliştirilmesi ve kullanılması üzerine etik prensipleri içeren ilk taslak çalışmayı yayımladı. Rapor genel olarak yapay zeka ile ilgili kaygılar için nasıl bir etik çerçeve geliştirilmesi gerektiğini açıklıyor. Raporun nihai hali, yorumlar ve geri dönüşler doğrultusunda Mart ayında yayımlanacak.