Telefonun ucundaki yapay zeka insanları korkutuyor

Google’ın geçtiğimiz günlerde gerçekleştirdiği I/O konferansında tanıttığı yapay zekalı asistanı Google Duplex, fazla insansı konuşmasıyla duyanları hem şaşırttı hem de korkuttu. Pek çok kişi Duplex’in insan gibi konuşmasından rahatsız olduğunu dile getirdi.

Google’ın sahnede yaptığı tanıtımda yapay zekalı asistanın, kullanıcıdan gelen talep üzerine herhangi bir yeri arayıp randevu alabildiği ve bunu yaparken insan olmadığını anlamanın imkansız olduğu görüldü. Öyle ki Duplex konuşmanın uygun noktalarında düşünüyormuş gibi ya da karşısındaki onaylıyormuş gibi ‘hımm’ ya da ‘hıhı’ şeklinde sesler de çıkarıyordu. Tanıtımın hiçbir noktasında Duplex konuştuğu kişiye kendisinin bir robot olduğunu söylemedi.

“Silikon Vadisi etik anlayışını kaybetmiş”

Bu durum çoğu kişinin rahatsız olmasına yol açtı. Kimileri konuşmaları ‘rahatsızlık verici‘ olarak tanımlarken kimilerine göre ise robot asistanın tavırları ‘dehşet uyandırıcıydı’. Harvard Üniversitesi Berkman İnternet ve Toplum Merkezi’nden Yardımcı Doçent Zeynep Tüfekçi konu hakkında attığı tweet’te “Silikon Vadisi etik anlayışını kaybetmiş, rotasını yitirmiş ve hiçbir şey öğrenmemiş.” ifadelerini kullandı. Tüfekçi yapay zekanın kelimelerin arasında düşünüyormuş gibi kullandığı insan seslerini, “karşıdaki insanı kandırmaya çalışmak” şeklinde yorumladı.

Google Assistant making calls pretending to be human not only without disclosing that it's a bot, but adding "ummm" and "aaah" to deceive the human on the other end with the room cheering it… horrifying. Silicon Valley is ethically lost, rudderless and has not learned a thing.

— zeynep tufekci (@zeynep) May 9, 2018

Google tepkilerin ardından yaptığı açıklamada Duplex’in karşıdaki kişiye, kendisinin aslında bir yapay zeka ürünü olduğunu söyleyeceğini açıkladı.

Duplex bu yaz Google Asistan üzerinden denenebilecek. Kullanıcılar bu teknolojiyi rezervasyon yapmak ya da randevu almak gibi işler için kullanabilecek.

Kaynak: Technology Review