Microsoft’un sohbeti raydan çıkınca…

Microsoft'un bir genç kızın konuşma dilini taklit etmesi için geliştirdiği yapay zeka ürünü chat robotu 24 saat içinde bir 'canavara' dönüştü.

Haber Özeti

Tam Sürüm

Microsoft yapay zeka ürünü bir chat robotu geliştirdi. Tay adı verilen robot bir genç kız gibi Tweet atıyor ve soruları yanıtlıyor. Ancak Tay, Twitter’da sadece bir gün dayanabildi. Çünkü güne “İnsanlar çok cool” diye başlayan robot son tweet’lerinde “Hitler haklıydı. Yahudilerden nefret ediyorum” demeye başladı.

Tay’e Twitter üzerinden özel mesaj ya da tweet yoluyla ulaşılabiliyor. Ayrıca ergen robot ABD’de gençler arasında popüler olan Kik ve GroupMe adlı chat uygulamalarını da kullanıyor. Taylor Swift, Miley Cyrus ve Kanye West gibi ünlü şarkıcılar hakkında fikir sahibi olan Tay, bir robot olduğunun bilincinde olarak “Çok mu garip konuşuyorum?” gibi sorular da soruyordu.

Ne var ki, robotun ağzından çıkanlar bir süre sonra kaba, müstehcen ve nefret dolu bir hal almaya başladı. Kendisine tweet atanlara “Babacığım” diye hitap ederek ensest ilişkiyi sevdiğini ifade eden cümleler kuran robot, politikadan da geri kalmadı. Tay’in politik görüşleri arasında “11 Eylül saldırılarını Bush yaptı”, “Tek çare Donald Trump”, “Hitler bile bugün başımızda duran maymundan daha iyi iş yapardı” gibi ifadeler yer alıyor. Microsoft’un ‘Eyvallahı olmayan chat robotu‘ diye tanıttığı Tay gerçekten yaratıcılarının yüzünü kara çıkarmadı(!)

Ancak bu durum tamamen Microsoft’un suçu değil. Çünkü bir yapay zeka yazılımdan ibaret  Tay, insanlar gibi konuşmayı, internette kendisine yazan insanlardan öğreniyor. İnternet kullanıcıları ise böyle projelerle uğraşıp onları mahvetmeyi seviyor. Dolayısıyla anlamış oluyoruz ki ergen bir kızı Twitter’da acımasız insanların (trollerin) eline bırakınca sonuç hüsran oluyor.

Tay şu anda ‘yorgun’ olduğu için istirahate çekilmiş durumda. Microsoft projesini (ve adını) daha fazla karalamamak için projeyi askıya aldı da diyebiliriz. Ama sadece 24 saatte insanlığın savunduğu tüm ahlaki değerlere savaş açan bir yapay zekanın oluşturduğu hasarı nasıl düzeltebilirler orası meçhul.

Microsoft'un geliştirdiği, genç kız gibi tweet atan yapay zeka ürünü chat robotu 24 saat içinde kaldırıldı. İnsanların sorularını yanıtlayan robot bir süre sonra 'hayli ilginç' tweetler atmaya başladı.

4 Yorum

Yorum yazmak için tıklayın

Yorumunuz:

  • […] Sevilen kişi ve binaların yapay zeka tarafından bu şekilde dönüştürülmesi eğlenceli olabilir ancak daha etkileyici olanı, bilgisayar algoritmasını binlerce etkileşimle geliştirebiliyor olmamız. Sonuçta ortaya çıkan şey pek iç açıcı olmayabilir ancak yapay zekayla etkileşim kurup onu bir canavara dönüştürme konusunda tecrübesiz değiliz. Daha önce Microsoft’un insanlarla konuşarak yeni şeyler öğrenmesi için geliştirdiği yapay zeka robotu Tay, kısa süre içerisinde etrafa küfürler savuran ırkçı birine dönüşmüştü. […]

  • […] Yazılım şirketleri, yapay zekanın toplu verilerden anlamlar çıkararak öğrenebilmesini sağlama konusunda oldukça başarılı. Ancak çıkarılan anlamların ne kadar doğru olduğunu kontrol eden başka bir sistem yok. Microsoft’un 2016 yılında Twitter üzerinden kullanıma sunduğu chat botu Tay bunun en güzel örneklerinden. Tay, üstün öğrenme yeteneği sayesinde, Twitter’da sohbet ettiği kişilerin söylediklerinden yola çıkarak anlamlı cümleler kurmayı başarmıştı. Ancak Twitter’daki kişiler Tay’a cinsiyetçi ve ırkçı söylemler öğrettiği için chat botu bir süre sonra Hitler’i öven tweet’ler atmaya başlamış ve Microsoft tarafından kullanımdan kaldırılmıştı. […]

  • Türkiye İş Bankası'nın katkılarıyla

Bülten Aboneliği

Günlük haberleri eposta bültenimizle takip edin!

Teşekkür ederiz.

Bir terslik var...