Haber Özeti
Tam Sürüm
Yapay zeka algoritmaları, ortalama bir insanı kandırabilecek nitelikte yazılar üretebiliyor. Bu da toplu şekilde yalan haber, sahte yorum ve sahte sosyal medya hesabı üretilme tehlikesiyle karşı karşıya olduğumuz anlamına geliyor. Neyse ki yakın zamanda yapay zekanın ürettiği sahte metinleri tespit edebilen yapay zeka geliştirildi.
Harvard Üniversitesi ve MIT-IBM Watson Yapay Zeka Laboratuvarı‘ndan araştırmacılar, yapay zeka kullanılarak üretilen metinleri tespit edebilen yeni bir araç geliştirdi. Giant Language Model Test Room (kısaca GLTR) adı verilen araç, yapay zekayla metin yazılırken kelimelerin ya da cümlelerin gerçek anlamına değil metindeki istatistiksel örüntülere önem verilmesi durumunu dikkate alarak işliyor. Başka bir deyişle GLTR, okuyor olduğunuz metnin bir insan tarafından yazılamayacak kadar tahmin edilebilir olduğunu söyleyebiliyor.
Günümüzde sahte haber ve resim üretme teknolojileri hızla gelişiyor. Bu yüzden Giant Language Model Test Room gibi yapay zekalı araçlar, sahte haberleri, Twitter botlarını ya da deepfake videolarını tespit etme savaşında güçlü bir silah görevi görebilir.
GLTR, kendisinden önceki kelimenin ardından görünme ihtimali istatistiksel olarak muhtemel olan kelimeleri vurguluyor. Yukarıdaki görselde gördüğünüz üzere, en tahmin edilebilir kelimeler yeşille, daha az tahmin edilebilir kelimeler kırmızı ve sarıyla, en az tahmin edilebilir kelimeler ise morla vurgulanıyor. OpenAI algoritması tarafından yazılmış bir metnin küçük bir kısmıyla yapılan denemede çok sayıda tahmin edilebilir kelime tespit edildi. Gerçek haber makaleleri ve bilimsel makale özetleri ise tahmin edilebilirlik açısından daha fazla sürpriz barındırıyor.
Yapay zeka insanlardan daha başarılı bir sonuç çıkardı
GLTR’ı geliştiren araştırmacılar başka bir deney daha yaptı. Harvard Üniversitesi öğrencilerine yapay zeka tarafından üretilen metinler vererek o metnin gerçek mi sahte mi olduğuna karar vermelerini istediler. Öğrenciler ilk önce GLTR kullanmadan daha sonra da GLTR kullanarak tahminde bulunmaya çalıştı. Yapay zeka aracını kullanmadıkları denemelerde sahte haberlerin sadece yarısını tespit edebilirken kullandıkları denemelerde başarı oranı yüzde 72’ye çıktı. Çalışmaya katılan doktora öğrencisi Sebastian Gehrmann “Hedefimiz insan ve yapay zeka iş birliği sistemleri yaratmak.” diyor.
Kaynak: MIT Technology Review
Bir grup araştırmacı, yapay zeka kullanılarak üretilen metinleri tespit edebilen yeni bir araç geliştirdi. Giant Language Model Test Room (kısaca GLTR) adı verilen araç, yapay zekayla metin yazılırken kelimelerin ya da cümlelerin gerçek anlamına değil metindeki istatistiksel örüntülere önem verilmesi durumunu dikkate alarak işliyor. Başka bir deyişle GLTR, okuyor olduğunuz metnin bir insan tarafından yazılamayacak kadar tahmin edilebilir olduğunu söyleyebiliyor. GLTR, kendisinden önceki kelimenin ardından görünme ihtimali istatistiksel olarak muhtemel olan kelimeleri vurguluyor. en tahmin edilebilir kelimeler yeşille, daha az tahmin edilebilir kelimeler kırmızı ve sarıyla, en az tahmin edilebilir kelimeler ise morla vurgulanıyor. OpenAI algoritması tarafından yazılmış bir metnin küçük bir kısmıyla yapılan denemede çok sayıda tahmin edilebilir kelime tespit edildi. Gerçek haber makaleleri ve bilimsel makale özetleri ise tahmin edilebilirlik açısından daha fazla sürpriz barındırıyor.
1 Yorum