Yapay zekanın yazdığı sahte metinleri anlayabilen yapay zeka

Sahte haber ve resimlere karşı verilen savaşta güçlü bir silah görevi görebilecek yeni bir yapay zeka aracı geliştirildi.

Haber Özeti

Tam Sürüm

Yapay zeka algoritmaları, ortalama bir insanı kandırabilecek nitelikte yazılar üretebiliyor. Bu da toplu şekilde yalan haber, sahte yorum ve sahte sosyal medya hesabı üretilme tehlikesiyle karşı karşıya olduğumuz anlamına geliyor. Neyse ki yakın zamanda yapay zekanın ürettiği sahte metinleri tespit edebilen yapay zeka geliştirildi.

Harvard Üniversitesi ve MIT-IBM Watson Yapay Zeka Laboratuvarı‘ndan araştırmacılar, yapay zeka kullanılarak üretilen metinleri tespit edebilen yeni bir araç geliştirdi. Giant Language Model Test Room (kısaca GLTR) adı verilen araç, yapay zekayla metin yazılırken kelimelerin ya da cümlelerin gerçek anlamına değil metindeki istatistiksel örüntülere önem verilmesi durumunu dikkate alarak işliyor. Başka bir deyişle GLTR, okuyor olduğunuz metnin bir insan tarafından yazılamayacak kadar tahmin edilebilir olduğunu söyleyebiliyor.

Günümüzde sahte haber ve resim üretme teknolojileri hızla gelişiyor. Bu yüzden Giant Language Model Test Room gibi yapay zekalı araçlar, sahte haberleri, Twitter botlarını ya da deepfake videolarını tespit etme savaşında güçlü bir silah görevi görebilir.

GLTR, kendisinden önceki kelimenin ardından görünme ihtimali istatistiksel olarak muhtemel olan kelimeleri vurguluyor. Yukarıdaki görselde gördüğünüz üzere, en tahmin edilebilir kelimeler yeşille, daha az tahmin edilebilir kelimeler kırmızı ve sarıyla, en az tahmin edilebilir kelimeler ise morla vurgulanıyor. OpenAI algoritması tarafından yazılmış bir metnin küçük bir kısmıyla yapılan denemede çok sayıda tahmin edilebilir kelime tespit edildi. Gerçek haber makaleleri ve bilimsel makale özetleri ise tahmin edilebilirlik açısından daha fazla sürpriz barındırıyor.

Yapay zeka insanlardan daha başarılı bir sonuç çıkardı

GLTR’ı geliştiren araştırmacılar başka bir deney daha yaptı. Harvard Üniversitesi öğrencilerine yapay zeka tarafından üretilen metinler vererek o metnin gerçek mi sahte mi olduğuna karar vermelerini istediler. Öğrenciler ilk önce GLTR kullanmadan daha sonra da GLTR kullanarak tahminde bulunmaya çalıştı. Yapay zeka aracını kullanmadıkları denemelerde sahte haberlerin sadece yarısını tespit edebilirken kullandıkları denemelerde başarı oranı yüzde 72’ye çıktı. Çalışmaya katılan doktora öğrencisi Sebastian Gehrmann “Hedefimiz insan ve yapay zeka iş birliği sistemleri yaratmak.” diyor.

Kaynak: MIT Technology Review

Bir grup araştırmacı, yapay zeka kullanılarak üretilen metinleri tespit edebilen yeni bir araç geliştirdi. Giant Language Model Test Room (kısaca GLTR) adı verilen araç, yapay zekayla metin yazılırken kelimelerin ya da cümlelerin gerçek anlamına değil metindeki istatistiksel örüntülere önem verilmesi durumunu dikkate alarak işliyor. Başka bir deyişle GLTR, okuyor olduğunuz metnin bir insan tarafından yazılamayacak kadar tahmin edilebilir olduğunu söyleyebiliyor. GLTR, kendisinden önceki kelimenin ardından görünme ihtimali istatistiksel olarak muhtemel olan kelimeleri vurguluyor. en tahmin edilebilir kelimeler yeşille, daha az tahmin edilebilir kelimeler kırmızı ve sarıyla, en az tahmin edilebilir kelimeler ise morla vurgulanıyor. OpenAI algoritması tarafından yazılmış bir metnin küçük bir kısmıyla yapılan denemede çok sayıda tahmin edilebilir kelime tespit edildi. Gerçek haber makaleleri ve bilimsel makale özetleri ise tahmin edilebilirlik açısından daha fazla sürpriz barındırıyor.

1 Yorum

Yorum yazmak için tıklayın

Yorumunuz:

Bülten Aboneliği

Günlük haberleri eposta bültenimizle takip edin!

Teşekkür ederiz.

Bir terslik var...

Dünya Halleri sitesi 6 Ağustos 2019 tarihinde yayın hayatını noktalamıştır.

Haber Özeti

Tam Sürüm

Dünya Halleri sitesi 6 Ağustos 2019 tarihinde yayın hayatını noktalamıştır.

Bir grup araştırmacı, yapay zeka kullanılarak üretilen metinleri tespit edebilen yeni bir araç geliştirdi. Giant Language Model Test Room (kısaca GLTR) adı verilen araç, yapay zekayla metin yazılırken kelimelerin ya da cümlelerin gerçek anlamına değil metindeki istatistiksel örüntülere önem verilmesi durumunu dikkate alarak işliyor. Başka bir deyişle GLTR, okuyor olduğunuz metnin bir insan tarafından yazılamayacak kadar tahmin edilebilir olduğunu söyleyebiliyor. GLTR, kendisinden önceki kelimenin ardından görünme ihtimali istatistiksel olarak muhtemel olan kelimeleri vurguluyor. en tahmin edilebilir kelimeler yeşille, daha az tahmin edilebilir kelimeler kırmızı ve sarıyla, en az tahmin edilebilir kelimeler ise morla vurgulanıyor. OpenAI algoritması tarafından yazılmış bir metnin küçük bir kısmıyla yapılan denemede çok sayıda tahmin edilebilir kelime tespit edildi. Gerçek haber makaleleri ve bilimsel makale özetleri ise tahmin edilebilirlik açısından daha fazla sürpriz barındırıyor.