Slop Or Not, Yapay Zeka İçeriklerini Cihaz Üzerinde Tespit Ediyor
İnternet üzerinde paylaşılan içeriklerin gerçekliğini ayırt etmek, yapay zekanın gelişimiyle birlikte kullanıcılar için büyük bir zorluk haline geldi. Yapılan son araştırmalar, insanların %85 oranında yapay zeka üretimi içerikleri gerçeklerinden ayırmakta güçlük çektiğini ortaya koyuyor. Bu durum, deepfake, ses klonlama ve kişiselleştirilmiş kimlik avı saldırıları gibi tehditlerin etkisini artırıyor.
Slop or Not, iPhone ve Mac cihazlarda tamamen çevrimdışı çalışarak bu soruna bir çözüm sunmayı hedefliyor. Apple Neural Engine gücünden yararlanan uygulama, herhangi bir hesap oluşturma zorunluluğu olmadan çalışıyor. Yazılım, görsellerin yapay zeka tarafından üretilme olasılığını bir yüzde değeriyle raporluyor. Ayrıca Google tarafından geliştirilen SynthID görünmez filigranlarını da tarayabilen araç, bu sayede doğrulanabilir içerikler için kesin kanıt sunabiliyor.
Uygulama, yüksek stilize edilmiş yapay zeka görsellerini %93 üzerinde bir güvenle tespit edebilirken, daha gerçekçi ve karmaşık görsellerde bazen belirsiz sonuçlar verebiliyor. Gerçek fotoğraflar üzerinde yapılan testlerde ise yüksek doğruluk oranı sergiliyor. Slop or Not; sosyal medya gönderileri, ürün görselleri ve ekran görüntüleri gibi şüpheli içeriklerin analizinde kullanılabiliyor. Öğrenciler, gazeteciler ve işletmeler, hassas verilerini bulut tabanlı servislere yüklemeden metin ve görsel doğrulama süreçlerini yerel olarak yürütebiliyor.
Uzmanlar, dijital güvenlik için yapay zeka tespit araçlarının yanı sıra çok faktörlü kimlik doğrulama (MFA) kullanımını ve paylaşılan kişisel medya miktarının sınırlandırılmasını öneriyor. Hiçbir tespit aracının %100 doğruluk garantisi sunmadığını hatırlatan geliştiriciler, bu tür yazılımların eleştirel düşünce ve insan yargısının yerini almaması gerektiğini vurguluyor.
