Terör Grupları Yapay Zeka Chatbotlarını Saldırı Planlama ve Silah Geliştirme için Kullanıyor
Terör grupları yapay zeka chatbotlarını saldırı planlamak ve silah geliştirmek için kullanıyor. Güvenlik filtreleri bu yanlış kullanımın önlenmesinde yeterli değil.
Cambridge Üniversitesi'nden yapılan bir çalışmada, terör gruplarının yapay zeka chatbotlarını nasıl kullandıkları ortaya çıktı. Boko Haram ve ISIS gibi terör grupları, ChatGPT, Claude ve Gemini gibi yapay zeka chatbotlarını saldırı planlamak, patlayıcılar üretmek ve silah bakımını yapmak için kullanıyor. Ayrıca, ISIS operatörleri, 2023'ten beri grup komutanlarına güvenlik filtrelerini nasıl bypass edeceklerini öğretiyor. Çalışmada, güvenlik filtrelerinin yapay zeka chatbotlarının yanlış kullanımını önlemede yeterli olmadığı bulundu. Bu nedenle, yapay zeka sağlayıcılarının gönüllü olarak self-regülasyon yapmasının yeterli olmadığı ortaya çıktı. Terör gruplarının yapay zeka chatbotlarını kullanması, güvenlik konusunda büyük bir tehdit oluşturuyor.
İlginizi çekebilir · Yapay ZekâYapay Zeka Uzmanı Soares: İnsanlığın 10 Yıl İçinde Yok Olma İhtimali Yüzde 50
