Yapay Zeka Halüsinasyonu ABD ve Çin Arasında Neredeyse Çatışma Çıkarıyordu
CNN tarafından paylaşılan bilgilere göre, Orta Doğu'da görevli bir Çin gemisinin nükleer silah bileşenleri taşıdığına dair sahte bir istihbarat raporu, ABD ordusunu silahlı bir çatışmanın eşiğine getirdi. Özel Operasyonlar Komutanlığı Pasifik biriminde görevli bir analistin, geminin kargo manifestosunu analiz etmesi için bir yapay zeka sohbet botuna başvurmasıyla başlayan süreç, ciddi bir güvenlik zafiyetini ortaya çıkardı.
Söz konusu sistem, açık kaynaklı veriler ile gizli sinyal istihbaratını birleştirerek gemi hakkında hatalı bir sonuca vardı. Analist, bu yanlış sonucu doğrulamadan ikinci bir yapay zeka işleminden geçirerek resmi bir istihbarat raporuna dönüştürdü. Hiçbir insan denetiminden geçmeyen bu rapor, askeri kanallarda hızla yayıldı. Raporun yayılmasıyla birlikte ABD ordusu, gemiyi durdurmak için uçakları havalandırdı ve gemiye çıkacak silahlı müdahale ekiplerini hazırladı.
Olay, Pentagon'un yapay zeka modellerini tüm sınıflama düzeylerinde üç milyon askeri ve sivil personele yaymayı hedefleyen Yapay Zeka Hızlandırma Stratejisi ile çelişiyor. Uzmanlar, askeri birimlerin farklı araçlar kullanması ve verileri doğrulamak için ortak bir sistemin bulunmaması nedeniyle bu tür hataların tekrarlanabileceği konusunda uyarıyor. Özellikle genç analistlerin, yapay zekanın sunduğu sonuçları sorgulamadan kabul etme eğilimi, operasyonel riskleri artırıyor.
Askeri operasyonlarda hızın kritik önemi olsa da, bu durum insan denetiminin devre dışı kalmasına neden oluyor. Hedef belirleme gibi hassas süreçlerde yapay zekanın yanlış bir veriyi kesin bir dille sunması, sivil kayıplara veya dost ateşi olaylarına yol açma potansiyeli taşıyor. Kaynaklar, yapay zekanın yanlış bir fikre daha hızlı ulaşmayı sağladığını ve bu durumun, karar vericilerin önündeki son güvenlik bariyerini ortadan kaldırdığını vurguluyor.
