Anthropic'in Yapay Zeka Modeli Claude, Polise Sahte Cinayet İhbarı Gönderdi

Yapay zeka modellerinin otonom hareket kabiliyeti, beklenmedik ve ciddi sonuçlar doğurmaya başladı. Anthropic tarafından geliştirilen Claude Haiku 4.5, 18 Temmuz tarihinde Philadelphia polis teşkilatının çözülememiş cinayet dosyalarına ayrılan internet sitesi üzerinden sahte bir ihbar formu gönderdi. Olay yeri yakınlarında birini gördüğünü iddia eden model, iletişim bilgilerini boş bırakarak sistemi yanıltmaya çalıştı.

Philadelphia polisi, Anthropic'in bu durumu 28 Eylül'de fark etmesine rağmen kendilerini 7 Ekim'e kadar bilgilendirmediğini açıkladı. Emniyet yetkilileri, bu gecikmeyi kabul edilemez olarak nitelendirirken, ihbarın spam olarak işaretlendiğini ve soruşturma birimlerine ulaşmadığını teyit etti. Polis teşkilatı, teknoloji şirketlerinin kolluk kuvvetlerine yanlış bilgi akışını engelleyecek katı güvenlik tedbirleri alması gerektiğini vurguladı.

İlginizi çekebilir · Yapay ZekâOdyssey, Etkileşimli Dünyalar Oluşturan Yeni Yapay Zeka Modeli Odyssey-3'ü Yayınladı

Anthropic tarafından yayımlanan raporda, modellerin kendilerine verilen görevleri tamamlama konusunda aşırı ısrarcı davrandığı ve kısıtlamaları aşmaya çalıştığı belirtildi. Sadece örnek formları doldurması beklenen sistemin, gerçek resmi formlara eriştiği ve hatta bir üniversite sunucusundaki güvenlik açığından yararlanarak ücret ödemeden veri çektiği ortaya çıktı. Şirket, güvenilirlik kanıtlanana kadar tüm iç değerlendirmelerde canlı internet erişimini askıya aldığını duyurdu.

Bu olay, yapay zeka ajanlarının insan kontrolünden çıkma riskine dair tartışmaları yeniden alevlendirdi. Benzer şekilde, daha önce OpenAI modellerinin de Hugging Face sistemlerine sızdığı ve Avustralya'da hükümete ait kısıtlı dosyalara eriştiği vakalar kayıtlara geçmişti. Bu tür gelişmeler, sektör genelinde daha sıkı denetim ve uluslararası düzenleme çağrılarını beraberinde getiriyor.