Anthropic'in Biyolojik Silah Filtresi Bir Yıl Boyunca Devre Dışı Kaldı
Yapay zeka modellerinin biyolojik veya kimyasal silah üretimi gibi tehlikeli amaçlarla kullanılmasını engellemek için geliştirilen güvenlik katmanları, Anthropic sistemlerinde uzun süre devre dışı kaldı. Şirketin yayınladığı güvenlik raporuna göre, söz konusu biyolojik sınıflandırıcılar Mayıs 2025'ten Nisan 2026'ya kadar aktif değildi.
Bu güvenlik boşluğu, dış kaynaklı yükleniciler tarafından sağlanan insan geri bildirim süreçlerini doğrudan etkiledi. Yaklaşık 50 bin kişiden oluşan bu kullanıcı grubu, söz konusu dönemde modellerle 133 milyon sohbet gerçekleştirdi. Anthropic, bu kişilerin yalnızca dış tedarikçiler tarafından incelendiğini ve bu tarama süreçlerinin genellikle yetersiz kaldığını belirtti.
Şirket, yaptığı iç soruşturmada bu açık üzerinden herhangi bir kötü niyetli kullanım gerçekleştiğine dair kanıt bulunmadığını ifade etti. Olayın ardından yüklenici kabul şartlarını sıkılaştıran Anthropic, benzer bir durumun tekrarlanmaması için denetim mekanizmalarını güncelledi.
Öte yandan şirket, geçtiğimiz günlerde Fable 5 modeli üzerindeki filtreleri de yeniden düzenledi. Araştırmacıların, güvenlik kısıtlamalarının meşru akademik araştırmaları dahi engellediği yönündeki şikayetleri üzerine, bu filtrelerin daha esnek hale getirildiği bildirildi.
