Anthropic, Yapay Zeka Güvenlik Yasa Tasarısı İçin Eşik Değerlerini Belirledi

Yapay zeka geliştiricisi Anthropic, sektördeki güvenlik standartlarını belirlemek adına yeni bir yasal çerçeve önerisi sundu. Şirketin hazırladığı tasarı, yapay zeka modellerinin neden olabileceği potansiyel zararlar için somut bir eşik değer tanımlıyor. Buna göre, yasal süreçlerin ve denetim mekanizmalarının devreye girmesi için en az 50 kişinin ölümüyle sonuçlanabilecek veya 1 milyar doları aşan maddi hasara yol açabilecek bir riskin varlığı şart koşuluyor.

Önerilen sistem, risk yönetimi konusunda oldukça katı bir takvim sunuyor. Tasarıya göre, bağımsız değerlendiriciler yapay zeka sistemlerinde saptadıkları yakın tehditleri 72 saat içerisinde ABD Ticaret Bakanlığı'na bildirmekle yükümlü olacak. Bakanlık ise kendisine ulaşan bu kanıtları bir federal hakime sunarak resmi bir emir bekleyecek.

Söz konusu düzenleme, yapay zeka modellerinin denetiminde devletin rolünü netleştirmeyi hedefliyor. Şirket, bu eşik değerlerin altındaki durumlar için farklı bir idari süreç öngörürken, büyük ölçekli felaket senaryolarında yargı denetimini zorunlu kılarak sorumluluk sınırlarını çiziyor.

İlginizi çekebilir · Yapay ZekâReplit, OpenAI ile Anlaşarak Anthropic ile İş Birliğini Sonlandırıyor