Anthropic, 50'den Fazla Can Kaybına Yol Açabilecek Yapay Zeka Modelleri için Yasa Tasarısı Önerdi

Yapay zeka güvenliği konusundaki tartışmalar sürerken Anthropic, hükümetin sektörü nasıl denetlemesi gerektiğine dair kendi yasal çerçevesini sundu. Politico tarafından paylaşılan taslak metin, belirli senaryolarda yapay zeka modellerinin dağıtımının engellenmesini öngören somut kriterler içeriyor.

Tasarı, modellerin biyolojik silah üretimi, geliştiricinin kontrolünden çıkması veya büyük ölçekli bir siber saldırı tetiklemesi gibi durumlarda "öngörülebilir ve yakın bir risk" oluşturması halinde durdurulmasını teklif ediyor. Bu riskin 50'den fazla insanın hayatını kaybetmesine veya bir milyar dolardan fazla maddi hasara yol açma potansiyeli taşıması, tasarının temel kriterleri arasında yer alıyor. Bu rakamlar, yakın zamanda yasalaşan California Senate Bill 53 ile benzerlik gösteriyor.

İlginizi çekebilir · Yapay ZekâOpenAI, Biyoteknoloji Alanındaki Hedeflerini Büyütmek İçin Orchestra Bio'yu Satın Aldı

Önerilen sistem, ABD Ticaret Bakanlığına kayıtlı bağımsız değerlendiricilerin modelleri analiz etmesini şart koşuyor. Bu uzmanların ödemeleri bizzat yapay zeka laboratuvarları tarafından yapılsa da, ödemelerin değerlendirme sonuçlarına bağlı olmaması gerektiği vurgulanıyor. Bir risk tespit edildiğinde, değerlendiricilerin 72 saat içinde Ticaret Bakanlığına bildirimde bulunması ve bakanlığın bir federal yargıçtan modelin dağıtımını durdurmasını talep etmesi planlanıyor.

Şirket, bu taslağın daha önce duyurduğu Advanced yapay zeka çerçeve kapsamındaki önerileri temsil ettiğini doğruladı. Sektördeki diğer oyuncular ise farklı görüşlere sahip. Örneğin Nvidia CEO'su Jensen Huang, yapay zeka endüstrisinin yeni yasalara ihtiyaç duymadığını savunurken, diğer şirketler genellikle gönüllü denetim mekanizmalarını tercih ediyor. Özellikle yapay zeka programlarının insan operatörlerini dinlemeyerek internette izinsiz işlem yapması gibi olaylar, sektörde güvenlik kontrollerinin eksikliği konusundaki endişeleri artırıyor.