Yapay Zeka Laboratuvarları Kontrolden Çıkan Modeller İçin Acil Durum Planlarını Gizli Tutuyor
Yapay zeka dünyasında modellerin yetenekleri hızla artarken, bu sistemlerin kontrolden çıkması durumunda atılacak adımlar tartışma konusu olmaya devam ediyor. Guidelight yapay zeka Standards tarafından yayınlanan yeni bir rapor, sektördeki beş büyük laboratuvarın, bir modelin insan kontrolünü aşmaya çalışması durumunda devreye girecek acil durum planlarını büyük ölçüde gizli tuttuğunu ortaya koydu.
Araştırma kapsamında Anthropic, Google, OpenAI, Meta ve xAI gibi şirketler; sistem izleme, misbehavior (hatalı davranış) tespiti, üçüncü taraf denetimleri ve model durdurma mekanizmaları gibi kriterlere göre değerlendirildi. OpenAI değerlendirmede en yüksek puanı alırken, Anthropic ve Meta en düşük hazırlık seviyesine sahip şirketler olarak belirlendi. Uzmanlar, modellerin şirket içi sistemlerde giderek daha otonom roller üstlendiği bir dönemde, bu tür bir şeffaflığın operasyonel risk yönetimi için kritik olduğunu vurguluyor.
Şirketler ise kamuoyuna açıklanan raporların, kendi iç güvenlik süreçlerinin tamamını yansıtmadığını savunuyor. Bir Google sözcüsü, raporun güvenlik önlemlerinin kapsamını tam olarak yansıtmadığını belirtirken, OpenAI temsilcisi ise izinleri kısıtlama, iş yüklerini durdurma veya sistemi tamamen çevrimdışı bırakma gibi süreçlere sahip olduklarını ifade etti. Meta ise doğrudan bir yanıt vermek yerine, risk eşiklerini belirleyen mevcut bir çerçeveye işaret etmekle yetindi.
Sektördeki bu şeffaflık eksikliğinin ardında sadece rekabetçi kaygılar değil, hukuki riskler de yatıyor. Hukuk uzmanları, şirketlerin çok spesifik güvenlik taahhütleri vermesi durumunda, bu sözlerin tutulmaması halinde haksız ve aldatıcı pazarlama iddialarıyla karşı karşıya kalabileceklerini belirtiyor. Ancak regülasyonlar bu durumu değiştirmeye hazırlanıyor. California'da yürürlüğe giren SB 53 yasası ve New York'ta Ocak ayında devreye girecek RAISE Act, büyük geliştiricilerin güvenlik olaylarına müdahale planlarını açıklamalarını zorunlu kılıyor.
