Yapay Zeka Güvenlik Kısıtlamaları Siber Güvenlik Araştırmacılarını Engelliyor
Yapay zeka şirketlerinin kötü niyetli kullanımları engellemek amacıyla uyguladığı katı güvenlik filtreleri, siber güvenlik dünyasında tartışmalara yol açıyor. Özellikle sistemlerdeki bilinmeyen zafiyetleri (zero-day) bulmak ve bunları yamalanmadan önce analiz etmekle görevli araştırmacılar, bu kısıtlamaların savunma odaklı çalışmaları ciddi şekilde aksattığını savunuyor.
Sektördeki uzmanlar, bir kod parçasındaki açığı tespit etmek ve bu açığın nasıl istismar edilebileceğini anlamanın, savunma stratejileri için kritik bir adım olduğunu belirtiyor. Ancak Anthropic ve OpenAI gibi şirketlerin sunduğu modeller, güvenlik ile ilgili en ufak bir sorguda yanıt vermeyi reddedebiliyor. NCC Group Baş Bilim İnsanı Chris Anley, bir kodun düzeltilmesini istemenin hem savunma için gerekli bir mekanizma hem de zafiyetleri keşfetmek için bir yol haritası olduğunu, bu iki işlevin birbirinden ayrılamayacağını vurguluyor.
Bu engellerle karşılaşan araştırmacılar, genellikle iki farklı çözüm yoluna başvuruyor. Bir grup, kısıtlamalardan tamamen arındırılmış açık kaynaklı modelleri yerel sistemlerinde çalıştırarak veri gizliliğini korumayı ve engellere takılmamayı tercih ediyor. Diğer grup ise şirketlerin sunduğu Cyber Verification Program veya Trusted Access for Cyber gibi özel onaylı programlara dahil olmaya çalışıyor. Ancak bu programların da günlük bazda tutarsız sonuçlar verdiği ve araştırmacıların asıl işleri yerine modelle 'pazarlık' yapmakla vakit kaybettiği belirtiliyor.
Siber güvenlik firması CrowdFense'ten Paolo Stagno, yapay zeka şirketlerinin kullanıcılarına bir çocuk gibi davrandığını ifade ederek, hassas verilerin bulut tabanlı modellere sızma riskine karşı yerel kurulumların daha güvenli olduğunu belirtiyor. Bazı araştırmacılar ise yapay zekayı sadece kod analizi ve tersine mühendislik gibi destekleyici görevlerde kullanarak, zafiyet keşfi ve istismar geliştirme süreçlerini kendi kontrollerinde tutmaya devam ediyor.
