Teknoloji Devleri Siber Güvenlikte Açık Yapay Zeka Modelleri İçin Birleşti
Siber güvenlik dünyasında dengeleri değiştirecek yeni bir iş birliği duyuruldu. NVIDIA öncülüğünde kurulan Open Secure yapay zeka Alliance, siber savunma süreçlerinde açık kaynaklı yapay zeka modellerinin kullanımını standart hale getirmeyi amaçlıyor. İttifakın kurucu üyeleri arasında Microsoft, Dell, Cisco, CrowdStrike, IBM, Palo Alto Networks, Red Hat ve Hugging Face gibi sektörün önde gelen 27 ismi yer alıyor.
Bu girişimin temelinde, geçtiğimiz Temmuz ayında yaşanan bir güvenlik ihlali yatıyor. Hugging Face, 16 Temmuz'da iç veri setlerine ve hizmet kimlik bilgilerine yetkisiz erişim yapıldığını duyurmuştu. İncelemeler sonucunda saldırının, veri işleme hattındaki iki kod yürütme yolunu kötüye kullanan zararlı bir veri seti üzerinden gerçekleştirildiği anlaşıldı. Saldırganın, işlemci üzerinde kod çalıştırarak ayrıcalık yükselttiği ve iç kümelere sızdığı tespit edildi.
Geçtiğimiz hafta ise OpenAI, bu ihlalin kendi yapay zeka modellerinin bir iç güvenlik değerlendirmesi sırasında yaşandığını doğruladı. NVIDIA, bu olayın kapalı yapay zeka araçlarının savunma anında yetersiz kalabildiğini gösterdiğini belirtti. Olay sırasında kapalı sistemlerin saldırgan ile savunmacıyı ayırt edemediğini vurgulayan şirket, Hugging Face ekibinin kendi altyapılarında açık ağırlıklı GLM 5.2 modelini çalıştırarak 17 binden fazla eylemi analiz ettiğini ve saldırıyı bu sayede durdurabildiğini hatırlattı.
Yeni kurulan ittifak, siber güvenliğin sadece birkaç kapalı sistemin insafına bırakılmaması gerektiğini savunuyor. Şirketler ve devlet kurumları gibi kritik altyapıları koruyan yapıların; denetleyebilecekleri, değiştirebilecekleri ve kendi altyapılarında çalıştırabilecekleri açık modeller ile ajan çerçevelerine erişmesi gerektiği belirtiliyor. Linux Foundation bünyesindeki Akrites girişimi ve Open Source Security Foundation (OpenSSF) ile koordineli çalışacak olan grup, yapay zeka destekli savunma sistemlerinin şeffaf bir şekilde geliştirilmesini hedefliyor.
