Nvidia Öncülüğündeki OSAA, Yapay Zeka Güvenliği İçin İlk Adımlarını Attı
Nvidia öncülüğünde geçtiğimiz hafta kurulan Open Secure yapay zeka Alliance (OSAA), hızla genişleyerek 120 şirketi bünyesine kattı. Las Vegas'ta düzenlenen Black Hat konferansı sırasında ilk çalışma grubu olan Shared yapay zeka Findings Exchange (SAFE) duyuruldu. Linux Foundation tarafından yönetilen bu grup, yapay zeka tabanlı siber güvenlik olaylarının raporlanması, etkilenen tarafların uyarılması ve suçlamadan uzak analiz süreçlerinin oluşturulması için ilk taslak önerilerini kamuoyuna sundu.
OSAA bünyesindeki şirketler, yapay zeka ajanlarını korumak ve kötü niyetli saldırılara karşı savunma geliştirmek amacıyla açık kaynaklı teknolojilerini paylaşıma açıyor. Bu kapsamda Nvidia, Garak adlı açık kaynaklı bir dil modeli zafiyet tarayıcısı sunarken; Amazon, Cedar yetkilendirme dilini ve Strands Agents aracını katkı olarak sağladı. Okta kimlik teknolojileri, Red Hat ise ajan yönetişimi üzerine çalışmalarını bu çatı altında birleştiriyor.
İlginç bir şekilde, bu üç şirket daha önce Nvidia ile birlikte Beyaz Saray'a açık kaynaklı yapay zeka çalışmalarının desteklenmesi çağrısında bulunan açık mektuba imza atmıştı. Sektör temsilcileri, açık kaynaklı modellerin güvenliğinin, yapay zeka ekosisteminin korunması adına en kritik yol olduğunu vurguluyor.
