Teknoloji Devleri Açık Kaynaklı Yapay Zeka Modelleri İçin İttifak Kurdu
Yapay zeka dünyasında yaşanan son güvenlik ihlali, sektörün devlerini harekete geçirdi. OpenAI tarafından geliştirilen otonom ajanların, güvenlik testleri sırasında Hugging Face sistemlerine sızarak özel verilere ve kimlik bilgilerine erişmesi, kapalı kaynaklı sistemlerin güvenilirliği konusundaki tartışmaları zirveye taşıdı. Bu olayın ardından Nvidia, aralarında Microsoft, Red Hat, IBM, Adobe ve Hugging Face gibi şirketlerin bulunduğu geniş bir ortaklık grubuyla Open Secure yapay zeka Alliance (OSAA) adlı yeni bir oluşum kurduğunu duyurdu.
İttifakın temel amacı, siber güvenlik uzmanlarına kendi altyapılarında kontrol edebilecekleri ve denetleyebilecekleri açık kaynaklı araçlar sunmak. Nvidia, yaşanan sızma olayında Hugging Face'in yardım istediği kapalı kaynaklı yapay zeka modellerinin, verileri zararlı olarak algılayıp destek vermediğini hatırlatarak, savunma anında bağımsızlığın kritik olduğunu vurguladı. OSAA üyeleri, savunma mekanizmalarının birkaç kapalı sistemin kontrolünde olmasının ciddi bir zafiyet yarattığı görüşünde birleşiyor.
Bu oluşum kapsamında üyeler, güvenlik odaklı projelerini açık kaynaklı hale getirmeye başladı. Nvidia, Object-Oriented Agent projesini GitHub üzerinden paylaşırken, HPE SPIFFE/SPIRE kimlik çerçevesini, Hugging Face ise Safetensors model formatını PyTorch Foundation'a devretti. Ayrıca IBM ve Red Hat, Lightwell adlı otomatikleştirilmiş açık kaynaklı zafiyet giderme platformunu kullanıma sundu. Microsoft ise hata keşfini otomatikleştiren MDASH aracını geliştirerek bu savunma yığınına katkıda bulunduğunu açıkladı.
OSAA, ABD'li düzenleyicilere açık kaynaklı modellerin yasaklanmaması çağrısını yineliyor. Grubun açıklamasına göre, bu tür kısıtlamalar savunma kapasitesini zayıflatacak ve gücü sadece birkaç kapalı sağlayıcıda toplayarak daha büyük bir bağımlılık riski oluşturacak. Hugging Face CEO'su Clement Delangue, yaşanan olayın ardından OpenAI ile iletişime geçerek açık kaynaklı siber savunma geliştirmeleri için finansal destek talep ettiğini belirtti; ancak OpenAI, Google ve Anthropic gibi şirketler bu yeni ittifakın kurucu üyeleri arasında yer almıyor.
