Microsoft, Yapay Zeka Ajanlarını İç Tehdit Olarak Sınıflandırıyor
Microsoft, yapay zeka ajanlarının kritik sistemlere erişimini kısıtlamak için dinamik izinler ve sürekli risk izleme içeren yeni bir güvenlik çerçevesi yayınladı.
Microsoft, kurumların yapay zeka ajanlarını güvenli bir şekilde yönetebilmesi için hazırladığı yeni güvenlik çerçevesini detaylandırdı. Şirket, bu sistemlerin doğası gereği tehlikeli olmadığını ancak kritik sistemlere erişimleri nedeniyle manipülasyona açık olduklarını ve iç tehdit olarak değerlendirilmeleri gerektiğini belirtiyor. CEO Satya Nadella, en güvenilir sistemin modele en az güvenen, yani kısıtlamaları en sıkı tutan tasarım olduğunu vurguluyor.
Yeni model, en az yetki ilkesini yapay zeka dünyasına uyarlayan Dinamik İzinler sistemini getiriyor. Bir ajan, çalışmaya başladığında otomatik olarak yüksek yetkiler almak yerine, yalnızca o anki görevi için gerekli olan erişim haklarına sahip oluyor. Görev tamamlandığında veya ajanın davranışında bir sapma tespit edildiğinde bu izinler anında geri alınıyor.
İlginizi çekebilir · Siber Güvenlikİngiltere Kamu Hizmetlerinde Siber Dayanıklılık Artık Yönetim Kurulu GündemindeBunun yanı sıra, Dinamik Ajan Riski puanlaması ile kimlik, ağ, bulut ve çalışma zamanı verileri sürekli analiz ediliyor. Risk seviyesi yükseldiğinde sistem, yazma erişimini engelleme veya insan onayı isteme gibi kademeli önlemler alabiliyor. Microsoft, bu kontrollerin uygulanabilmesi için öncelikle kurumdaki tüm ajanların envanterinin çıkarılması gerektiğini belirtiyor. Şirket, Claude Code, OpenAI Codex ve GitHub Copilot gibi 60 farklı yerel ajan türünü kapsayan bir keşif mekanizmasıyla bu ajanların merkezi bir kayıt sistemine dahil edilmesini hedefliyor.
Kurumların yüz binlerce ajanı manuel olarak denetlemesinin imkansızlığını kabul eden Microsoft, Guardian Agents adını verdiği güvenlik odaklı ajanları devreye alıyor. İnsan operatörlerin belirlediği oyun kitaplarına göre hareket eden bu yapılar, riskli değişimleri araştırıyor ve güvenlik politikalarını uyguluyor. Ancak bu çözüm, güvenlikten sorumlu olan ajanların da manipüle edilebileceği sorusunu beraberinde getiriyor. Microsoft, güvenlik kontrollerinin yapay zeka modelinin dışındaki katmanlarda çalışması ve model tarafından değiştirilememesi gerektiğini belirterek, sistemlerin modelin öngörülemezliğine rağmen güvenli kalmasını sağlamayı amaçlıyor.
