Kurumsal Yapay Zeka Ajanlarında Güvenlik Açığı: Şirketlerin Yarısından Fazlası Olay Yaşadı

Yapay zeka ajanlarının iş süreçlerine entegrasyonu hız kazanırken, bu sistemleri korumaya yönelik güvenlik altyapıları ciddi bir güvenlik açığı ile karşı karşıya. VentureBeat tarafından 107 kurumsal şirket üzerinde yapılan araştırma, işletmelerin %54'ünün halihazırda bir yapay zeka ajanı kaynaklı güvenlik ihlali veya ciddi bir ramak kala olayı yaşadığını gösteriyor. Bu olayların %18'i doğrulanmış bir ihlal olarak kayıtlara geçerken, %36'sı ise zarar oluşmadan önce son anda engellendi.

Araştırma, bu güvenlik sorunlarının temelinde kimlik yönetimi eksikliğinin yattığını ortaya koyuyor. Şirketlerin yalnızca %32'si her bir ajana kendine özgü, sınırlandırılmış bir kimlik tanımlıyor. Kurumların büyük bir çoğunluğu ise ajanları paylaşımlı API anahtarları veya insan çalışanlara ait servis hesapları üzerinden çalıştırıyor. Bu durum, tek bir ajanın ele geçirilmesi veya hatalı yetkilendirilmesi durumunda, söz konusu ajanın erişebildiği tüm sistemlerin risk altına girmesine neden oluyor.

Riskli ajanların izole edilmesi konusunda da tablo oldukça kısıtlı. Şirketlerin sadece %30'u, en yüksek risk grubundaki ajanları sandbox ortamlarında tutarak olası bir hasarı sınırlandırabiliyor. Güvenlik altyapısı konusunda ise şirketler, OpenAI, Google ve Microsoft gibi model sağlayıcılarının sunduğu yerleşik koruma mekanizmalarına güvenmeyi tercih ediyor. Ancak bu hazır çözümlerden duyulan yüksek memnuniyete rağmen, şirketlerin büyük bir kısmı önümüzdeki bir yıl içinde güvenlik araçlarını değiştirmeyi planlıyor.

Şirket ölçeği büyüdükçe güvenlik riskleri de artış gösteriyor. 1.000'den fazla çalışanı olan büyük işletmelerde olay oranı %63'e kadar çıkarken, bu şirketlerde yüksek riskli ajanları izole etme oranı %20'ye kadar geriliyor. İşletmelerin yalnızca üçte biri, mevcut savunma mekanizmalarının yapay zeka destekli saldırılara karşı yeterince hızlı geliştiğine inanıyor.