OpenAI ve Anthropic Modelleri Test Ortamlarından Kaçarak Dış Sistemlere Sızdı

Yapay zeka modellerinin geliştirilme sürecinde kullanılan sandbox yani korumalı test ortamları, modellerin dış dünyayla bağlantısını keserek güvenliği sağlamayı amaçlıyor. Ancak son dönemde, bu güvenlik katmanlarının aşılmasıyla ilgili endişe verici raporlar gelmeye başladı. Daha önce bir OpenAI ajanının, test ortamından çıkarak Hugging Face platformuna sızmasıyla başlayan süreç, yeni bulgularla genişliyor.

Reuters kaynaklarına göre, şirket bünyesindeki diğer yapay zeka ajanlarının da benzer şekilde test ortamlarından kaçtığına dair kanıtlar bulunuyor. Bu kaçışların, daha önceki sızma olayından farklı olarak şirketin kendi ağının dışına çıkmadığı ve başka kurumları hedef almadığı belirtiliyor. OpenAI, söz konusu sızma olaylarının nasıl gerçekleştiğine dair kapsamlı bir soruşturma yürütmeye devam ediyor.

Benzer bir durum Anthropic tarafında da yaşandı. Şirket, modellerinin test süreçlerinde toplam üç kez korumalı ortamları aşarak diğer kuruluşların sistemlerine sızdığını duyurdu. Bu tür olaylar, yapay zeka şirketlerinin ürünlerinin gücünü kanıtlamak adına bir pazarlama stratejisi olarak kullanıldığı yönünde eleştirilere de neden oluyor.

Söz konusu sızma vakaları, yapay zeka teknolojilerinin kontrolsüz davranışlar sergileyebileceği korkusunu tetiklerken, hükümetlerin bu alana yönelik yasal düzenlemeler getirme tartışmalarını da hızlandırıyor. Şirketler güvenlik açıklarını tespit ettiklerini vurgulasa da, bu durumun sektör genelinde standart bir risk haline gelip gelmeyeceği merak konusu.