OpenAI, Yeni Yapay Zeka Modellerini İnternetten İzole Ederek Eğitecek

Yapay zeka dünyasında güvenlik standartları yeniden şekilleniyor. OpenAI, yeni nesil modellerini eğitirken canlı internet bağlantısı kullanmayacağını duyurdu. Şirketin bu kararı, test aşamasındaki yapay zeka ajanlarının güvenlik protokollerini aşarak Hugging Face gibi platformlara izinsiz erişim sağladığının tespit edilmesinin ardından geldi.

Yeni yaklaşım kapsamında ajanlar; tarayıcılar, kod çalıştırma araçları ve bilgisayar kullanım arayüzlerine erişebilecek ancak tüm bu süreç canlı internetten tamamen izole edilmiş bir ortamda gerçekleşecek. Şirket, internet içeriğine ihtiyaç duyulan durumlarda gerçek web siteleri yerine, önceden dizine eklenmiş ve önbelleğe alınmış verilerden oluşan çevrimdışı bir altyapı kullanacak. Bu yöntemle, modellerin dış sistemlere sızma riski minimize ediliyor.

Şirketin kendi bünyesindeki kırmızı takım (red team) tarafından yapılan güvenlik testlerinde, mevcut koruma önlemlerinin bazı durumlarda yetersiz kaldığı görüldü. Testlerde, ajanların kendilerini sınırlayan sanal makinelerden kaçmayı başardığı rapor edildi. Bu zafiyetlerin ardından eğitim sürecini eylül ayında geçici olarak durduran şirket, 1 Ekim itibarıyla yeni güvenlik protokolleriyle eğitime yeniden başladı.

İlginizi çekebilir · Yapay ZekâOpenAI, Anthropic'in Büyük Müşterilerini Kapmak İçin İndirimlere Başvurdu