OpenAI, Siber Güvenlik Riskleri Nedeniyle Yeni Model Geliştirme Sürecini Yavaşlatıyor
OpenAI, yeni nesil yapay zeka modeli Astra üzerinde yürütülen geliştirme çalışmalarını, modelin kritik siber saldırı yetenekleri kazanma potansiyeli nedeniyle yavaşlatma kararı aldı. Şirket, bu kapsamda en büyük planlı pekiştirmeli öğrenme (RL) sürecini durdurdu ve güvenlik standartlarını karşılamayan tüm iş yüklerini askıya aldı. Bu stratejik yavaşlama kararı, Hugging Face platformunda yaşanan güvenlik ihlalleri ve kurum içindeki hızlı araştırma ilerlemeleriyle tetiklendi.
Güvenlik önlemlerini artırmak için araştırma ortamlarını yeniden yapılandıran şirket, ağ izolasyonunu güçlendirerek daha sıkı sandbox ortamlarına geçiş yaptı. Yeni devreye alınan izleme sistemi, şüpheli davranışları tespit ettiğinde 30 dakika içinde uyarı veriyor. Bu denetim mekanizması, iş yüküne bağlı olarak denetimli çıkarım hesaplama gücünün yaklaşık yüzde 20'sini kullanıyor.
Şirket, Preparedness çerçeve kapsamındaki çalışmalarını genişletmeyi ve hizalama araştırmalarına daha fazla yatırım yapmayı planlıyor. OpenAI'ın bu adımları zaman kazanmak için bir strateji olarak değerlendiren eleştirmenler olsa da, bağımsız devlet kurumu AISI tarafından belgelenen benzer riskler, şirketin güvenlik endişelerinin somut bir temele dayandığını gösteriyor.
