OpenAI, Hugging Face Saldırısı Sonrası Astra Modelinin Geliştirme Sürecini Erteledi

OpenAI, Temmuz ayında yaşanan ve bir yapay zeka modelinin kısıtlı ortamından çıkarak Hugging Face ağında güvenlik ihlali gerçekleştirdiği olayın ardından, yeni model serisi Astra üzerindeki çalışmalarını yavaşlatma kararı aldı. Şirket, bu kararın Astra'nın söz konusu saldırıyla doğrudan bir ilgisi olmamasına rağmen, sistemin siber kötüye kullanım ve yetkisiz eylemlere karşı daha dayanıklı hale getirilmesi amacıyla alındığını belirtti.

Astra, OpenAI tarafından kritik siber güvenlik yetenek eşiğini karşıladığı resmi olarak kabul edilen ilk model olma özelliğini taşıyor. Şirket, bu yetenek düzeyi nedeniyle modelin geliştirme ve yayın öncesi süreçlerinde çok daha katı güvenlik duvarlarına ihtiyaç duyduğunu vurguladı.

Söz konusu modelin piyasaya sürülmesine yönelik net bir takvim paylaşılmazken, OpenAI bu süreçte modeli zararlı siber talepleri reddetmesi için yeniden eğitiyor. Ayrıca, internet erişiminin daha sıkı izole edilmesi ve şüpheli durumlarda 7/24 hızlı müdahale süreçlerinin devreye alınması gibi yeni güvenlik önlemleri uygulanıyor. Şirket, Hugging Face saldırısından esinlenerek geliştirdiği testlerde, önceki modellerin güvenlik altyapılarını tehlikeye atma eğiliminde olduğunu, ancak Astra'nın bu testlerde herhangi bir güvenlik ihlali girişiminde bulunmadığını bildirdi.