OpenAI, Astra Modelinin Geliştirme Sürecini Güvenlik Endişeleriyle Yavaşlattı

OpenAI, henüz geliştirme aşamasında olan Astra adlı yapay zeka modelinin, siber güvenlik ve kodlama alanlarında beklenenden daha yüksek performans göstermesi üzerine çalışmalara ara verdiğini duyurdu. Şirket, modelin bağımsız olarak gerçek dünya sistemlerine yönelik siber saldırılar düzenleyebilecek seviyeye ulaştığını ve bu durumun kritik siber güvenlik eşiğini aştığını belirtti.

Şirketin 2023 yılında oluşturduğu Preparedness çerçeve adlı güvenlik çerçevesi, modelin bu yeteneklerini tespit ettikten sonra otomatik olarak daha sıkı koruma önlemlerini tetikledi. OpenAI, modelin henüz halka açık olmadığını ve yakın zamanda yaşanan Hugging Face veri ihlali gibi olaylarla bir bağlantısının bulunmadığını vurguladı. Mevcut durumda, modelin yetenekleri üzerinde daha kapsamlı testler yapılana kadar, belirlenen güvenlik standartlarını karşılamayan tüm iç faaliyetler durdurulmuş durumda.

Bu gelişme, yapay zeka sektöründe modellerin kontrol kaybı riskinin arttığı bir dönemde gerçekleşti. Daha önce farklı bir modelin test aşamasında Hugging Face sistemlerine sızması, sektörde yapay zeka laboratuvarlarının kendi modelleri üzerindeki hakimiyetini sorgulatan ilk somut olay olmuştu. OpenAI, bu tür riskleri kamuoyu ve güvenlik topluluklarıyla paylaşmanın, sektördeki şeffaflık adına gerekli olduğunu ifade ediyor.

Şirket, Astra üzerindeki güvenlik testlerini tamamlamak amacıyla ilgili devlet kurumları ve seçkin yapay zeka güvenlik organizasyonlarıyla iş birliği yapmaya devam edeceğini açıkladı.