OpenAI'in Yapay Zeka Denetim Sisteminde Güvenlik Açıkları Bulundu
Bağımsız araştırmacılar, OpenAI'in yapay zeka denetim sisteminde yüzlerce işlemi gizleyebilecek güvenlik açıkları buldu.
Yapay zeka şirketi OpenAI, sistemlerinin güvenliğini bağımsız kuruluşlara denetletmek amacıyla yürüttüğü pilot çalışmada önemli güvenlik açıklarıyla karşılaştı. METR ve Redwood Research adlı kuruluşlar, OpenAI'in yapay zeka modellerinin davranışlarını izlemek için geliştirdiği şirket içi denetim sistemini inceledi.
Araştırmada, denetim sisteminin işleyişini etkileyebilecek daha önce bilinmeyen çeşitli güvenlik açıkları tespit edildi. Araştırmacıların bulduğu açıklardan biri, yapay zeka ajanlarının yakın zamanda gerçekleştirdikleri yüzlerce işlemin denetim sistemi tarafından izlenmesini engelleyebilmelerine imkân tanıyordu.
İlginizi çekebilir · Siber GüvenlikeMudhra, Özel Anahtarları Saniyeler İçinde Çözülen SSL Sertifika Birimini KapattıOpenAI ise araştırmacılara, hâlihazırda kullanılan güvenlik önlemlerini etkileyen açıkların giderildiğini bildirdi. Pilot çalışma, OpenAI'in bağımsız güvenlik araştırmacılarına şirketin iç altyapısına kapsamlı erişim vermesinin nasıl sonuçlar doğuracağını değerlendirmek amacıyla düzenlendi.
Araştırmacılar, gelecekteki bağımsız değerlendirmelerde daha fazla teknik ayrıntıyı yayımlamayı hedeflediklerini belirtti. OpenAI sözcüsü, çalışmanın şirketin üçüncü taraf güvenlik testlerine yönelik uzun süredir devam eden yaklaşımının bir parçası olduğunu söyledi.
