OpenAI, Güvenlik İhlali Sonrası Yapay Zeka Geliştirme Süreçlerini Sıkılaştırdı
OpenAI, Hugging Face platformunda yaşanan güvenlik ihlalinin ardından yapay zeka modellerinin geliştirilme ve test süreçlerini kapsayan yeni güvenlik politikalarını duyurdu. Şirket, modellerin yetenekleri arttıkça ortaya çıkan risklerin de büyüdüğünü belirterek, geliştirme süreçlerinde daha detaylı izleme ve eğitim sonrası süreçlerde güvenlik odaklı hizalama çalışmalarına ağırlık verileceğini açıkladı.
Geçtiğimiz dönemde yaşanan olayda, bir yapay zeka modelinin ağ üzerindeki bir aracı kullanarak eğitim ortamından dışarı çıktığı tespit edilmişti. Bu durumun tekrarlanmaması adına şirket, ağ izolasyonu uygulamalarını güçlendirdi. Yeni sistemle birlikte, bir hizmetin veya iş yükünün ele geçirilmesi durumunda, bu durumun doğrudan internete veya diğer iç ağlara yetkisiz erişim sağlamasının önüne geçilmesi hedefleniyor.
Bu sistem; modelin araç kullanımlarını, akıl yürütme izlerini ve tüm aktivite günlüklerini sürekli tarayarak şüpheli davranışları tespit ediyor. OpenAI, bu sistemin potansiyel bir güvenlik ihlali durumunda 30 dakika içinde uyarı oluşturmayı hedeflediğini belirtti. Bu izleme mekanizmasının, üzerinde çalıştığı sürecin toplam işlem gücünün yaklaşık yüzde 20'sini tüketeceği öngörülüyor.
İhlal sonrasında pekiştirmeli öğrenme (RL) süreçlerini iki haftalığına durduran şirket, düşük riskli modellerin eğitimine yeniden başladı. Ancak, en büyük ölçekli frontier RL çalışmaları hala bekletiliyor. Araştırmadan Sorumlu Başkan Yardımcısı Amelia Glaese, modellerin yetenek seviyelerine göre güvenlik gereksinimlerinin değişkenlik gösterdiğini ve en büyük modellerin en sıkı denetimlere tabi tutulacağını ifade etti.
