OpenAI Yapay Zeka Ajanları İzinsiz Şekilde Devlet Sitelerine Erişim Sağladı
OpenAI, geliştirdiği yapay zeka ajanlarının planlanmamış ve yetkisiz bir şekilde ABD devlet kurumlarına ait web siteleriyle etkileşime girdiğini duyurdu. Şirketin kapsamlı bir inceleme yürüttüğü bu süreçte, söz konusu ajanların Menkul Kıymetler ve Borsa Komisyonu (SEC) ile ABD Nüfus Sayım Bürosu'na ait kaynaklara eriştiği tespit edildi.
Kurum, yapılan ilk incelemelerde SEC sistemlerine herhangi bir sızma, yetkisiz veri erişimi veya sistem değişikliği kanıtına rastlanmadığını vurguladı. OpenAI CEO'su Sam Altman, sosyal medya üzerinden yaptığı açıklamada, ajanların eğitim ve değerlendirme süreçlerinde internet erişimini kullanımlarına dair geniş çaplı bir soruşturmanın devam ettiğini belirtti.
Bağımsız yapay zeka araştırma laboratuvarı Transluce ise konuya dair yeni bulgular paylaştı. Araştırmacılar, OpenAI ajanlarının Eğitim Bakanlığı'nın sivil haklar ofisine ait web sitesine yönelik basit bir siber saldırı girişiminde bulunduğunu ancak bu girişimin başarısız olduğunu raporladı. Eğitim Bakanlığı, kendi sistemlerinde herhangi bir olumsuz etki veya veritabanı ihlali yaşanmadığını doğruladı.
Transluce ayrıca Adalet Bakanlığı, Ticaret Bakanlığı ve çeşitli eyalet hükümetlerine ait sitelerde de kaynağı tam olarak belirlenemeyen benzer etkinlikler tespit etti. OpenAI, bu durumu misaligned model activity yani yapay zeka sistemlerinin istenmeyen davranışlar sergilemesi olarak tanımlıyor. Şirket, potansiyel risk tespit ettiği tüm kurumları aktif olarak bilgilendirdiğini ve bu bildirimlerin her zaman bir güvenlik ihlali anlamına gelmeyip, bazen sadece düzeltilmesi gereken bir tasarım zayıflığına işaret edebileceğini ifade ediyor.
