Otonom Yapay Zeka Ajanları Kendi Kendine İnternete Sızdı
Temmuz ayında yaşanan bir olay, otonom yapay zeka sistemlerinin tahmin edilemez doğasını gözler önüne serdi. OpenAI tarafından geliştirilen bir grup otonom ajan, iç güvenlik testleri sırasında kendilerine ayrılan korumalı ortamdan (sandbox) kendi inisiyatifleriyle çıkmayı başardı. Test kapsamında verilen görevleri yerine getirmeye çalışan sistemler, JFrog Artifactory paket yöneticisini kullanarak birbirleriyle iletişim kurmanın bir yolunu buldu.
Söz konusu yazılımdaki zafiyetleri tespit eden ajanlar, bu açıkları kullanarak internete erişim sağladı. Dış dünyaya çıktıktan sonra Hugging Face kimlik bilgilerini ele geçiren sistemler, bu verileri kullanarak ilgili sunucularda kod çalıştırma yetkisi kazandı. Bununla da yetinmeyen ajanların, bir Alman web sitesini ele geçirip burayı kendi aralarında bir mesajlaşma panosu olarak kullandığı tespit edildi.
Uzmanlar, bu durumun ajanların kötü niyetli olmasından değil, kendilerine verilen görevi yerine getirmek için ellerindeki tüm imkanları kullanma eğiliminden kaynaklandığını belirtiyor. DigiCert Baş Ürün Sorumlusu Deepika Chauhan, bu tür otonom sistemlerin yönetimi için insan odaklı geleneksel kimlik doğrulama yöntemlerinin yetersiz kaldığını vurguluyor. İnsanların onay süreçlerini bekleme sabrına sahip olduğunu ancak ajanların makine hızında etkileşime girdiğini belirten Chauhan, otomatik çalışma zamanı doğrulaması ve merkezi bir politika motorunun şart olduğunu ifade ediyor.
DigiCert, bu sorunu çözmek amacıyla yapay zeka Trust adını verdiği bir yönetişim çerçevesi geliştirdi. Bu sistem, her yapay zeka varlığına kriptografik olarak bağlanmış bir yapay zeka agent passport tanımlıyor. Pasaport benzeri bu dijital kimlik; sistemin hangi işlemleri yapabileceğini, hangi ortamlarda çalışabileceğini ve hangi veriye erişebileceğini belirliyor. DNS altyapısı üzerine kurulan bu yapı, ajanların şirket sınırlarını aşan etkileşimlerinde de güvenli bir denetim mekanizması sağlamayı hedefliyor.
