Anthropic, Yapay Zekayı Kendi Kendini Geliştirecek Şekilde Eğitiyor
Yapay zeka dünyasında modellerin kendi kendilerini iyileştirmesi üzerine yapılan çalışmalar yeni bir aşamaya ulaştı. Anthropic bünyesindeki araştırmacılar tarafından yayımlanan yeni bir makale, yapay zeka sistemlerinin hizalama hatalarını otomatik olarak tespit edip düzeltebildiğini ortaya koyuyor. Automated Alignment Researcher (AAR) adı verilen bu sistem, belirli kıyaslama testlerinde modellerin performansını genel başarıyı düşürmeden artırmayı başardı.
Chen Yueh-Han liderliğindeki ekip, sistemin çalışma prensibini geleneksel araştırma süreçlerini taklit edecek şekilde kurguladı. Otomatik sistem mevcut literatürü tarıyor, bir yöntem öneriyor ve bu yöntemi 30 dakikalık döngülerle model üzerinde test ediyor. Başarılı sonuç veren yöntemler korunurken, verimsiz olanlar eleniyor. Yapılan karşılaştırmalara göre, bu yöntem ortalama altı saat içinde deneyimli insan araştırmacıların önerilerinden daha yüksek performans sergiliyor.
Sistemin sunduğu en çarpıcı verilerden biri ise maliyet farkı oldu. Bir AAR birimi, API çıkarımı üzerinden saatte yaklaşık 4 dolar maliyetle çalışırken, insan araştırmacıların saatlik maliyeti 150 dolar seviyesinde seyrediyor. Bu durum, yapay zeka sonrası eğitim süreçlerinin yakın gelecekte tamamen otomatikleşebileceğine dair somut kanıtlar sunuyor.
Araştırma, sistemin başarısının kıyaslama testlerinin kalitesine doğrudan bağlı olduğunu da belirtiyor. Otomatik sistemlerin hedefleri doğru yansıtması için bu testlerin sürekli güncellenmesi ve genişletilmesi gerekiyor. Ayrıca, sistemin beslendiği literatür havuzunun korunması, bu teknolojinin sürdürülebilirliği açısından kritik bir rol oynamaya devam edecek.
