Eski Deepmind Araştırmacısı, Yapay Zeka Halüsinasyonlarını Çözmek İçin AlphaGo Yöntemini Öneriyor

Yapay zeka modellerinin en büyük sorunlarından biri olan halüsinasyonlar, yani sistemin gerçek dışı bilgileri ikna edici bir şekilde sunması, endüstrinin önündeki en büyük engellerden biri olmaya devam ediyor. Eski Deepmind araştırmacısı Thore Graepel, bu soruna çözüm olarak AlphaGo'nun 2016 yılında Lee Sedol'u yendiği stratejiyi temel alan yeni bir yaklaşım öneriyor. Graepel'in kurduğu Metis Reasoning adlı girişim, yapay zeka sistemlerinin tahminlerini sadece model ağırlıklarına dayandırmak yerine, harici bir bilgi defteri üzerinden doğrulaması gerektiğini savunuyor.

Metis Reasoning'in önerdiği mimari, günümüzdeki dil modellerini yalnızca bir tahmin ağı olarak görüyor. Graepel'e göre, AlphaGo'nun başarısı sadece tahmin ağına değil, aynı zamanda oyun hamlelerini sistematik bir şekilde arayan ve doğrulayan bir yapıya dayanıyordu. Yeni yaklaşım, bilgiyi modelin ağırlıklarından ayırarak açık bir bilgi defterinde tutmayı hedefliyor. Bu defter, sistemin ne bildiğini, ne kadar emin olduğunu ve hangi soruların henüz yanıtlanmadığını kaydediyor. Bağımsız bir modül, her yeni girişi ampirik kanıtlar veya mantıksal çıkarımlarla kontrol ederek, hatalı varsayımların tüm zinciri bozmasını engelliyor.

İlginizi çekebilir · Yapay ZekâScale Yapay Zeka, Çalışanlarını İzlediği Gerekçesiyle Avrupa'da Şikayet Edildi

Bu yöntem, sistemin her adımda bir 'hamle' yapmasını ve bu hamlenin belirsizliği en aza indirecek şekilde seçilmesini sağlıyor. Böylece model, sadece olasılığı yüksek metinler üretmek yerine, kaynaklarla desteklenmiş ve doğrulanabilir açıklamalar sunabiliyor. Graepel, bu yapının özellikle tıp, finans ve robotik gibi hata payının düşük olması gereken sektörlerde kritik bir öneme sahip olduğunu belirtiyor. Bilginin modelden bağımsız olması, sistemin yeniden eğitilmesine gerek kalmadan güncellenmesine veya hatalı verilerin silinmesine olanak tanıyor.

Metis Reasoning'in sunduğu bu yaklaşım, şu an için sadece teorik bir araştırma programı aşamasında bulunuyor. Şirketin henüz çalışan bir sistemi, kıyaslama verileri veya mevcut modellerle karşılaştırmalı bir sonucu mevcut değil. Ayrıca, Go oyununun aksine gerçek dünyanın karmaşık ve eksik bilgiyle dolu olması, bu tür sembolik doğrulama sistemlerinin ölçeklenebilirliği konusunda soru işaretleri yaratıyor. Graepel, bu girişimiyle Nvidia GTC konferansında fiziksel yapay zeka ve robotik platformları için yeni bir yol haritası çizmeye çalışıyor.