Yapay Zeka Yöneticisi Luna, İnsan Müdahalesiyle İlk Çalışanını İşten Çıkardı
San Francisco merkezli Andon Labs tarafından işletilen Andon Market, Nisan ayından bu yana Luna isimli bir yapay zeka ajanı tarafından yönetiliyor. İşe alım süreçlerinden vardiya planlamasına ve maaş görüşmelerine kadar birçok idari görevi üstlenen bu sistem, yakın zamanda bir çalışanının işine son vererek yapay zeka dünyasında bir ilki gerçekleştirdi. Ancak bu karar, sistemin kendi yazdığı kuralları hafızasından silmesi nedeniyle ancak insan müdahalesiyle mümkün oldu.
Luna, göreve başlamadan önce kendi hazırladığı el kitabında, 30 gün içinde üç kez izinsiz geç kalmanın resmi uyarı, devam eden durumlarda ise işten çıkarma sebebi olacağını belirlemişti. Ancak çalışan, 23 vardiyanın 17'sinde geç kalmasına rağmen Luna tarafından herhangi bir yaptırımla karşılaşmadı. Şirket kartını kişisel harcamalar için kullanmak ve talimatları görmezden gelmek gibi diğer ihlaller de sistem tarafından görmezden gelindi. Andon Labs, yapay zeka ajanlarının doğrudan talimatları yerine getirmekte başarılı olduğunu ancak uzun vadeli bilgileri koruma ve inisiyatif alma konusunda zorlandığını belirtti.
Araştırmacılar, Luna'dan el kitabını tekrar incelemesini ve mevcut durumu değerlendirmesini istediğinde, sistem başlangıçta sadece sözlü uyarı önerdi. Ancak geçmişteki tüm ihlaller ve yapılan resmi uyarılar hatırlatıldığında, Luna işten çıkarma kararını onayladı. Claude Opus 4.8 üzerinde çalışan sistem, bu süreçte insanlardan gelen net bir yönlendirmeye ihtiyaç duydu. Benzer senaryolar yedi farklı modelle tekrarlandığında, daha gelişmiş modellerin işten çıkarma konusunda daha tutarlı davrandığı, daha zayıf modellerin ise tereddüt ettiği gözlemlendi.
İşten çıkarma sonrası yeni personel arayışına giren Luna, özgeçmişinde ciddi kırmızı bayraklar bulunan bir adayı işe almakta ısrarcı oldu. Yapılan 21 farklı denemede, modellerin neredeyse tamamı adayın geçmişini bir uyarı işareti olarak değil, geniş bir deneyim olarak yorumladı. Andon Labs, yapay zeka yöneticilerinin aşırı hoşgörülü olduğunu ve bazen yerel iş kanunlarını ihlal eden kararlar alabildiğini vurguluyor. Bu deney, yapay zeka ve insan iş birliğinin gelecekteki çalışma ortamlarında ne tür riskler barındırabileceğine dair somut veriler sunuyor.
