Yapay Zeka Altyapısında Yeni Dönem: Inference Çiplerine 400 Milyon Dolarlık Yatırım
Yapay zeka sektöründe donanım yatırımları, modelleri eğitmekten ziyade, eğitilmiş modellerin çalıştırılmasına yani inference süreçlerine kaymaya başladı. Bu değişimin en somut göstergesi, yapay zeka bulut girişimi General Compute şirketinin Upper90 yatırım firmasından aldığı 400 milyon dolarlık kredi oldu. Bu anlaşma, sektörde inference odaklı çiplerin ilk kez kredi teminatı olarak kabul edildiği işlem olarak kayıtlara geçti.
CEO Finn Puklowski ve CTO Jason Goodison tarafından kurulan girişim, Intel destekli çip üreticisi SambaNova donanımlarını kullanarak özel bir bulut altyapısı inşa ediyor. Geleneksel bulut sağlayıcılarının aksine, sadece yapay zeka iş yükleri için tasarlanan bu sistem, SN50 çiplerinden güç alıyor. Şirket, bu çiplerin GPU tabanlı bulutlara kıyasla 16 kat daha hızlı çıkarım yapabildiğini ve su soğutma sistemlerine ihtiyaç duymadan daha düşük maliyetle çalışabildiğini belirtiyor.
Upper90 CEO'su Billy Libby, daha önce 2021 yılında Crusoe şirketinin GPU alımları için benzer bir finansman modeli geliştirmişti. Ancak piyasanın GPU'lara doyması ve yüksek maliyetler, yatırımcıları daha verimli ve ekonomik altyapılara yöneltti. Libby, süper bilgisayarlardan ziyade, açık kaynaklı modelleri daha ucuza çalıştırabilen sistemlere olan ihtiyacın arttığını vurguluyor.
Bu hamle, Nvidia'nın piyasadaki hakimiyetinin parçalanmaya başladığına dair bir sinyal olarak yorumlanıyor. TensorWave gibi diğer altyapı sağlayıcılarının da AMD ile benzer ortaklıklara gitmesi, şirketlerin Nvidia ekosistemine bağımlı kalmadan, daha düşük toplam sahip olma maliyeti sunan alternatif donanımlara yöneldiğini gösteriyor.
