Şirketler Yapay Zeka Altyapısına Harcama Yaparken Maliyet Kontrolünü Kaybediyor
VentureBeat tarafından 107 kurumsal şirket üzerinde gerçekleştirilen yeni bir araştırma, yapay zeka altyapı yatırımlarında ciddi bir hesap verebilirlik boşluğu olduğunu gözler önüne seriyor. Şirketler, yapay zeka projelerini ölçeklendirmek için hızla yeni altyapılara yönelirken, bu yatırımların ekonomik sonuçlarını takip etmekte veya kontrol etmekte zorlanıyor.
Şirketlerin %83'ü GPU kapasitelerinin %50'sinden azını kullanabildiğini belirtirken, maliyetlerini titizlikle takip edebilen kurumların oranı ise %44'ün altında kalıyor. Bu durum, şirketlerin ellerindeki mevcut altyapıyı bile tam anlamıyla yönetemeden yeni yatırımlara odaklandığını gösteriyor.
Şu an için kurumsal yapay zeka iş yükleri büyük oranda Google Cloud, Microsoft, AWS ve Oracle gibi hiper ölçekli bulut sağlayıcıları ile popüler model API'leri üzerinde çalışıyor. Ancak bu durumun kısa sürede değişmesi bekleniyor. Katılımcıların %64'ü önümüzdeki 12 ay içinde altyapı sağlayıcılarını değiştirmeyi veya yeni sağlayıcılar eklemeyi planlıyor.
Şirketlerin yeni sağlayıcı seçimlerinde belirleyici olan faktör ise token başına maliyetten ziyade, mevcut sistemlerle entegrasyon ve toplam sahip olma maliyeti oluyor. Özellikle yapay zeka odaklı özel bulut çözümlerine olan ilginin %45 seviyesine çıkması, kurumların genel amaçlı bulutlardan özelleşmiş altyapılara doğru bir geçiş hazırlığında olduğunu kanıtlıyor.
