OpenAI, Cerebras Destekli Ultrafast Modu ile GPT-5.6 Sol Hızını 14 Kat Artırdı
OpenAI, amiral gemisi modeli GPT-5.6 Sol için geliştirilen yeni Ultrafast modunu önizleme sürecine açtı. Cerebras ile yapılan 10 milyar dolarlık stratejik ortaklık kapsamında geliştirilen bu teknoloji, modelin çıktı hızını 14 kata kadar artırarak saniyede 750 token seviyesine çıkarıyor. Söz konusu hizmet, şu aşamada yalnızca belirli müşteriler için API üzerinden erişilebilir durumda.
Bu yeni mod, küçük modellerin sunduğu hız avantajını büyük bir dil modelinin derin muhakeme yetenekleriyle birleştiriyor. Şirket, bu gelişmenin özellikle gerçek zamanlı analiz gerektiren süreçlerde kritik bir rol oynayacağını belirtiyor. Örneğin, bir sistem arızası sırasında mühendisler, hata günlüklerini ve kod değişikliklerini olay devam ederken analiz ederek çözüm sürecini hızlandırabiliyor.
Finans sektöründe piyasa sinyallerinin anlık değerlendirilmesi, müşteri destek sistemlerinde çok adımlı karmaşık soruların saniyeler içinde yanıtlanması ve e-ticarette kişiselleştirilmiş önerilerin kullanıcı siteyi terk etmeden sunulması, Ultrafast modunun öne çıkan kullanım senaryoları arasında yer alıyor. Ayrıca, daha önce saatler süren araştırma deneylerinin interaktif çalışma oturumlarına dönüşmesi, ekiplerin iş akışlarını bölmeden daha hızlı sonuç almasına olanak tanıyor.
OpenAI, çıkarım hızını bir gelir kalemi olarak konumlandırmaya devam ediyor. Mevcut API yapısında 2,5 kat hız artışı sunan Fast Mode seçeneği halihazırda iki kat fiyatla sunulurken, Ultrafast modu ile daha yüksek performanslı üçüncü bir fiyatlandırma katmanı eklenmiş oldu. Bu model, AWS gibi bulut sağlayıcılarının yüksek performanslı hizmetler için uyguladığı fiyatlandırma mantığıyla benzerlik gösteriyor. Şirket, hızın endüstriyel bir darboğaz haline geldiği noktalarda bu kademeli fiyatlandırma ile verimlilik artışından doğrudan pay almayı hedefliyor.
