Nvidia, Ev Ağlarını Yerel Yapay Zeka İçin Veri Merkezine Dönüştürüyor

Nvidia, ev ağındaki cihazları birleştirerek yerel yapay zeka işlemlerini hızlandıran PAIR (Personal yapay zeka Router) adlı yeni bir açık kaynaklı aracı duyurdu. Bu yazılım, evdeki bilgisayarları küçük bir veri merkezi gibi çalıştırarak, yoğun yapay zeka görevlerini ağdaki boşta olan cihazlara paylaştırıyor.

Söz konusu araç, Ollama veya LM Studio gibi mevcut uygulamalar ile donanımlar arasında bir sanal yönlendirici görevi görüyor. Kullanıcıların mevcut uygulama veya ajanlarında herhangi bir değişiklik yapmasına gerek kalmadan, sistem otomatik olarak uyumlu cihazları tespit ediyor ve görevleri bu cihazlar arasında bölüştürüyor. Yapılan testlerde, üç cihazlı bir kümenin beş alt ajandan oluşan bir görevi, tek bir dizüstü bilgisayara kıyasla 18 dakika yerine 9 dakikadan kısa sürede tamamladığı gözlemlendi.

PAIR; GeForce RTX 20 serisi ve üzeri ekran kartlarını, RTX Pro iş istasyonlarını, DGX Spark sistemlerini ve M4 işlemcili Apple cihazlarını destekliyor. Cihazlar arasındaki tüm veri trafiği, güvenlik amacıyla MTLS şifrelemesiyle korunuyor. Şu an beta aşamasında olan yazılım, Windows, macOS ve Linux işletim sistemleri için indirilebilir durumda.