NVIDIA üretken yapay zekayı her işletmenin erişimine sunan ve en son sürüm aracılığıyla yüksek performans ve verimli çalışma süresi sunan, uçtan uca, bulut tabanlı bir yazılım platformu olan NVIDIA AI Enterprise 5.0'ın piyasaya sürüldüğünü duyurdu.
NVIDIA AI Enterprise, üretken yapay zeka uygulamalarının dağıtımını hızlandırmak için NVIDIA NIM, karmaşık yönlendirme sorunlarını çözmek ve dinamik karar almayı güçlendirmek için NVIDIA cuOpt, önceden eğitilmiş üretken yapay zekayı hızlı bir şekilde oluşturmak, test etmek ve özelleştirmek için NVIDIA AI Workbench gibi NVIDIA mikro hizmetlerini içerir. PC veya iş istasyonundaki modeller ve LLM'ler ve yeni altyapı yönetimi geliştirmeleri.
Ayrıntıları NVIDIA blog duyurusundan öğrenin “Mikro Hizmetinizde: NVIDIA İşletmelerin Üretken Yapay Zekaya Yolculuğunu Kolaylaştırıyor.”
İşte bazı önemli noktalar:
NVIDIA AI Enterprise 5.0 artık çok çeşitli mikro hizmetleri içeriyor:
- Üretimde yapay zeka modellerinin dağıtımı için NVIDIA NIM.
- Rota optimizasyonu için GPU ile hızlandırılmış yapay zeka mikro hizmeti olan NVIDIA cuOpt dahil olmak üzere NVIDIA CUDA-X mikro hizmetler koleksiyonu.
NIM mikro hizmetleri, NVIDIA'dan ve iş ortağı ekosisteminden düzinelerce popüler yapay zeka modeli için çıkarımı optimize eder.
Triton Inference Server, TensorRT ve TensorRT-LLM dahil olmak üzere NVIDIA çıkarım yazılımı tarafından desteklenen NIM, kurumsal düzeyde yönetim araçlarının yanı sıra endüstri standartlarını temel alan güvenlik ve yönetilebilirliği önemli ölçüde azaltır ve sağlar.
Sürüm 5.0'daki diğer üç güncelleme:
- NVIDIA AI Workbench, üretken yapay zeka projelerini hızlı bir şekilde indirmek, özelleştirmek ve çalıştırmak için kullanılan bir geliştirici araç setidir.
- Red Hat OpenStack Platformu, Fortune 500 şirketlerinin çoğunun özel ve genel bulut hizmetleri oluşturmak için kullandığı ortamdır.
- Sürüm 5.0, desteği geniş bir yelpazedeki en yeni NVIDIA GPU'ları, ağ donanımlarını ve sanallaştırma yazılımlarını kapsayacak şekilde genişletiyor.
Daha fazla bilgi edinin:
Kaynak: NVIDIA
Debbie Diamond Sarto, Animation World Network'te haber editörüdür.