Bugün CES, NVIDIA Üretken yapay zeka performansı için GeForce RTX SUPER masaüstü GPU'ları, tüm önde gelen üreticilerin yeni yapay zeka dizüstü bilgisayarlarını ve hem geliştiriciler hem de tüketiciler için yeni NVIDIA RTX hızlandırmalı yapay zeka yazılımı ve araçlarını duyurdu. Bu araçlar bilgisayar deneyimlerini üretken yapay zekayla zenginleştiriyor: Metinden görüntüye iş akışları için popüler Stable Diffusion XL modelinin NVIDIA TensorRT hızlandırması, üretken yapay zeka doku araçlarıyla NVIDIA RTX Remix, NVIDIA ACE mikro hizmetleri ve Frame ile DLSS 3 teknolojisini kullanan daha fazla oyun Nesil.
Yapay zeka geliştiricileri için birleşik bir araç seti olan yeni AI Workbench, bu ayın sonlarında beta sürümüne gelecek. Ayrıca, en yeni büyük dil modellerinin (LLM'ler) çıkarım performansını hızlandıran ve optimize eden açık kaynaklı bir kitaplık olan NVIDIA TensorRT-LLM (TRT-LLM), artık daha önceden optimize edilmiş bilgisayar modellerini desteklemektedir. Yine bu ay yayınlanacak bir NVIDIA teknoloji demosu olan ve TRT-LLM tarafından hızlandırılan RTX ile Sohbet, yapay zeka meraklılarının notları, belgeleri ve diğer içerikleriyle etkileşime girmesine olanak tanıyor.
NVIDIA'nın kurucusu ve CEO'su Jensen Huang, “Üretken yapay zeka, bilgi işlem tarihindeki en önemli platform geçişidir ve oyun da dahil olmak üzere her sektörü dönüştürecektir” dedi. “100 milyondan fazla RTX AI bilgisayarı ve iş istasyonuyla NVIDIA, geliştiricilerin ve oyuncuların üretken yapay zekanın büyüsünden keyif almaları için devasa bir kurulu tabandır.”
Üretken yapay zekanın bir bilgisayarda yerel olarak çalıştırılması gizlilik, gecikme ve maliyete duyarlı uygulamalar açısından önemlidir. Yine de, yapay zeka modellerini PC platformu için optimize etmek için geniş bir kurulu yapay zekaya hazır sistem tabanı ve geliştirici araçları gerekiyor. Bunu başarmak için NVIDIA, tüm teknoloji yığınında yenilikler yapıyor, yeni deneyimler sunuyor ve halihazırda NVIDIA RTX teknolojisi tarafından hızlandırılmış 500'den fazla yapay zeka özellikli bilgisayar uygulaması ve oyununu geliştiriyor.
RTX AI Bilgisayarları ve İş İstasyonları
NVIDIA RTX GPU'lar çeşitli uygulamaları yüksek performans düzeyinde çalıştırarak bilgisayarlardaki üretken yapay zekanın potansiyelini ortaya çıkarabilir. Bu GPU'lardaki Tensör Çekirdekleri, zorlu uygulamalarda yapay zeka performansını önemli ölçüde hızlandırır.
Bugün CES'te duyurulan yeni GeForce RTX 40 SUPER Serisi grafik kartları arasında en iyi yapay zeka performansı için GeForce RTX 4080 SUPER, 4070 Ti SUPER ve 4070 SUPER yer alıyor. GeForce RTX 4080 SUPER, AI videosunu GeForce RTX 3080 Ti GPU'ya göre 1,5 kat daha hızlı ve görüntüleri 1,7 kat daha hızlı üretir. SUPER GPU'lardaki Tensör Çekirdekleri saniyede 836 trilyona kadar işlem gerçekleştirerek oyun oynamaya, yaratıcılığa ve günlük üretkenliğe dönüştürücü yapay zeka yetenekleri kazandırır.
Acer, ASUS, Dell, HP, Lenovo, MSI, Razer ve Samsung'un da aralarında bulunduğu önde gelen üreticiler, kullanıcılara kutudan çıktığı anda üretken yapay zeka özellikleri sunan yeni bir RTX yapay zeka dizüstü bilgisayar dalgasını piyasaya sürüyor. Nöral işlem birimleri kullanımına kıyasla 20x-60x arasında performans artışı sağlayan yeni sistemler bu ay sevkiyata başlayacak.
RTX GPU'lara sahip mobil iş istasyonları, basitleştirilmiş, güvenli, üretken yapay zeka ve veri bilimi gelişimi için TensorRT ve NVIDIA RAPIDS dahil NVIDIA AI Enterprise yazılımını çalıştırabilir. Her NVIDIA A800 40 GB Aktif GPU'ya üç yıllık bir NVIDIA AI Enterprise lisansı dahildir.
Yapay Zeka Modelleri Oluşturmak için Yeni PC Geliştirici Araçları
NVIDIA yakın zamanda geliştiricilerin PC sınıfı performans ve bellek ayak izini kullanarak önceden eğitilmiş üretken yapay zeka modelleri ve LLM'ler oluşturmasına, test etmesine ve özelleştirmesine yardımcı olacak NVIDIA AI Workbench'i duyurdu. Bu ayın sonlarında beta olarak kullanıma sunulacak olan bu özellik, Hugging Face, GitHub ve NVIDIA NGC gibi popüler veri havuzlarına kolaylaştırılmış erişimin yanı sıra geliştiricilerin projeleri kolayca yeniden üretmesine, işbirliği yapmasına ve taşımasına olanak tanıyan basitleştirilmiş bir kullanıcı arayüzü sunacak.
Projelerin ölçeği veri merkezi, genel bulut veya NVIDIA DGX Bulut gibi neredeyse her yere ölçeklendirilebilir ve daha sonra çıkarım ve hafif özelleştirme için bir PC veya iş istasyonundaki yerel RTX sistemlerine geri getirilebilir.
NVIDIA, HP ile iş birliği yaparak, RTX ile hızlandırılmış yapay zeka modelleri ve yazılım geliştirme kitlerini içeren NVIDIA Yapay Zeka Temel Modellerini ve Uç Noktalarını veri bilimi için merkezi bir platform olan HP AI Studio'ya entegre ederek yapay zeka modeli geliştirmeyi de basitleştiriyor. Kullanıcılar optimize edilmiş modelleri PC'lerde ve bulutta arayabilir, içe aktarabilir ve dağıtabilir.
PC kullanım durumları için yapay zeka modelleri oluşturduktan sonra geliştiriciler, RTX GPU'ların Tensör Çekirdeklerinden yararlanmak için bunları NVIDIA TensorRT kullanarak optimize edebilirler.
Buna ek olarak NVIDIA yakın zamanda TensorRT'yi, LLM'leri hızlandırmaya yönelik açık kaynaklı bir kitaplık olan Windows için TensorRT-LLM ile metin tabanlı uygulamaları kapsayacak şekilde genişletti. TensorRT-LLM'nin şu anda mevcut olan en son güncellemesi, diğer çıkarım arka uçlarıyla karşılaştırıldığında 5 kata kadar daha hızlı çalışan, PC'ler için önceden optimize edilmiş modellerin büyüyen listesine Phi-2'yi ekliyor.
RTX ile Hızlandırılmış Üretken Yapay Zeka Yeni Bilgisayar Deneyimlerini Güçlendiriyor
CES'te NVIDIA ve geliştirici ortakları, PC'ler için aşağıdakiler dahil olmak üzere yeni üretken yapay zeka destekli uygulamalar ve hizmetler yayınlıyor:
- NVIDIA RTX RemiksiBu ayın sonlarında beta sürümüyle kullanıma sunulacak olan , klasik oyunların RTX remaster'larını oluşturan bir platformdur. Klasik oyunlardaki temel dokuları modern, 4K çözünürlüklü, fiziksel tabanlı işleme malzemelerine dönüştüren üretken yapay zeka araçları sunar.
- NVIDIA ACE mikro hizmetleriÜretken yapay zeka destekli konuşma ve animasyon modelleri de dahil olmak üzere geliştiricilerin oyunlara akıllı, dinamik dijital avatarlar eklemesine olanak tanır.
- Stabil Difüzyon XL (SDXL) Turbo için TensorRT hızlandırması ve gizli tutarlılık modelleri sayesinde TensorRT, önceki en hızlı uygulamaya kıyasla her ikisinin de performansını %60'a kadar artırır. SDXL, SDXL Turbo, LCM – Düşük Sıralı Adaptasyon (LoRA) için hızlandırma ve geliştirilmiş LoRA desteği de dahil olmak üzere güncellenmiş bir Stabil Difüzyon WebUI TensorRT uzantısı sürümü artık mevcut.
- Çerçeve Oluşturma özellikli NVIDIA DLSS 3 Yerel işlemeyle karşılaştırıldığında kare hızlarını 4 kata kadar artırmak için yapay zekayı kullanıyor ve duyurulan 14 yeni RTX oyunundan 12'sinde yer alıyor. Ufuk Yasak Batı, Pax DeiVe Ejderhanın Dogması 2.
- RTX ile sohbet edinBu ayın sonlarında kullanıma sunulacak bir NVIDIA teknoloji demosu olan AI meraklıları, popüler erişimle artırılmış nesil (RAG) tekniğini kullanarak PC Yüksek Lisans'larını verilerine bağlamalarına olanak tanıyor. TensorRT-LLM tarafından hızlandırılan demo, kullanıcıların notları, belgeleri ve diğer içerikleriyle etkileşime girmesine olanak tanıyor. Geliştiricilerin aynı yetenekleri uygulamalarında uygulayabilmeleri için açık kaynaklı bir referans projesi olarak da mevcut olacak.
Katılmak NVIDIA CES'te üretken yapay zeka hakkında daha fazla bilgi edinmek için.
Kaynak: NVIDIA
Debbie Diamond Sarto, Animation World Network'te haber editörüdür.