Nvidia GB200 NVL2: Büyük yapay zeka modelleri için raf tipi sunucu

Adanali

Member
Nvidia CEO'su Jensen Huang, Computex'teki açılış konuşmasında Blackwell bilgi işlem hızlandırıcı ailesinin bir başka üyesini tanıttı. Mart 2024'te tanıtılan GB200 NVL72 raf ek parçası kapsamında Nvidia, yapay zeka modeli eğitimi için iki GB200 işlemcili GB200 NVL2 raf ek parçasını sunuyor. Yuva MGX formatında üretilmiştir ve bu nedenle mevcut veri merkezlerine uyar.


Duyuru



Her birinin içine lehimlenen iki GB200, çift Blackwell çipinden ve 72 ARM çekirdekli Grace CPU'dan oluşuyor. Nvidia'ya göre tüm sistemin 40 petaflopluk bir hesaplama gücüne ulaşması gerekiyor, ancak bilgi, yapay zeka uygulamalarında kullanılan FP4 veri tipini yalnızca 4 bit hassasiyetle ifade ediyor.

Raf sunucusu, 384 GB'ı hızlı HMB3e RAM olarak Blackwell yongalarına bağlı olmak üzere toplam 1,3 TB RAM sunuyor. HBM3e depolama verimi 8 TByte/s'dir. GB200'ler birbirleriyle NVLink aracılığıyla 2 x 900 GB/s hızında iletişim kurar. Bu, GB200 NVL2'yi üretken yapay zeka uygulamalarına yönelik büyük modellerin eğitimi için uygun hale getirir.

Blackwell Ultra ve Rubin, Blackwell'i takip ediyor


Son olarak Jensen Huang, gelecek nesil yapay zeka hızlandırıcılarını örnekledi. Blackwell Ultra'nın 12 HBM3e yığınına sahip geliştirilmiş versiyonu, 2026'da HBM4 belleğe sahip Rubin platformunun gelmesinden önce, 2025'te gelecek. Buna aynı zamanda ARM Vera CPU ve yüksek bant genişliğine sahip bilgi işlem hızlandırıcılarını bağlamak için yeni ağ oluşturma çipleri de dahil.







Kısa bir yol haritasında Jensen Huang, Rubin Ultra ile 2027'ye bir göz attı.





(chh)



Haberin Sonu
 
Üst