NVIDIA, Hopper teknolojisini veri merkezi araçları için üretti. Şirket, yüksek performanslı informasyon işlem sistemlerini birinci derslik Hopper H100 ekran kartı ile donatıyor. Hatta NVIDIA CEO’su tanıtım esnasında yalnızca 20 tane H100 GPU ile tüm dünyanın web trafiğinin denetim edebileceğini iddia etmişti. NVIDIA, informasyon işlem mimarisi mevzusunda iddiasını ortaya koyuyor 16 bin 896 yada 14 bin […]
NVIDIA, Hopper teknolojisini veri merkezi araçları için üretti. Şirket, yüksek performanslı informasyon işlem sistemlerini birinci derslik Hopper H100 ekran kartı ile donatıyor. Hatta NVIDIA CEO’su tanıtım esnasında yalnızca 20 tane H100 GPU ile tüm dünyanın web trafiğinin denetim edebileceğini iddia etmişti.
16 bin 896 yada 14 bin 592 CUDA çekirdeğine haiz olan bu mimari yüksek performanslı informasyon işlem sistemleri için tasarlanmış durumda. Her iki verisyon da 5120 bit arabirimle gelirken, HBM3 belleği kullanan SXM5 sürümü 3.0 Gbps ve PCIe sürümü ise HBM2E belleği ile 2.0 Gbps hız sunuyor.
Her iki sürüm de şimdiye kadar 80 GB’lık kapasite ile sunuluyordu. Sadece kısa sürede bu durum değişebilir. Gelen bilgilere nazaran NVIDIA, 120 GB’lık yeni bir Hopper H100 ekran kartı ve PCIe sürümü üstünde çalışıyor.
Çinli “s-ss.cc” isminde web sitesinden paylaşılan görsele nazaran, H100 PCIe kartının 120 GB’lık versiyonu yakında kendisini izah edebilir. NVIDIA, yeni versiyon ile 120 GB’lık belleğin yanı sıra daha üst düzey öteki özellikler ile beraber GH100 yongasının zirvesini temsil etmeyi planlıyor.
Görüntüleri internete sızdıran web sitesinde yeni versiyonun düzgüsel H100 PCIe SKU‘ya nazaran hafıza kapasitesi ve performansta mühim bir yükselme içerebilir. Bu sayede daha karmaşık görevler ve daha performanslı işlemler için NVIDIA imzalı yeni ekran kartı tercih edilebilir.
HPC iş yüklerinin boyutu ve karmaşıklığı arttıkça, daha iyi performans için daha yük hafıza ihtiyacı doğuyor. Büyük Bilgisayar Dil Modellerindeki (LLM’ler) son gelişmelerle beraber, suni zeka iş yükleri eğitim, için bir çok NVIDIA H100 benzer biçimde GPU’larda trilyonlarca parametre kullanılıyor. Bu tür durumlarda yüksek hafıza bayağı fazla ehemmiyet arz ediyor.
Peki siz NVIDIA‘nın yüksek performanslı informasyon işlem sistemleri için ürettiği ekran kartları hakkında ne düşünüyorsunuz? Görüşlerinizi yorumlar kısmında bizimle paylaşabilirsiniz.
Kaynak: shiftdelete.net