Gelişmiş yapay zeka fabrikalarına güç veren mimariye bir göz atan NVIDIA, veri merkezi ölçeğindeki en yeni süper bilgisayarı Eos’a ilk genel bakışı sunan bir video yayınladı. Son derece büyük ölçekli bir NVIDIA DGX SuperPOD olan Eos, NVIDIA geliştiricilerinin hızlandırılmış bilgi işlem altyapısı ve tamamen optimize edilmiş yazılım kullanarak AI atılımlarını yarattığı yer olarak karşımıza çıkıyor.

Nvidia’nın yeni süper bilgisayarı: Eos

Eos, 576 NVIDIA DGX H100 sistemi, NVIDIA Quantum-2 InfiniBand ağı ve yazılımı ile oluşturulmuş olup toplam 18,4 exaflop FP8 AI performansı sağlıyor. Supercomputing 2023 ticaret fuarında tanıtılan Eos (adını her gün şafağın kapılarını açtığı söylenen Yunan tanrıçasından alıyor) NVIDIA’ya göre yapay zeka teknolojisini ilerletmeye olan bağlılıklarını yansıtıyor.

Shiftdelete.net

Nvidia’nın süper bilgisayarındaki her DGX H100 sistemi sekiz adet NVIDIA H100 Tensor Core GPU ile donatılmıştır. Eos’ta toplam 4.608 H100 GPU (tanesi 30 bin dolar) bulunur. Sonuç olarak Eos, büyük dil modellerini, öneri sistemlerini, kuantum simülasyonlarını ve daha fazlasını eğitmek için en büyük yapay zeka iş yüklerini yönetebilir.

Eos’un mimarisi, geniş bir hızlandırılmış bilgi işlem düğümleri kümesinde ultra düşük gecikme süresi ve yüksek verimli ara bağlantı gerektiren yapay zeka iş yükleri için optimize edilmiştir. Bu da onu yapay zeka yeteneklerini ölçeklendirmek isteyen kuruluşlar için ideal bir çözüm haline getiriyor.

Nvidia’nın yeni süper bilgisayarında Ağ İçi Bilgi İşlem teknolojisine sahip NVIDIA Quantum-2 InfiniBand’ı temel alan ağ mimarisi, 400 Gb/s’ye kadar veri aktarım hızlarını destekleyerek karmaşık yapay zeka modellerinin eğitimi için gerekli olan büyük veri kümelerinin hızlı hareketini kolaylaştırıyor.

Eos’un kalbinde NVIDIA’nın DGX H100 sistemleri tarafından desteklenen DGX SuperPOD mimarisi yatıyor. Mimari, yapay zeka ve bilgi işlem alanlarına çok büyük ölçekte bilgi işlem yapabilen, sıkı bir şekilde entegre edilmiş tam yığın sistemler sağlamak üzere tasarlandı.

Dünyanın en hızlı süper bilgisayarlarının TOP 500 listesinde 9. sırada yer alan Nvidia süper bilgisayarı Eos, yapay zeka teknolojisinin ve altyapısının sınırlarını zorluyor.