Açıklama

Dönüşümsel Yapay Zeka Eğitimi

H100, GPT-3 (175B) modelleri için önceki nesle kıyasla 4 kata kadar daha hızlı eğitim sağlayan FP8 hassasiyetinde dördüncü nesil Tensor Çekirdekleri ve bir Transformer Motoru içerir. Saniyede 900 gigabayt (GB/sn) GPU-GPU ara bağlantısı sunan dördüncü nesil NVLink; düğümler arasında her GPU ile iletişimi hızlandıran NDR Quantum-2 InfiniBand ağ iletişimi;

PCIe Gen5; ve NVIDIA Magnum IO™ yazılımının birleşimi, küçük işletme sistemlerinden devasa, birleşik GPU kümelerine kadar verimli ölçeklenebilirlik sunar.

H100 GPU’larını veri merkezi ölçeğinde dağıtmak olağanüstü performans sunar ve yeni nesil exascale yüksek performanslı bilgi işlem (HPC) ve trilyon parametreli yapay zekayı tüm araştırmacıların erişimine sunar.

Büyük Ölçekli Yapay Zeka ve HPC için Olağanüstü Performans

Hopper Tensor Core GPU, terabayt ölçeğinde hızlandırılmış bilgi işlem için özel olarak tasarlanmış ve büyük model yapay zeka ve HPC’de 10 kat daha yüksek performans sağlayan NVIDIA Grace Hopper CPU+GPU mimarisine güç verecektir. NVIDIA Grace CPU, sıfırdan hızlandırılmış bilgi işlem için tasarlanmış bir CPU ve sunucu mimarisi oluşturmak için Arm® mimarisinin esnekliğinden yararlanır. Hopper GPU, NVIDIA’nın ultra hızlı çipten çipe ara bağlantısını kullanarak Grace CPU ile eşleştirilir ve PCIe Gen5’ten 7 kat daha hızlı olan 900 GB/sn bant genişliği sunar. Bu yenilikçi tasarım, günümüzün en hızlı sunucularına kıyasla GPU’ya 30 kata kadar daha yüksek toplam sistem belleği bant genişliği ve terabaytlarca veri çalıştıran uygulamalar için 10 kata kadar daha yüksek performans sunacaktır.