NVIDIA英偉達(dá)H20人工智能服務(wù)器專為 AI 和 HPC 而打造。

AI、復(fù)雜模擬和海量數(shù)據(jù)集需要多個具有極快互連速度的 GPU 和完全加速的軟件堆棧。NVIDIA HGX? AI 超級計算平臺整合了 NVIDIA GPU、 NVLink?、NVIDIA 網(wǎng)絡(luò)以及全面優(yōu)化的 AI 和高性能計算 (HPC) 軟件堆棧的全部功能，可提供最高的應(yīng)用性能并加快獲得見解的速度。

NVIDIA英偉達(dá)H20人工智能服務(wù)器GPU算力租賃配置參數(shù)：

端到端加速計算平臺

NVIDIA HGX H20將 NVIDIA Blackwell Tensor Core GPU 與高速互連技術(shù)相集成，推動數(shù)據(jù)中心邁向加速計算和生成式 AI 的新時代。HGX 系統(tǒng)是一流的加速縱向擴展平臺，專為要求嚴(yán)苛的生成式 AI、數(shù)據(jù)分析和 HPC 工作負(fù)載而設(shè)計。

NVIDIA HGX H20 將 H20 Tensor Core GPU 與高速互連技術(shù)相結(jié)合，為每個數(shù)據(jù)中心提供出色的性能、可擴展性和安全性。它配置了多達(dá) 8 個 GPU，為 AI 和 HPC 領(lǐng)域打造出性能強勁的加速垂直擴展式服務(wù)器平臺。HGX H20提供高級網(wǎng)絡(luò)選項，憑借 NVIDIA Quantum-2 InfiniBand 和 Spectrum?-X 以太網(wǎng)實現(xiàn)出色的 AI 性能

HGX H20還集成了 NVIDIA數(shù)據(jù)處理器 (DPU)，有助于在超大規(guī)模 AI 云中實現(xiàn)云網(wǎng)絡(luò)、可組合存儲、零信任安全性和 GPU 計算彈性。

深度學(xué)習(xí)推理：性能和多功能性，適用于新一代大型語言模型的實時推理。

深度學(xué)習(xí)訓(xùn)練：性能和可擴展性；

訓(xùn)練性能進一步提升第二代 Transformer 引擎采用 8 位浮點 (FP8) 和新精度，可使 GPT-MoE-1.8T 等大型語言模型的訓(xùn)練速度顯著提升 3 倍。這一代 NVLink 可提供GPU 間直接互連、InfiniBand 網(wǎng)絡(luò)和 NVIDIA Magnum IO? 軟件。這些因素將共同確保企業(yè)和廣泛的 GPU 計算集群具備高效的可擴展性。

NVIDIA英偉達(dá)H20人工智能服務(wù)器借助 NVIDIA 網(wǎng)絡(luò)來加速 HGX；

數(shù)據(jù)中心是新的計算單元，而網(wǎng)絡(luò)在大幅提升整個數(shù)據(jù)中心的應(yīng)用性能方面發(fā)揮著不可或缺的作用。與 NVIDIA Quantum InfiniBand 搭配使用時，HGX 可提供卓越的性能和效率，確保計算資源得到充分利用。