集微網(wǎng)消息，NVIDIA于美國當(dāng)?shù)貢r間20日宣布NVIDIA H100 Tensor Core GPU全面投產(chǎn)，NVIDIA全球技術(shù)合作伙伴計劃于10月推出首批基于開創(chuàng)性NVIDIA Hopper™架構(gòu)的產(chǎn)品和服務(wù)。

H100于2022年4月發(fā)布，由800億個晶體管組成，并采用了眾多開創(chuàng)性的技術(shù)，包括強大的全新Transformer引擎和NVIDIA NVlink®互連技術(shù)，以加速最大規(guī)模的AI模型，如高級推薦系統(tǒng)和大型語言模型，并推動對話式AI和藥物發(fā)現(xiàn)等領(lǐng)域的創(chuàng)新。。

NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“Hopper是AI工廠的全新引擎。它能夠處理和挖掘海量數(shù)據(jù)，訓(xùn)練具有數(shù)萬億參數(shù)的模型，這些模型將推動基于語言的AI、機器人、醫(yī)療和生命科學(xué)領(lǐng)域的進步。Hopper的Transformer引擎將性能提升了一個數(shù)量級，使大規(guī)模AI和HPC能夠為企業(yè)和研究人員所用。”

除了Hopper的架構(gòu)和Transformer引擎之外，第二代多實例GPU、機密計算、第四代NVIDIA NVlink和DPX 指令等若干關(guān)鍵性創(chuàng)新也讓H100 GPU如虎添翼，實現(xiàn)了NVIDIA加速計算數(shù)據(jù)中心平臺的又一次飛躍。

用于主流服務(wù)器的H100現(xiàn)包含為期五年的NVIDIA AI Enterprise軟件套件許可。這將優(yōu)化AI工作流程的開發(fā)和部署，確保用戶能夠獲得構(gòu)建AI聊天機器人、推薦引擎、視覺AI等所需的AI框架和工具。

Hopper的全球推廣

H100使企業(yè)能夠削減AI的部署成本，相較于上一代，在提供相同AI性能的情況下，可將能效提高3.5倍，總體擁有成本減少至1/3，所使用的服務(wù)器節(jié)點數(shù)也減少至1/5。

對于有意立即嘗試這項新技術(shù)的客戶，NVIDIA已宣布戴爾PowerEdge服務(wù)器上的H100現(xiàn)可在NVIDIA LaunchPad上使用。NVIDIA LaunchPad為企業(yè)提供免費的動手實操實驗室，讓企業(yè)能夠接觸到最新的硬件和NVIDIA AI軟件。

NVIDIA DGX™ H100系統(tǒng)現(xiàn)在也已開始接受客戶預(yù)定。該系統(tǒng)包含8個H100 GPU，F(xiàn)P8精度的峰值性能達到32 PFlops。每個DGX系統(tǒng)都包含NVIDIA base Command™和NVIDIA AI Enterprise軟件，可實現(xiàn)從單一節(jié)點到NVIDIA DGX SuperPOD™的集群部署，為大型語言模型和其他大規(guī)模工作負載的高級AI開發(fā)工作提供支持。

全球領(lǐng)先的計算機制造商所提供的搭載H100的系統(tǒng)預(yù)計將在未來幾周內(nèi)發(fā)貨，到今年年底將有超過50款服務(wù)器型號面市，2023年上半年還將有數(shù)十款型號面市。已在構(gòu)建系統(tǒng)的合作伙伴包括源訊（Atos）、思科、戴爾科技、富士通、技嘉科技、慧與、聯(lián)想和超微。

此外，數(shù)家全球領(lǐng)先的高等教育和研究機構(gòu)的新一代超級計算機也將采用H100。其中包括巴塞羅那超級計算中心、洛斯阿拉莫斯國家實驗室、瑞士國家超級計算中心（CSCS）、德州高級計算中心和筑波大學(xué)。

H100走向云端

AWS、谷歌云、Microsoft Azure、Oracle Cloud Infrastructure將從明年開始率先在云端部署基于H100的實例。

Microsoft Azure AI基礎(chǔ)設(shè)施總經(jīng)理Nidhi Chappell表示：“我們期待著在Microsoft Azure的最新H100 GPU上實現(xiàn)下一代AI模型。借助Hopper架構(gòu)的進步，加之我們在Azure AI超級計算方面的投資，我們將能夠助力加速全球AI的發(fā)展。”

Oracle Cloud Infrastructure產(chǎn)品管理副總裁Karan Batta表示：“我們通過為客戶提供NVIDIA最新的H100 GPU，幫助他們加速最為復(fù)雜的機器學(xué)習(xí)和HPC工作負載。另外，憑借NVIDIA的新一代H100 GPU，我們能夠為內(nèi)部要求嚴(yán)苛的工作負載提供支持，并助力我們共同的客戶在醫(yī)療、自動駕駛汽車、機器人和物聯(lián)網(wǎng)領(lǐng)域取得突破。”

NVIDIA的軟件支持

H100先進的Transformer引擎技術(shù)可助力企業(yè)快速開發(fā)精度更高的大型語言模型。隨著這些模型的規(guī)模不斷擴大，其復(fù)雜性也在不斷提升，有些模型的訓(xùn)練時間甚至長達數(shù)月。

為解決這一問題，一些全球領(lǐng)先的大型語言模型和深度學(xué)習(xí)框架正在H100上進行優(yōu)化，包括NVIDIA NeMo Megatron、Microsoft DeepSpeed、Google JAX、PyTorch、TensorFlow和XLA。這些框架與Hopper架構(gòu)相結(jié)合，能夠顯著提升AI性能，將大型語言模型的訓(xùn)練時間縮短到幾天乃至幾小時。