集微網(wǎng)消息，NVIDIA于美國當(dāng)?shù)貢r(shí)間20日宣布NVIDIA H100 Tensor Core GPU全面投產(chǎn)，NVIDIA全球技術(shù)合作伙伴計(jì)劃于10月推出首批基于開創(chuàng)性NVIDIA Hopper™架構(gòu)的產(chǎn)品和服務(wù)。
H100于2022年4月發(fā)布，由800億個(gè)晶體管組成，并采用了眾多開創(chuàng)性的技術(shù)，包括強(qiáng)大的全新Transformer引擎和NVIDIA NVlink®互連技術(shù)，以加速最大規(guī)模的AI模型，如高級(jí)推薦系統(tǒng)和大型語言模型，并推動(dòng)對(duì)話式AI和藥物發(fā)現(xiàn)等領(lǐng)域的創(chuàng)新。。
NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“Hopper是AI工廠的全新引擎。它能夠處理和挖掘海量數(shù)據(jù)，訓(xùn)練具有數(shù)萬億參數(shù)的模型，這些模型將推動(dòng)基于語言的AI、機(jī)器人、醫(yī)療和生命科學(xué)領(lǐng)域的進(jìn)步。Hopper的Transformer引擎將性能提升了一個(gè)數(shù)量級(jí)，使大規(guī)模AI和HPC能夠?yàn)槠髽I(yè)和研究人員所用。”
除了Hopper的架構(gòu)和Transformer引擎之外，第二代多實(shí)例GPU、機(jī)密計(jì)算、第四代NVIDIA NVlink和DPX 指令等若干關(guān)鍵性創(chuàng)新也讓H100 GPU如虎添翼，實(shí)現(xiàn)了NVIDIA加速計(jì)算數(shù)據(jù)中心平臺(tái)的又一次飛躍。
用于主流服務(wù)器的H100現(xiàn)包含為期五年的NVIDIA AI Enterprise軟件套件許可。這將優(yōu)化AI工作流程的開發(fā)和部署，確保用戶能夠獲得構(gòu)建AI聊天機(jī)器人、推薦引擎、視覺AI等所需的AI框架和工具。
Hopper的全球推廣
H100使企業(yè)能夠削減AI的部署成本，相較于上一代，在提供相同AI性能的情況下，可將能效提高3.5倍，總體擁有成本減少至1/3，所使用的服務(wù)器節(jié)點(diǎn)數(shù)也減少至1/5。
對(duì)于有意立即嘗試這項(xiàng)新技術(shù)的客戶，NVIDIA已宣布戴爾PowerEdge服務(wù)器上的H100現(xiàn)可在NVIDIA LaunchPad上使用。NVIDIA LaunchPad為企業(yè)提供免費(fèi)的動(dòng)手實(shí)操實(shí)驗(yàn)室，讓企業(yè)能夠接觸到最新的硬件和NVIDIA AI軟件。
NVIDIA DGX™ H100系統(tǒng)現(xiàn)在也已開始接受客戶預(yù)定。該系統(tǒng)包含8個(gè)H100 GPU，F(xiàn)P8精度的峰值性能達(dá)到32 PFlops。每個(gè)DGX系統(tǒng)都包含NVIDIA base Command™和NVIDIA AI Enterprise軟件，可實(shí)現(xiàn)從單一節(jié)點(diǎn)到NVIDIA DGX SuperPOD™的集群部署，為大型語言模型和其他大規(guī)模工作負(fù)載的高級(jí)AI開發(fā)工作提供支持。
全球領(lǐng)先的計(jì)算機(jī)制造商所提供的搭載H100的系統(tǒng)預(yù)計(jì)將在未來幾周內(nèi)發(fā)貨，到今年年底將有超過50款服務(wù)器型號(hào)面市，2023年上半年還將有數(shù)十款型號(hào)面市。已在構(gòu)建系統(tǒng)的合作伙伴包括源訊（Atos）、思科、戴爾科技、富士通、技嘉科技、慧與、聯(lián)想和超微。
此外，數(shù)家全球領(lǐng)先的高等教育和研究機(jī)構(gòu)的新一代超級(jí)計(jì)算機(jī)也將采用H100。其中包括巴塞羅那超級(jí)計(jì)算中心、洛斯阿拉莫斯國家實(shí)驗(yàn)室、瑞士國家超級(jí)計(jì)算中心（CSCS）、德州高級(jí)計(jì)算中心和筑波大學(xué)。
H100走向云端
AWS、谷歌云、Microsoft Azure、Oracle Cloud Infrastructure將從明年開始率先在云端部署基于H100的實(shí)例。
Microsoft Azure AI基礎(chǔ)設(shè)施總經(jīng)理Nidhi Chappell表示：“我們期待著在Microsoft Azure的最新H100 GPU上實(shí)現(xiàn)下一代AI模型。借助Hopper架構(gòu)的進(jìn)步，加之我們?cè)贏zure AI超級(jí)計(jì)算方面的投資，我們將能夠助力加速全球AI的發(fā)展。”
Oracle Cloud Infrastructure產(chǎn)品管理副總裁Karan Batta表示：“我們通過為客戶提供NVIDIA最新的H100 GPU，幫助他們加速最為復(fù)雜的機(jī)器學(xué)習(xí)和HPC工作負(fù)載。另外，憑借NVIDIA的新一代H100 GPU，我們能夠?yàn)閮?nèi)部要求嚴(yán)苛的工作負(fù)載提供支持，并助力我們共同的客戶在醫(yī)療、自動(dòng)駕駛汽車、機(jī)器人和物聯(lián)網(wǎng)領(lǐng)域取得突破。”
NVIDIA的軟件支持
H100先進(jìn)的Transformer引擎技術(shù)可助力企業(yè)快速開發(fā)精度更高的大型語言模型。隨著這些模型的規(guī)模不斷擴(kuò)大，其復(fù)雜性也在不斷提升，有些模型的訓(xùn)練時(shí)間甚至長達(dá)數(shù)月。
為解決這一問題，一些全球領(lǐng)先的大型語言模型和深度學(xué)習(xí)框架正在H100上進(jìn)行優(yōu)化，包括NVIDIA NeMo Megatron、Microsoft DeepSpeed、Google JAX、PyTorch、TensorFlow和XLA。這些框架與Hopper架構(gòu)相結(jié)合，能夠顯著提升AI性能，將大型語言模型的訓(xùn)練時(shí)間縮短到幾天乃至幾小時(shí)。
