11月19日消息,人工智能(AI)芯片大廠(chǎng)英偉達(dá)(NVIDIA)正式推出了兩個(gè)全新的AI解決方案硬件平臺(tái),一個(gè)是Blackwell GB200 NVL4,一個(gè)是Hopper H200 NVL。
據(jù)介紹,英偉達(dá)GB200 NVL4是一個(gè)全新的模塊,是基于原有的GB200 Grace Blackwell Superchip AI解決方案的更大擴(kuò)展。GB200 NVL4模塊是在更大的主板上配置兩個(gè)Blackwell GB200 GPU,即擁有兩個(gè)Grace CPU和4個(gè)Blackwell B200 GPU。該模塊被設(shè)計(jì)為具有4-GPU NVLINK域和1.3T相干內(nèi)存的單服務(wù)器解決方案。在性能方面,該模塊將使模擬性能提高2.2倍,訓(xùn)練和推理性能提高1.8倍。英偉達(dá)的合作伙伴將在未來(lái)幾個(gè)月內(nèi)提供NVL4解決方案。

此外,基于 PCIe 的Hopper H200 NVL已全面上市,這些卡可以通過(guò) NVLINK 域連接多達(dá) 4 個(gè) GPU,可提供比標(biāo)準(zhǔn) PCIe 解決方案快7倍的帶寬。英偉達(dá)表示,H200 NVL 解決方案可以適應(yīng)任何數(shù)據(jù)中心,并提供一系列針對(duì)混合 HPC 和 AI 工作負(fù)載優(yōu)化的靈活服務(wù)器配置。

在規(guī)格方面,Hopper H200 NVL解決方案提供了1.5倍的HBM內(nèi)存、1.7倍的LLM推理性能和1.3倍的HPC性能。您將獲得114個(gè)SM,總共14592個(gè)CUDA內(nèi)核、456個(gè)張量?jī)?nèi)核和最多3個(gè)FP8 TFLOP(FP16累積)性能。GPU具有跨5120位接口配置的80 Gb HBM2e內(nèi)存,TDP為350瓦。

至于 TDP,由于 Superchip 模塊的功率約為 2700W,預(yù)計(jì)更大的 GB200 NVL4 解決方案的功耗接近 6000W 的功率。人們可以很容易地看到英偉達(dá) 為加速 AI 計(jì)算領(lǐng)域所做的努力。
英偉達(dá)最近在MLPerf v4.1中發(fā)布了訓(xùn)練和推理方面的世界紀(jì)錄,不僅最新的Blackwell平臺(tái)令人驚嘆,而且上一代的Hopper通過(guò)持續(xù)優(yōu)化也變得越來(lái)越好。該公司還將其人工智能路線(xiàn)圖加速到一年的節(jié)奏,并計(jì)劃在未來(lái)幾年推出幾個(gè)新的基礎(chǔ)設(shè)施,如Blackwell Ultra和Rubin。
編輯:芯智訊-浪客劍
-
芯片
+關(guān)注
關(guān)注
459文章
52205瀏覽量
436457 -
人工智能
+關(guān)注
關(guān)注
1804文章
48737瀏覽量
246664 -
英偉達(dá)
+關(guān)注
關(guān)注
22文章
3923瀏覽量
93136
發(fā)布評(píng)論請(qǐng)先 登錄
評(píng)論