近日,英偉達推出了一款用于人工智能工作的頂級芯片HGX H200。新的GPU升級了需求巨大的H100,內存帶寬增加了1.4倍,內存容量增加了1.8倍,提高了其處理密集生成人工智能工作的能力。
在備受矚目的人工智能領域,英偉達提到,H200將帶來進一步的性能飛躍。在Llama 2(700億參數的LLM)上的推理速度比H100快了一倍。未來的軟件更新預計會給H200帶來額外的性能領先優勢和改進。
H200將在具有四路和八路配置的英偉達HGX H200服務器主板中提供,并與HGX H100系統的硬件和軟件兼容。
大型計算機制造商和云服務提供商預計將于明年第二季度開始使用H200。亞馬遜的AWS、Alphabet公司的谷歌云、微軟Azure和甲骨文的云基礎設施,都承諾從明年開始使用這款新芯片。
英偉達高性能計算產品副總裁Ian Buck在近日的視頻演示中表示:“更快、更廣泛的HBM內存集成有助于提高計算需求任務的性能,包括生成人工智能模型和[高性能計算]應用程序,同時優化GPU利用率和效率。”
H200還與已經支持H100的相同系統兼容。英偉達表示,云提供商在將H200添加到混合中時不需要做出任何更改。亞馬遜、谷歌、微軟和甲骨文的云計算部門將在明年率先提供新的GPU。
一旦推出,新芯片肯定會很貴。英偉達沒有列出它們的價格,但據美國消費者新聞與商業頻道報道,上一代H100的售價估計在25000至40000美元之間,其中數千臺需要在最高水平上運行。并且,價格由英偉達的合作伙伴決定。
伴隨著人工智能的火爆,英偉達的高端GPU需求量極大。這也令其他芯片制造商瞄準這一利潤豐厚的市場,加快推出高品質的AI芯片,整個AI芯片市場競爭相當激烈。英偉達此舉旨在鞏固其在AI計算市場的主導地位。
審核編輯:彭菁
-
芯片
+關注
關注
459文章
52145瀏覽量
435935 -
谷歌
+關注
關注
27文章
6223瀏覽量
107494 -
人工智能
+關注
關注
1804文章
48677瀏覽量
246343 -
英偉達
+關注
關注
22文章
3920瀏覽量
93090
原文標題:英偉達推出新款必備人工智能芯片 性能再飛躍
文章出處:【微信號:IEEE_China,微信公眾號:IEEE電氣電子工程師】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
AMD最強AI芯片,性能強過英偉達H200,但市場仍不買賬,生態是最大短板?

特朗普要叫停英偉達對華特供版 英偉達H20出口限制 或損失55億美元
GMI Cloud推出基于英偉達H200的DeepSeek系列模型
英偉達發布DeepSeek R1于NIM平臺
荷蘭與英偉達、AMD商討共建人工智能設施
一顆芯片面積頂4顆H200,博通推出3.5D XDSiP封裝平臺

評論