曾幾何時(shí),我們需要花費(fèi)一個(gè)多小時(shí)才能下載一部電影。如今,最新的處理器能夠在一秒鐘內(nèi)處理相當(dāng)于160多部全高清電影的數(shù)據(jù)量。高帶寬內(nèi)存(HBM)是實(shí)現(xiàn)這一高效數(shù)據(jù)傳輸?shù)暮诵募夹g(shù)。雖然HBM在2013年首次亮相時(shí)曾面臨商用風(fēng)險(xiǎn)評(píng)估,但是經(jīng)過幾年的發(fā)展和驗(yàn)證,現(xiàn)已成為人工智能芯片的基本要素。各大芯片制造商,例如英偉達(dá)和AMD,均致力于推動(dòng)此項(xiàng)尖端技術(shù),以滿足他們?nèi)找嬖鲩L的處理能力及帶寬需求。
大量數(shù)據(jù)生成式人工智能應(yīng)用對(duì)傳統(tǒng)存儲(chǔ)芯片的性能產(chǎn)生了巨大挑戰(zhàn)。為了應(yīng)對(duì)這個(gè)問題,我們需要更快的數(shù)據(jù)傳輸速度和更高的處理效率,從而導(dǎo)致更密集的芯片布局以及更大的能耗輸出。一直以來,傳統(tǒng)安裝形式均是將芯片平放在同一平面上,然后利用電纜及保險(xiǎn)絲進(jìn)行鏈接。這一方式會(huì)隨著芯片數(shù)量的增多而降低通信和功耗效率。而HBM改變了這一狀況,它將多個(gè)芯片沿垂直方向堆疊,同時(shí)利用尖端材料,包括比紙片還要纖小的微型電路板,將模塊匯聚成為立體形態(tài)。這一改進(jìn)對(duì)于人工智能芯片制造商來說極為重要,因?yàn)楫?dāng)芯片間距減小,能耗亦隨之下降,HBM的能耗較之傳統(tǒng)方式低了約四分之三。此外,HBM還擁有高達(dá)五倍的帶寬優(yōu)勢(shì),且占用空間小于現(xiàn)有產(chǎn)品的一半。
盡管如此,HBM的成本仍然較高,為常見內(nèi)存芯片的五倍以上。然而,由于HBM滿足了現(xiàn)代高性能人工智能芯片的特殊需求,因此此類集成了HBM的人工智能芯片也具有較高價(jià)值。與十年前相比,現(xiàn)在各大科技巨頭的芯片投資預(yù)算明顯增加。據(jù)TrendForce公司數(shù)據(jù)顯示,全球HBM市場(chǎng)中50%的份額由韓國SK海力士占有,余下市場(chǎng)則被三星和美光瓜分。這兩家公司分別生產(chǎn)了上一代以及即將面世的新款HBM芯片。
總的來說,在當(dāng)前市場(chǎng)環(huán)境下,只有SK海力士公司能夠大規(guī)模生產(chǎn)第三代HBM產(chǎn)品。據(jù)稱,該公司滿足了全球超過60%的客戶需求,而其他競爭者則主要面向市場(chǎng)生產(chǎn)上一代產(chǎn)品。盡管HBM目前尚存在成本較高等問題,但毫無疑問的是,隨著人工智能領(lǐng)域的不斷拓展以及數(shù)據(jù)中心規(guī)模的擴(kuò)大,對(duì)于HBM的需求將會(huì)持續(xù)攀升。預(yù)測(cè)至2023年6月份,全球HBM需求將同比增加60%。
2024年,人工智能芯片大戰(zhàn)將進(jìn)一步推動(dòng)這一增長。AMD剛剛推出了一款新產(chǎn)品,希望與英偉達(dá)抗衡。全球市場(chǎng)供不應(yīng)求,再加上人們對(duì)價(jià)格更低廉的英偉達(dá)產(chǎn)品需求旺盛,這意味著能夠提供規(guī)格相當(dāng)芯片的企業(yè)將有機(jī)會(huì)獲得豐厚的利潤。但是,撼動(dòng)英偉達(dá)的關(guān)鍵不僅在于物理芯片本身,還在于其軟件生態(tài)系統(tǒng),其中包括流行的開發(fā)工具和編程模型。要想復(fù)制這一點(diǎn),需要數(shù)年時(shí)間。
這就是為什么硬件,以及每塊新芯片中的HBM數(shù)量,對(duì)英偉達(dá)的競爭者來說變得更加重要。通過使用升級(jí)的HBM來提高內(nèi)存容量,是短期內(nèi)獲得競爭力的少數(shù)方法之一。例如,AMD最新的MI300加速器使用了8個(gè)HBM,比英偉達(dá)產(chǎn)品的5或6個(gè)要多。
芯片歷來是一個(gè)周期性行業(yè),容易出現(xiàn)劇烈的繁榮和蕭條。從目前的趨勢(shì)來看,新產(chǎn)品需求的持續(xù)增長應(yīng)該會(huì)使未來的衰退期不像過去那么動(dòng)蕩。
-
人工智能
+關(guān)注
關(guān)注
1804文章
48726瀏覽量
246623 -
存儲(chǔ)芯片
+關(guān)注
關(guān)注
11文章
931瀏覽量
43943 -
HBM
+關(guān)注
關(guān)注
1文章
408瀏覽量
15117
發(fā)布評(píng)論請(qǐng)先 登錄
評(píng)論