隨著ChatGPT的爆紅,AIGC產(chǎn)業(yè)鏈?zhǔn)艿搅藦V泛關(guān)注。大模型的發(fā)展正在推動(dòng)AI算力市場(chǎng)進(jìn)入新的發(fā)展階段,國(guó)內(nèi)外市場(chǎng)掀起了一股新的AI應(yīng)用熱潮。AIGC早已不是簡(jiǎn)單的技術(shù)概念,而是逐步形成以生成式AI為核心的新一代產(chǎn)業(yè)生態(tài)。AIGC產(chǎn)業(yè)發(fā)展離不開底層資源建設(shè)。要建設(shè)更加強(qiáng)大的AIGC算力基礎(chǔ)設(shè)施,還需要聚焦新一代AI技術(shù)解決關(guān)鍵挑戰(zhàn),實(shí)現(xiàn)革命性突破。
近日,甲子光年智庫發(fā)布《中國(guó)AIGC產(chǎn)業(yè)算力發(fā)展報(bào)告》,作為全球首家基于存算一體超異構(gòu)創(chuàng)新架構(gòu),面向數(shù)據(jù)中心、云計(jì)算、自動(dòng)駕駛、中心側(cè)服務(wù)器等場(chǎng)景的 AI 大算力芯片公司,億鑄科技被列為“AIGC產(chǎn)業(yè)算力領(lǐng)域的領(lǐng)航者”重點(diǎn)關(guān)注企業(yè)。
報(bào)告指出,通信已成為算力增長(zhǎng)的瓶頸。過去 20 年間,運(yùn)算設(shè)備的算力提高了9萬倍,雖然存儲(chǔ)器從 DDR 發(fā)展到 GDDR6x ,接口標(biāo)準(zhǔn)從 PCIe1.0a升級(jí)到 NVLink3.0,但是通訊帶寬的增長(zhǎng)只有 30 倍。存儲(chǔ)器性能增長(zhǎng)慢于處理器,這一剪刀差如今仍在被不斷擴(kuò)大。
在大模型時(shí)代,Transformer模型中的參數(shù)量呈現(xiàn)出 2年240 倍的超指數(shù)增長(zhǎng),而單個(gè)GPU內(nèi)存僅以每 2年2倍的速度擴(kuò)大。無論是訓(xùn)練還是推理,AI計(jì)算芯片都肩負(fù)了比以往更重的使命。
從技術(shù)環(huán)境來講,數(shù)據(jù)量越來越大、模型算法越來越復(fù)雜,而支撐底層算力的摩爾定律卻幾近終結(jié)。巨大的剪刀差落在AI大算力芯片企業(yè)產(chǎn)業(yè)鏈肩上,就帶來了巨大壓力——有效算力的增長(zhǎng)率、軟件的編譯、數(shù)據(jù)的帶寬、存儲(chǔ)的成本、能效比、生產(chǎn)工藝……
這一切挑戰(zhàn)的根源來自數(shù)據(jù)流堵塞,也就是“存儲(chǔ)墻”。無論是芯片外部還是內(nèi)部,數(shù)據(jù)搬運(yùn)速度的提升都與計(jì)算能力的提升都有著巨大的差距,大模型時(shí)代的到來無疑擴(kuò)大了這一鴻溝。AI應(yīng)用進(jìn)入2.0時(shí)代,模型參數(shù)量成長(zhǎng)更快,數(shù)據(jù)搬運(yùn)速度剪刀差更大,而每一次推理計(jì)算都需要搬運(yùn)整個(gè)模型參數(shù),存儲(chǔ)墻成為AI大算力芯片發(fā)展的最大痛點(diǎn)。
要想從根源上解決這個(gè)問題,就要徹底打破“存儲(chǔ)墻”,因此越來越多的科學(xué)家和創(chuàng)業(yè)者轉(zhuǎn)向了存算一體,尋求在AGI時(shí)代的架構(gòu)革新。
打破“存儲(chǔ)墻”,存算一體閃亮登場(chǎng)
根據(jù)目標(biāo)應(yīng)用場(chǎng)景的不同,存算一體企業(yè)選擇的存儲(chǔ)介質(zhì)和技術(shù)路線也會(huì)不同。成立之初,億鑄科技在熊大鵬博士的帶領(lǐng)下,經(jīng)過團(tuán)隊(duì)專家的深入探討與研究,一致同意在AI大算力推理芯片這一賽道上,新型憶阻器ReRAM (RRAM) 是當(dāng)前最合適的存儲(chǔ)介質(zhì)。而這一觀點(diǎn)也逐漸獲得了越來越多的認(rèn)可。在AI大算力市場(chǎng)與AIGC產(chǎn)業(yè)的雙重驅(qū)動(dòng)下,學(xué)術(shù)界和產(chǎn)業(yè)界正將RRAM推向“C位”,紛紛轉(zhuǎn)向ReRAM尋找新的發(fā)展動(dòng)力。
億鑄的“四新一強(qiáng)”優(yōu)勢(shì)
億鑄科技原型技術(shù)驗(yàn)證(POC)芯片首次流片已于2023年8月初回片,并成功點(diǎn)亮了首顆面向數(shù)據(jù)中心、云計(jì)算、自動(dòng)駕駛等場(chǎng)景的存算一體AI大算力芯片。可實(shí)現(xiàn)“基于成熟28nm工藝制程,單卡突破P級(jí)算力”的極強(qiáng)性能與“20T/W”的極高能效比。
甲子光年借《中國(guó)AIGC產(chǎn)業(yè)算力發(fā)展報(bào)告》指出,AIGC不僅僅體現(xiàn)在對(duì)算力規(guī)模的拉動(dòng)上,而是會(huì)改變算力產(chǎn)業(yè)的發(fā)展思路,例如MaaS對(duì)云服務(wù)模式的影響,云邊協(xié)同的效力體現(xiàn),及存算一體技術(shù)的發(fā)展等等。
AIGC的時(shí)代仍在快速發(fā)展,億鑄科技作為AIGC產(chǎn)業(yè)在算力領(lǐng)域的領(lǐng)航者,將積極尋求與其他算力供應(yīng)商、AI技術(shù)提供商以及AI應(yīng)用企業(yè)的合作,形成緊密的生態(tài)伙伴關(guān)系,共同探索AIGC產(chǎn)業(yè)的應(yīng)用場(chǎng)景和商業(yè)模式,不斷攻克難題,以實(shí)現(xiàn)產(chǎn)業(yè)的繁榮發(fā)展。
審核編輯:劉清
-
存儲(chǔ)器
+關(guān)注
關(guān)注
38文章
7631瀏覽量
166335 -
自動(dòng)駕駛
+關(guān)注
關(guān)注
788文章
14184瀏覽量
169397 -
GDDR6
+關(guān)注
關(guān)注
0文章
52瀏覽量
11453 -
AI芯片
+關(guān)注
關(guān)注
17文章
1968瀏覽量
35683 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1586瀏覽量
8779
原文標(biāo)題:億分享 | 把握AIGC浪潮,億鑄科技領(lǐng)航AI大算力芯片產(chǎn)業(yè)未來
文章出處:【微信號(hào):億鑄科技,微信公眾號(hào):億鑄科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
點(diǎn)動(dòng)科技戰(zhàn)略聚焦AI智算,領(lǐng)航算力服務(wù)新征程
大算力芯片的生態(tài)突圍與算力革命
億鑄科技亮相2025中國(guó)移動(dòng)云智算大會(huì)

DeepSeek推動(dòng)AI算力需求:800G光模塊的關(guān)鍵作用

評(píng)論