人工智能正以前所未有的速度重塑世界。基座模型參數(shù)規(guī)模向萬億級(jí)躍遷,推理模型逐步在千行百業(yè)規(guī)模化落地,大模型的訓(xùn)練推理對(duì)底層算力基礎(chǔ)設(shè)施提出了前所未有的嚴(yán)苛要求。高效、可擴(kuò)展、低延遲的超節(jié)點(diǎn)技術(shù),正成為支撐下一代AI訓(xùn)練集群和推理部署的關(guān)鍵。
什么是超節(jié)點(diǎn)?
超節(jié)點(diǎn)是一種通過高帶寬、低時(shí)延互聯(lián)技術(shù)(如NVLink、UB、OISA等)將成百上千張GPU互聯(lián)在一起的產(chǎn)品形態(tài)和技術(shù)。英偉達(dá)、華為、AMD等全球領(lǐng)先的科技企業(yè)紛紛加速部署超節(jié)點(diǎn)技術(shù),推動(dòng)其在AI訓(xùn)練與推理領(lǐng)域的廣泛應(yīng)用。
在私有協(xié)議領(lǐng)域,英偉達(dá)推出了基于NVLink的NVL72方案,為行業(yè)樹立了風(fēng)向標(biāo)。其在GTC 2025上亮相的英偉達(dá)下一代Rubin ULtra NVL576將支持576個(gè)GPU間互聯(lián),推理效率將是GB300 NVL72的14倍。
AI推理模型及應(yīng)用進(jìn)一步加大了智算集群對(duì)低延遲、高吞吐和高資源利用率的需求。英偉達(dá)最新發(fā)布的 Blackwell GB300 NVL72 超節(jié)點(diǎn)系統(tǒng)在推理性能上相比上一代 H100 DGX 8 系統(tǒng)實(shí)現(xiàn)了 50 倍的提升,同時(shí)也帶來了10倍ROI的提升。從對(duì)比也可以看出超節(jié)點(diǎn)在模型訓(xùn)練乃至推理階段能夠有效提升投入的性價(jià)比和產(chǎn)出比。
目前超節(jié)點(diǎn)系統(tǒng)主要基于私有協(xié)議構(gòu)建,缺乏生態(tài)上下游協(xié)同。另一方面,私有協(xié)議往往也意味著高昂的成本。
近年來,業(yè)界也一直致力于在Scale Up網(wǎng)絡(luò)構(gòu)建更加開放解耦的協(xié)同生態(tài)。AMD、阿里、Intel、谷歌、微軟等企業(yè)牽頭提出了UALink開放標(biāo)準(zhǔn);在開放數(shù)據(jù)中心&中國信通院的領(lǐng)導(dǎo)下,以中國移動(dòng)為代表的OISA、阿里云牽頭的ALink(Alink system)、 騰訊牽頭的ETH-X開放標(biāo)準(zhǔn)都在協(xié)同上下游伙伴如火如荼的建設(shè)中。
奇異摩爾作為產(chǎn)業(yè)鏈的一員,積極投身開放標(biāo)準(zhǔn)的共建與協(xié)同,在行業(yè)標(biāo)準(zhǔn)制定的過程中,奇異摩爾憑借其深厚的技術(shù)積累和創(chuàng)新能力,主動(dòng)參與相關(guān)標(biāo)準(zhǔn)的起草與完善,為推動(dòng)整個(gè)AI網(wǎng)絡(luò)的開放與標(biāo)準(zhǔn)化發(fā)展貢獻(xiàn)智慧和力量。
隨著AI應(yīng)用的進(jìn)一步爆發(fā)與普及,業(yè)界對(duì)超節(jié)點(diǎn)的需求將進(jìn)一步高漲。當(dāng)前,超節(jié)點(diǎn)技術(shù)的發(fā)展迫切需要應(yīng)對(duì)開放的通用協(xié)議、多語義支持、可擴(kuò)展的拓?fù)涞榷喾轿惶魬?zhàn)。
在2025中國AI算力大會(huì)上,奇異摩爾首席網(wǎng)絡(luò)架構(gòu)專家葉棟將帶來“AI原生時(shí)代 —共筑超節(jié)點(diǎn)的網(wǎng)絡(luò)基礎(chǔ)架構(gòu)”的主題演講,分享國內(nèi)外超節(jié)點(diǎn)解決方案在AI訓(xùn)練與推理領(lǐng)域的應(yīng)用現(xiàn)狀與挑戰(zhàn)以及相關(guān)解決方案。
活動(dòng)預(yù)告
演講嘉賓
奇異摩爾首席網(wǎng)絡(luò)架構(gòu)專家 葉棟,2002年北郵博士畢業(yè),B-ISDN寬帶通信專業(yè),擁有超過20年的網(wǎng)絡(luò)互聯(lián)系統(tǒng)架構(gòu)設(shè)計(jì)經(jīng)驗(yàn),在AI網(wǎng)絡(luò)協(xié)議、RDMA、虛擬化、軟件協(xié)議棧等方面擁有豐富的專業(yè)知識(shí)。在英特爾(中國)工作多年,曾任英特爾網(wǎng)絡(luò)互聯(lián)產(chǎn)品事業(yè)部技術(shù)總監(jiān),負(fù)責(zé)英特爾以太網(wǎng),P4可編程交換芯片,FPGA智能網(wǎng)卡,Google IPU相關(guān)系統(tǒng)架構(gòu)產(chǎn)品的本地化研發(fā)和部署。啟動(dòng)和主導(dǎo)了基于FPGA的智能網(wǎng)卡方案在國內(nèi)的設(shè)計(jì)開發(fā)和推廣,構(gòu)建了多家大型云廠商和服務(wù)商等大規(guī)模部署的技術(shù)方案的底座。
演講主題
《AI原生時(shí)代 —共筑超節(jié)點(diǎn)的網(wǎng)絡(luò)基礎(chǔ)架構(gòu)》
演講摘要
AI原生時(shí)代,基座模型的參數(shù)向萬億級(jí)躍升,推理模型加速了AI應(yīng)用在各行各業(yè)的落地。本次報(bào)告旨在介紹國內(nèi)外超節(jié)點(diǎn)解決方案在AI訓(xùn)練與推理領(lǐng)域的應(yīng)用現(xiàn)狀及挑戰(zhàn);同時(shí)分享奇異摩爾在超節(jié)點(diǎn)領(lǐng)域的核心技術(shù)方案、并進(jìn)一步探討如何與AI網(wǎng)絡(luò)生態(tài)合作伙伴協(xié)同,共筑更高效的超節(jié)點(diǎn)網(wǎng)絡(luò)基礎(chǔ)架構(gòu)。
大會(huì)日程
大會(huì)設(shè)置了主會(huì)場觀眾票、主會(huì)場VIP票、閉門專享票和貴賓通票四類電子門票,其中,主會(huì)場觀眾票為免費(fèi)票,申請(qǐng)后需經(jīng)審核通過方可參會(huì);主會(huì)場VIP票、閉門專享票和貴賓通票均需購買。能夠現(xiàn)場參會(huì)的朋友,掃描下方二維碼添加小助手“雪梨”,即可購票或免費(fèi)申請(qǐng)主會(huì)場觀眾票。
關(guān)于我們
AI網(wǎng)絡(luò)全棧式互聯(lián)架構(gòu)產(chǎn)品及解決方案提供商
奇異摩爾,成立于2021年初,是一家行業(yè)領(lǐng)先的AI網(wǎng)絡(luò)全棧式互聯(lián)產(chǎn)品及解決方案提供商。公司依托于先進(jìn)的高性能RDMA 和Chiplet技術(shù),創(chuàng)新性地構(gòu)建了統(tǒng)一互聯(lián)架構(gòu)——Kiwi Fabric,專為超大規(guī)模AI計(jì)算平臺(tái)量身打造,以滿足其對(duì)高性能互聯(lián)的嚴(yán)苛需求。我們的產(chǎn)品線豐富而全面,涵蓋了面向不同層次互聯(lián)需求的關(guān)鍵產(chǎn)品,如面向北向Scale out網(wǎng)絡(luò)的AI原生智能網(wǎng)卡、面向南向Scale up網(wǎng)絡(luò)的GPU片間互聯(lián)芯粒、以及面向芯片內(nèi)算力擴(kuò)展的2.5D/3D IO Die和UCIe Die2Die IP等。這些產(chǎn)品共同構(gòu)成了全鏈路互聯(lián)解決方案,為AI計(jì)算提供了堅(jiān)實(shí)的支撐。
-
AI
+關(guān)注
關(guān)注
88文章
34623瀏覽量
276444 -
算力
+關(guān)注
關(guān)注
2文章
1169瀏覽量
15523 -
奇異摩爾
+關(guān)注
關(guān)注
0文章
56瀏覽量
3700
原文標(biāo)題:奇異摩爾出席2025中國AI算力大會(huì):共筑超節(jié)點(diǎn)網(wǎng)絡(luò)新生態(tài)
文章出處:【微信號(hào):奇異摩爾,微信公眾號(hào):奇異摩爾】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
曙光數(shù)創(chuàng)亮相2025中國智算中心全棧技術(shù)大會(huì)
南方測繪邀您相約2025中國水博覽會(huì)
壁仞科技亮相2025中國移動(dòng)云智算大會(huì)
曦智科技亮相2025中國移動(dòng)云智算大會(huì)
奇異摩爾亮相2025中國移動(dòng)云智算大會(huì)

摩爾線程亮相2025中國移動(dòng)云智算大會(huì)
彩訊受邀出席2025中國移動(dòng)云智算大會(huì),Rich AIBox2.0帶來人機(jī)共生新體驗(yàn)

億鑄科技邀您相約2025中國移動(dòng)云智算大會(huì)
安森美邀您相約OFweek 2025中國機(jī)器人產(chǎn)業(yè)大會(huì)
AI 算力報(bào)告來了!2025中國AI算力市場將達(dá) 259 億美元

評(píng)論