2025年,隨著DeepSeek大模型的開源迭代,AI技術(shù)在云計(jì)算領(lǐng)域的應(yīng)用加速滲透,市場(chǎng)對(duì)高性能AI芯片的需求迎來爆發(fā)式增長。作為AI算力供應(yīng)鏈的核心供應(yīng)商,深圳市科通技術(shù)股份有限公司(以下簡(jiǎn)稱“科通技術(shù)”)推出的“DeepSeek+AI芯片”全場(chǎng)景方案,在云AI領(lǐng)域取得重大突破。除了GPU的算力總量,云AI的一大挑戰(zhàn)來源于GPU集群的數(shù)據(jù)互聯(lián)效率。某大型互聯(lián)網(wǎng)集團(tuán)為解決云AI系統(tǒng)中千卡級(jí)GPU集群的高性能需求,面臨服務(wù)器與加速卡間數(shù)據(jù)交換帶寬和延遲的嚴(yán)苛挑戰(zhàn)。科通技術(shù)聯(lián)合全球頂尖設(shè)備原廠,基于Infiniband技術(shù)打造了葉-脊(Leaf-Spine)架構(gòu)的服務(wù)器網(wǎng)絡(luò)集群方案,成為云場(chǎng)景算力升級(jí)的標(biāo)桿案例。
Infiniband技術(shù)是一種高性能的計(jì)算機(jī)網(wǎng)絡(luò)技術(shù),它在數(shù)據(jù)傳輸方面具備高帶寬、低延遲的顯著優(yōu)勢(shì),能夠快速處理大量數(shù)據(jù),滿足AI計(jì)算對(duì)數(shù)據(jù)傳輸速度的嚴(yán)苛要求。而葉-脊架構(gòu)是一種常用于數(shù)據(jù)中心網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu),相較于傳統(tǒng)網(wǎng)絡(luò)架構(gòu),它有著更高的擴(kuò)展性和更低的網(wǎng)絡(luò)延遲,非常適合大規(guī)模集群的應(yīng)用場(chǎng)景。
在技術(shù)細(xì)節(jié)上,科通技術(shù)采用高性能服務(wù)器CPU與高端GPU卡的組合,通過芯片級(jí)優(yōu)化實(shí)現(xiàn)千塊GPU卡池的高帶寬、低延時(shí)數(shù)據(jù)交換。方案設(shè)計(jì)中,葉-脊架構(gòu)的網(wǎng)絡(luò)拓?fù)洳粌H滿足了當(dāng)前千卡級(jí)集群的數(shù)據(jù)吞吐需求,還通過預(yù)留充足的接口容量支持未來業(yè)務(wù)擴(kuò)展,確保系統(tǒng)具備長期適應(yīng)性。此外,科通技術(shù)為集群配置了100G/200G/400G高速網(wǎng)卡及智能網(wǎng)關(guān)設(shè)備。經(jīng)測(cè)試,與傳統(tǒng)方案相比,該方案可提供3.2倍以上數(shù)據(jù)交換吞吐量,不僅使AI推理效率提升了15%以上,還降低36%的功耗。這一方案的成功實(shí)施,科通在高速網(wǎng)絡(luò)設(shè)備業(yè)務(wù)的顯著提升直接帶動(dòng)了科通技術(shù)代理的各原廠專業(yè)GPU、服務(wù)器CPU及相關(guān)存儲(chǔ)產(chǎn)品的銷量增長。
在市場(chǎng)成效方面,該案例不僅幫助客戶實(shí)現(xiàn)了大參數(shù)模型(如千億級(jí)參數(shù))的高并發(fā)訓(xùn)練與推理應(yīng)用指標(biāo),還推動(dòng)了科通技術(shù)在云AI基礎(chǔ)設(shè)施領(lǐng)域的深度布局。通過代理全球80余家芯片原廠的核心產(chǎn)品,科通技術(shù)構(gòu)建了覆蓋云端訓(xùn)練、推理、存儲(chǔ)、網(wǎng)絡(luò)的全棧芯片矩陣,能夠?yàn)椴煌?guī)模客戶提供定制化解決方案。隨著DeepSeek大模型對(duì)算力需求的持續(xù)攀升,云場(chǎng)景的AI芯片采購量呈現(xiàn)指數(shù)級(jí)增長。科通技術(shù)已與多家頭部互聯(lián)網(wǎng)企業(yè)達(dá)成長期合作,預(yù)計(jì)未來云場(chǎng)景相關(guān)業(yè)務(wù)將持續(xù)帶動(dòng)公司營收增長。
可以預(yù)見,DeepSeek大模型的技術(shù)迭代將持續(xù)催化AI芯片在云端的應(yīng)用需求。科通技術(shù)憑借全場(chǎng)景方案的技術(shù)整合能力和全球供應(yīng)鏈優(yōu)勢(shì),在AI算力供應(yīng)鏈中占據(jù)重要地位。隨著AI模型復(fù)雜度的提升和云服務(wù)規(guī)模的擴(kuò)大,科通技術(shù)有望憑借其技術(shù)優(yōu)勢(shì)和市場(chǎng)布局,在行業(yè)中持續(xù)發(fā)展,為AI芯片應(yīng)用產(chǎn)業(yè)的發(fā)展貢獻(xiàn)重要力量。
審核編輯 黃宇
-
芯片
+關(guān)注
關(guān)注
459文章
52160瀏覽量
436049 -
AI
+關(guān)注
關(guān)注
87文章
34173瀏覽量
275333 -
大模型
+關(guān)注
關(guān)注
2文章
3022瀏覽量
3816
發(fā)布評(píng)論請(qǐng)先 登錄
國產(chǎn)千卡GPU集群完成大模型訓(xùn)練測(cè)試,極具高兼容性和穩(wěn)定性

邊緣計(jì)算時(shí)代,科通技術(shù)以端AI方案重構(gòu)算力分配格局
用一套Linux系統(tǒng),撐起整個(gè)芯片設(shè)計(jì)平臺(tái)?CFA團(tuán)隊(duì)教你如何搭好EDA智算平臺(tái)的技術(shù)底座
點(diǎn)動(dòng)科技戰(zhàn)略聚焦AI智算,領(lǐng)航算力服務(wù)新征程
中美貿(mào)易硬核破局!先積集成以中國&amp;quot;芯&amp;quot;智造筑牢供應(yīng)鏈護(hù)城河

隧道管廊變壓器局放在線監(jiān)測(cè):為地下&amp;quot;電力心臟&amp;quot;裝上智能聽診器

DeepSeek推動(dòng)AI算力需求:800G光模塊的關(guān)鍵作用
國產(chǎn)化算力新標(biāo)桿!卓怡恒通EPC-S4450邊緣AI工控機(jī)開啟工業(yè)智能新紀(jì)元

企業(yè)AI算力租賃是什么
性能提升近一倍!壁仞科技攜手無問芯穹,在千卡訓(xùn)練集群等領(lǐng)域取得技術(shù)新突破

OCTC發(fā)布&quot;算力工廠&quot;!力促智算中心高效規(guī)劃建設(shè)投運(yùn)

AI網(wǎng)絡(luò)物理層底座: 大算力芯片先進(jìn)封裝技術(shù)

大模型時(shí)代的算力需求
安謀科技異構(gòu)算力組合,破局生成式AI算力挑戰(zhàn)
從千卡集群卡到萬卡集群,燧原科技打造更好的AI算力底座

評(píng)論