我國人工智能技術(shù)產(chǎn)業(yè)近來取得顯著進(jìn)步,多款新發(fā)布的大模型已達(dá)到國際先進(jìn)水平。我國AI芯片企業(yè)也在積極行動,和各國產(chǎn)大模型開展適配,共同構(gòu)建智能計算產(chǎn)業(yè)生態(tài)。作為國家權(quán)威技術(shù)驗證平臺,中國信息通信研究院(簡稱:中國信通院)依托“人工智能芯片測試評估公共服務(wù)平臺”,構(gòu)建了AI芯片與大模型協(xié)同適配的標(biāo)準(zhǔn)化體系,為產(chǎn)業(yè)鏈上下游深度合作提供關(guān)鍵支撐,并開展AI芯片與大模型的適配驗證工作,通過多項舉措促進(jìn)AI芯片與大模型的協(xié)同發(fā)展。
經(jīng)中國信息通信研究院檢測,在本次AI芯片與模型適配驗證項目中,摩爾線程自主研發(fā)的訓(xùn)推一體計算卡摩爾線程 MTT S4000和杭州深度求索人工智能基礎(chǔ)技術(shù)研究有限公司研發(fā)的DeepSeek-R1 671B 大模型,在推理場景下的適配結(jié)果符合“AI芯片和大模型通過性適配要求”,成功通過中國信通院《AI芯片和大模型適配能力通過性評測軟硬件環(huán)境及測試細(xì)則》推理場景驗證。摩爾線程MTT S4000可實現(xiàn)正常、穩(wěn)定運行,滿足推理使用需求,符合通過性適配驗證條件,并獲頒檢測證書。目前,摩爾線程系列訓(xùn)推一體計算卡正在開展優(yōu)化性適配驗證工作,相關(guān)結(jié)果將在檢測流程結(jié)束后另行公布。
MTT S4000是基于摩爾線程全功能GPU架構(gòu),專為大模型打造的訓(xùn)推一體通用計算卡,支持 FP64/FP32/TF32/FP16/BF16/INT8 等完整計算精度,配備48GB 高性能顯存。憑借摩爾線程自研MTLink 1.0技術(shù),MTT S4000可實現(xiàn)多卡互聯(lián)及千卡集群部署,為千億參數(shù)大模型的訓(xùn)練、微調(diào)和推理提供強(qiáng)勁算力支撐。同時,它還兼具先進(jìn)的圖形渲染、視頻編解碼和超高清8K HDR顯示能力,可滿足人工智能、科學(xué)計算、多媒體處理等復(fù)合場景需求。
MTT S4000此次能夠快速完成DeepSeek R1-671B大模型的適配驗證,主要得益于包括vLLM-MUSA推理框架、MUTLASS、Triton-MUSA等在內(nèi)的完善的MUSA生態(tài)軟件棧和快捷開發(fā)實踐。這些技術(shù)優(yōu)勢既體現(xiàn)了MUSA軟件棧的高效適配能力,也使其整體性能達(dá)到行業(yè)主流水平,彰顯了摩爾線程在國產(chǎn)GPU技術(shù)創(chuàng)新和生態(tài)建設(shè)方面的強(qiáng)大實力。
近期,摩爾線程還推出了搭載MTT S4000的MCCX DeepSeek大模型一體機(jī),該產(chǎn)品深度融合國產(chǎn)全功能GPU、深度優(yōu)化的高性能推理引擎和軟件棧,全面支持從蒸餾版到671B參數(shù)全量版DeepSeek模型的部署需求,可靈活適配廣泛的行業(yè)、場景和應(yīng)用。通過摩爾線程硬件到軟件的自主技術(shù)鏈,該一體機(jī)可實現(xiàn)開箱即用、安全可控的一站式大模型服務(wù),從而為政企客戶提供高效易用的國產(chǎn)化AI基礎(chǔ)設(shè)施,顯著降低大模型應(yīng)用門檻。
關(guān)于摩爾線程
摩爾線程成立于2020年10月,以全功能GPU為核心,致力于向全球提供加速計算的基礎(chǔ)設(shè)施和一站式解決方案,為各行各業(yè)的數(shù)智化轉(zhuǎn)型提供強(qiáng)大的AI計算支持。
我們的目標(biāo)是成為具備國際競爭力的GPU領(lǐng)軍企業(yè),為融合人工智能和數(shù)字孿生的數(shù)智世界打造先進(jìn)的加速計算平臺。我們的愿景是為美好世界加速。
-
人工智能
+關(guān)注
關(guān)注
1804文章
48645瀏覽量
246115 -
AI芯片
+關(guān)注
關(guān)注
17文章
1968瀏覽量
35681 -
摩爾線程
+關(guān)注
關(guān)注
2文章
229瀏覽量
5074
原文標(biāo)題:摩爾線程MTT S4000訓(xùn)推一體計算卡通過中國信通院AI芯片和大模型適配驗證
文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
摩爾線程GPU成功適配Deepseek-V3-0324大模型

沐曦曦云C550通用計算GPU完成DeepSeek R1-671B大模型適配
企業(yè)上云不再難!DeepSeek 滿血版R1-671B 來助跑

摩爾線程完成DeepSeek開源庫FlashMLA和DeepGEMM適配
摩爾線程圖形顯卡MTT S80實現(xiàn)DeepSeek模型部署

瀚博完成DeepSeek全版本訓(xùn)推適配
摩爾線程宣布成功部署DeepSeek蒸餾模型推理服務(wù)
摩爾線程GPU與超圖軟件大模型適配:共筑國產(chǎn)地理空間AI新生態(tài)
摩爾線程與超圖軟件完成產(chǎn)品兼容認(rèn)證
摩爾線程與羽人科技完成大語言模型訓(xùn)練測試
摩爾線程攜手東華軟件完成AI大模型推理測試與適配
摩爾線程與智譜AI完成大模型性能測試與適配
摩爾線程和滴普科技完成大模型訓(xùn)練與推理適配
國產(chǎn)GPU可替代!摩爾線程千卡集群點亮新成就

評論