近日,摩爾線程與國內領先的數據智能服務商滴普科技共同宣布,摩爾線程夸娥(KUAE)千卡智算集群與滴普企業大模型Deepexi已完成訓練及推理適配。基于摩爾線程夸娥千卡智算集群,滴普科技成功完成了700億參數LLaMA2大語言模型的預訓練測試,訓練時長共計77小時,全程無故障連續運行,集群訓練穩定性達到100%,訓練效率和兼容性均達到預期。
滴普科技作為數據智能服務商,以數據智能技術為基礎,為客戶提供數據智能基礎設施、企業大模型產品,以及數據智能創新服務。基于已深度服務的頭部客戶所積累的深厚數據能力,滴普科技構建的Deepexi企業大模型,在語義、視覺、語音、跨模態等方面的能力均表現優越,能夠運用模型工具鏈為企業提供高質量的數據準備、模型訓練、調優、部署及推理服務,快速構建企業不同領域模型以及智能體應用,幫助企業實現從數據驅動到智能驅動的升級。
此次,摩爾線程與滴普科技的合作,借助夸娥千卡智算集群全棧方案的模型覆蓋、推理加速、CUDA兼容、斷點續訓、分布式訓練、集群可靠性等8大核心能力,為構建國產化數智賦能底座奠定堅實基礎。同時,夸娥千卡智算集群作為業內首個跑通、跑完國產大模型的千卡集群,以全功能GPU為底座,提供軟硬一體化的全棧解決方案。基于此次合作,雙方能夠為各行各業提供全國產大模型解決方案,廣泛應用于訓練、微調和實時推理等場景。
目前,滴普科技已與中國海誠、中核裝備院、百麗時尚等企業開展產業落地實踐,成為產業大模型落地的領先企業。未來,摩爾線程與滴普科技將繼續發揮雙方在技術、場景和軟硬件協同方面的優勢,在能源、金融、先進制造等領域,以及與央企、國企的合作中,共同探索全國產化解決方案的落地機會,推動人工智能在更多產業領域的應用,助力企業實現智能升級,賦能行業高質量發展。
-
gpu
+關注
關注
28文章
4906瀏覽量
130602 -
人工智能
+關注
關注
1804文章
48637瀏覽量
246111 -
摩爾線程
+關注
關注
2文章
229瀏覽量
5074 -
大模型
+關注
關注
2文章
3008瀏覽量
3786
原文標題:摩爾線程 × 滴普科技|完成大模型訓練與推理適配
文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
摩爾線程宣布成功部署DeepSeek蒸餾模型推理服務
天數智芯與無問芯穹合作突破千卡集群訓練優化
性能提升近一倍!壁仞科技攜手無問芯穹,在千卡訓練集群等領域取得技術新突破

摩爾線程夸娥智算中心解決方案重磅升級
摩爾線程和樂創能源簽署戰略合作協議
從千卡集群卡到萬卡集群,燧原科技打造更好的AI算力底座

評論