圍繞“創(chuàng)新:構(gòu)建更美好世界”主題,由科技部、發(fā)改委、工信部、國資委、中科院、工程院、科協(xié)及北京市政府聯(lián)合舉辦的2024年中關(guān)村論壇于近日在京舉行。本次論壇匯聚了來自100多個國家和地區(qū)的嘉賓,以及150多家外國政府部門和國際組織機構(gòu)。同時,一系列人工智能新技術(shù)、新應(yīng)用、新模式在此次論壇上得到展示和發(fā)布。
在論壇期間,中關(guān)村國際技術(shù)交易大會開幕式暨全球技術(shù)交易生態(tài)伙伴大會成功舉辦,并發(fā)布了《百項新技術(shù)新產(chǎn)品榜單》。值得關(guān)注的是,摩爾線程夸娥(KUAE)智算中心全棧解決方案榮獲該榜單重點推薦。得益于其高兼容性、穩(wěn)定性、擴展性及算力利用率等優(yōu)勢,摩爾線程夸娥智算集群能夠為千億參數(shù)級別的大模型訓(xùn)練提供強大的算力支持。
此外,在中關(guān)村國際技術(shù)交易大會高精尖技術(shù)產(chǎn)品首發(fā)會上,摩爾線程與無問芯穹聯(lián)合宣布,雙方正致力于開發(fā)基于夸娥千卡智算集群的“MT-infini-3B”合作大模型。摩爾線程成為首家接入無問芯穹并進(jìn)行千卡級別大模型訓(xùn)練的國產(chǎn)GPU廠商。無問芯穹聯(lián)合創(chuàng)始人兼CEO夏立雪表示,經(jīng)過無問芯穹Infini-AI平臺實訓(xùn)與聯(lián)合優(yōu)化,摩爾線程夸娥千卡智算集群在精度、性能、易用性和算力利用率方面表現(xiàn)出色,且在實訓(xùn)過程中實現(xiàn)了長時間穩(wěn)定訓(xùn)練,為千億參數(shù)級別大模型訓(xùn)練提供了持續(xù)高效的高性能算力支持。未來,他們計劃將此合作模型在Infini-AI平臺上向公眾開放。
論壇首日,在北京銀行新質(zhì)生產(chǎn)力與組合金融發(fā)展大會上,摩爾線程創(chuàng)始人兼CEO張建中發(fā)表了以《構(gòu)建AGI時代的金融科技新質(zhì)生產(chǎn)力》為題的主旨演講,強調(diào)人工智能作為新質(zhì)生產(chǎn)力的創(chuàng)新引擎,將在金融行業(yè)中發(fā)揮重要作用。他指出,人工智能將通過個性化服務(wù)產(chǎn)品、智能化投資決策、自動化風(fēng)險管理、安全化合規(guī)監(jiān)管、便捷化降本增效等方式,有效應(yīng)對金融科技領(lǐng)域所面臨的諸多挑戰(zhàn)。在大模型時代背景下,每個金融企業(yè)都應(yīng)具備自身的大模型和訓(xùn)練基礎(chǔ)設(shè)施,而安全普惠的國產(chǎn)化算力則是金融行業(yè)不可或缺的要素。摩爾線程依托全功能GPU,打造了涵蓋芯片至智算中心的先進(jìn)算力基礎(chǔ)設(shè)施,以及覆蓋軟件加速庫至大模型分布式訓(xùn)練系統(tǒng)的全棧軟件服務(wù),為我國金融行業(yè)的數(shù)智化轉(zhuǎn)型提供了算力加速。
在中關(guān)村國際技術(shù)交易大會高精尖技術(shù)產(chǎn)品首發(fā)會上,摩爾線程聯(lián)合創(chuàng)始人兼執(zhí)行總裁王東重點解析了夸娥(KUAE)智算中心全棧解決方案的優(yōu)點及價值,展示了解決大規(guī)模GPU算力建設(shè)和運營管理問題的能力。該方案由夸娥(KUAE)計算集群、KUAE Platform集群管理平臺及KUAE ModelStudio模型服務(wù)組成,實現(xiàn)了開箱即用。目前,摩爾線程已支持包括LLaMA、GLM、Aquila、Baichuan、GPT、Bloom、玉言在內(nèi)的數(shù)十種主流大模型的訓(xùn)練與微調(diào)。實踐證明,使用摩爾線程夸娥(KUAE)千卡集群進(jìn)行70B至130B參數(shù)規(guī)模的大模型訓(xùn)練,其線性加速比高達(dá)91%且算力利用率穩(wěn)定。
中關(guān)村論壇作為中國面向全球科技創(chuàng)新交流合作的國家級平臺,已成功舉辦14屆。摩爾線程作為中關(guān)村獨角獸芯片企業(yè)與北京市“專精特新”企業(yè),受邀在中關(guān)村展示中心常設(shè)展出人工智能集群展區(qū)和集成電路集群展區(qū)。憑借全功能GPU的多元計算優(yōu)勢,摩爾線程已形成以夸娥智算集群為核心的全棧AI產(chǎn)品線,致力于成為大模型和通用人工智能的先進(jìn)算力基礎(chǔ)設(shè)施。展望未來,摩爾線程將持續(xù)以AI為核心,以技術(shù)創(chuàng)新驅(qū)動發(fā)展,不斷拓寬加速計算領(lǐng)域,為構(gòu)建更美好的數(shù)智世界貢獻(xiàn)力量。
-
gpu
+關(guān)注
關(guān)注
28文章
4918瀏覽量
130765 -
摩爾線程
+關(guān)注
關(guān)注
2文章
230瀏覽量
5176 -
大模型
+關(guān)注
關(guān)注
2文章
3055瀏覽量
3878
發(fā)布評論請先 登錄
RAKsmart智能算力架構(gòu):異構(gòu)計算+低時延網(wǎng)絡(luò)驅(qū)動企業(yè)AI訓(xùn)練范式升級
摩爾線程GPU成功適配Deepseek-V3-0324大模型

Banana Pi 發(fā)布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 計算與嵌入式開發(fā)
摩爾線程GPU原生FP8計算助力AI訓(xùn)練

評論