本文介紹大模型的計算特征(國產(chǎn)平臺介紹、系統(tǒng)挑戰(zhàn)、算子實現(xiàn)、容錯)、框架的并行性支持、未來算法等。
隨著ChatGPT的橫空出世,人工智能大模型成為各行各業(yè)熱議的焦點,國內(nèi)外各種大模型如雨后春筍般涌現(xiàn),引發(fā)了新一輪人工智能熱潮。但在看到大模型取得巨大進(jìn)步的同時,也要看到當(dāng)前國內(nèi)大模型的研發(fā)推廣仍然面臨不小的挑戰(zhàn)和壓力。
面對上述挑戰(zhàn),需從戰(zhàn)略層面統(tǒng)籌考慮大模型研發(fā)運(yùn)營等相關(guān)問題,充分發(fā)揮“集中力量辦大事”的制度優(yōu)勢,強(qiáng)化頂層設(shè)計,加大統(tǒng)一規(guī)劃,加大政策支持和資源投入力度,推動中國人工智能從“跟跑”邁向“領(lǐng)跑”。
一是提高算力規(guī)模。進(jìn)一步完善信息基礎(chǔ)設(shè)施,加快推進(jìn)“東數(shù)西算”步伐,加大算力網(wǎng)絡(luò)建設(shè)力度,為大模型研發(fā)運(yùn)營提供足夠算力,同時進(jìn)一步提高網(wǎng)絡(luò)速度,降低網(wǎng)絡(luò)時延,為更多大模型走向應(yīng)用創(chuàng)造條件。
二是加強(qiáng)數(shù)據(jù)管理。國家層面加強(qiáng)對數(shù)據(jù)的管控,明確行業(yè)標(biāo)準(zhǔn),建立數(shù)據(jù)使用規(guī)則,確保大模型訓(xùn)練數(shù)據(jù)的質(zhì)量。同時,針對行業(yè)數(shù)據(jù),破除不同廠家之間數(shù)據(jù)互相不能查詢的壁壘,確保大模型訓(xùn)練有充足、準(zhǔn)確的專業(yè)數(shù)據(jù)。
三是建立大模型研發(fā)“國家隊”。集中全國頂尖人才和優(yōu)質(zhì)資源,舉全國之力進(jìn)行攻堅突破,同時解決大模型研發(fā)中存在的“小而散”問題,減少無效或低效大模型開發(fā)對算力和能源的浪費(fèi)。
四是加大資金投入。建立國家大模型基金,專門用于大模型的研發(fā)、訓(xùn)練等。
五是加大政策支持。面向大模型研發(fā),制訂更加優(yōu)惠的稅收政策。針對國有企業(yè)在大模型研發(fā)上投入的資金,允許以兩倍規(guī)模計為企業(yè)凈利潤。
六是加大科技投入。解決核心技術(shù)“卡脖子”問題,特別是加大人工智能芯片研發(fā)制造力度。
-
算力
+關(guān)注
關(guān)注
2文章
1193瀏覽量
15642 -
大模型
+關(guān)注
關(guān)注
2文章
3138瀏覽量
4059
原文標(biāo)題:國產(chǎn)大模型的經(jīng)驗與教訓(xùn)
文章出處:【微信號:架構(gòu)師技術(shù)聯(lián)盟,微信公眾號:架構(gòu)師技術(shù)聯(lián)盟】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
信創(chuàng)浪潮下,國產(chǎn)主板有什么新的發(fā)展機(jī)遇?

中軟國際科創(chuàng)中心上線DeepSeek模型
【「大模型啟示錄」閱讀體驗】對大模型更深入的認(rèn)知
【「大模型啟示錄」閱讀體驗】如何在客服領(lǐng)域應(yīng)用大模型
揭示大模型剪枝技術(shù)的原理與發(fā)展

國產(chǎn)工控主板,信創(chuàng)產(chǎn)業(yè)發(fā)展新引擎
未來AI大模型的發(fā)展趨勢
2024年國產(chǎn)測徑儀的現(xiàn)狀?
國產(chǎn)8位單片機(jī)在國內(nèi)的應(yīng)用情況及發(fā)展趨勢!
開啟全新AI時代 智能嵌入式系統(tǒng)快速發(fā)展——“第六屆國產(chǎn)嵌入式操作系統(tǒng)技術(shù)與產(chǎn)業(yè)發(fā)展論壇”圓滿結(jié)束
國產(chǎn)在線測徑儀為什么能達(dá)到先進(jìn)水平?
國產(chǎn)工控機(jī)的發(fā)展與未來

國產(chǎn)FPGA的發(fā)展前景是什么?
第六屆國產(chǎn)嵌入式操作系統(tǒng)技術(shù)與產(chǎn)業(yè)發(fā)展論壇議程發(fā)布
大模型發(fā)展下,國產(chǎn)GPU的機(jī)會和挑戰(zhàn)

評論