2023年,大模型、生成式AI的發(fā)展帶動(dòng)了人工智能領(lǐng)域的范式轉(zhuǎn)換,人工智能從傳統(tǒng)的“分類器”進(jìn)化成“生成器”,催生了千行百業(yè)的規(guī)模化需求。
那么怎樣的基礎(chǔ)設(shè)施,才能更好地支撐AI產(chǎn)業(yè)進(jìn)入2.0時(shí)代?
近日,商湯科技智能產(chǎn)業(yè)研究院與中國(guó)信息通信研究院云計(jì)算與大數(shù)據(jù)研究所,中國(guó)智能算力產(chǎn)業(yè)聯(lián)盟,人工智能算力產(chǎn)業(yè)生態(tài)聯(lián)盟,聯(lián)合發(fā)布《新一代人工智能基礎(chǔ)設(shè)施白皮書(shū)》(以下簡(jiǎn)稱《白皮書(shū)》)。
《白皮書(shū)》不僅明確了“新一代AI基礎(chǔ)設(shè)施”的定義、特點(diǎn)和價(jià)值,還首次提出“新一代AI基礎(chǔ)設(shè)施評(píng)估體系”,為AI 2.0時(shí)代智算產(chǎn)業(yè)發(fā)展提供重要參考。
新一代AI基礎(chǔ)設(shè)施
成為AI 2.0時(shí)代“新基建”
數(shù)據(jù)顯示,過(guò)去四年,大模型參數(shù)量以年均400%復(fù)合增長(zhǎng),AI算力需求增長(zhǎng)超過(guò)15萬(wàn)倍,遠(yuǎn)超摩爾定律。
以CPU為中心的傳統(tǒng)計(jì)算基礎(chǔ)設(shè)施已無(wú)法滿足大模型、生成式AI的新要求。
大模型訓(xùn)練對(duì)數(shù)據(jù)質(zhì)量和效率的需求,企業(yè)應(yīng)用生成式AI對(duì)于MaaS(大模型即服務(wù))的需求,也都給AI基礎(chǔ)設(shè)施提出了全新要求。
而新一代AI基礎(chǔ)設(shè)施絕非傳統(tǒng)云的AI化,兩者具有明顯差別。傳統(tǒng)云計(jì)算基礎(chǔ)設(shè)施主要支持互聯(lián)網(wǎng)應(yīng)用、SAAS等服務(wù),而新一代AI基礎(chǔ)設(shè)施提供大模型訓(xùn)練與推理、生成式AI部署、區(qū)域/行業(yè)創(chuàng)新孵化等服務(wù)。
何為新一代AI基礎(chǔ)設(shè)施?《白皮書(shū)》給出了明確定義:
以大模型能力輸出為核心平臺(tái),集成算力資源、數(shù)據(jù)服務(wù)和云服務(wù),專門(mén)設(shè)計(jì)用于最大限度提升大模型和生成式AI應(yīng)用的表現(xiàn):數(shù)據(jù)準(zhǔn)備與管理、大模型訓(xùn)練、推理、模型能力調(diào)用、生成式AI應(yīng)用部署。企業(yè)通過(guò)新一代AI基礎(chǔ)設(shè)施開(kāi)發(fā)和運(yùn)行生成式AI業(yè)務(wù)和客戶應(yīng)用程序,以及基模型和行業(yè)模型的訓(xùn)練與微調(diào)。 《白皮書(shū)》指出,新一代AI基礎(chǔ)設(shè)施的建設(shè)將降低大模型開(kāi)發(fā)和應(yīng)用門(mén)檻,在政企服務(wù)、產(chǎn)業(yè)和科研創(chuàng)新等方面創(chuàng)造更大社會(huì)價(jià)值。
面向產(chǎn)業(yè),將加快推進(jìn)傳統(tǒng)產(chǎn)業(yè)上下游各個(gè)環(huán)節(jié)的智能化轉(zhuǎn)型,催生新業(yè)態(tài)、新模式的不斷涌現(xiàn)。
面向科研,可加速科學(xué)實(shí)驗(yàn)的自動(dòng)化和智能化,激發(fā)人工智能驅(qū)動(dòng)科學(xué)研究(AI for Science)的新范式。
面向政務(wù),將原本分散、碎片化的政務(wù)應(yīng)用,通過(guò)“一模通辦” 為政務(wù)服務(wù)提質(zhì)增效。
首次提出
新一代AI基礎(chǔ)設(shè)施評(píng)估體系
當(dāng)前,新一代AI基礎(chǔ)設(shè)施市場(chǎng)處于高速競(jìng)爭(zhēng)的初級(jí)階段,云計(jì)算、AI原生、硬件系統(tǒng)等各類廠商均有各自優(yōu)勢(shì)。
為了給企業(yè)用戶提供AI基礎(chǔ)設(shè)施選型的可靠性指導(dǎo),《白皮書(shū)》首次提出了“新一代AI基礎(chǔ)設(shè)施評(píng)估體系”。
通過(guò)產(chǎn)品技術(shù)、戰(zhàn)略愿景、市場(chǎng)生態(tài)三大維度、十二個(gè)評(píng)估指標(biāo),對(duì)AI基礎(chǔ)設(shè)施廠商綜合能力進(jìn)行定性和定量的全面評(píng)估。
《白皮書(shū)》選取了十二家最具代表性的AI基礎(chǔ)設(shè)施廠商。商湯科技的新一代AI基礎(chǔ)設(shè)施 -SenseCore商湯大裝置,在各個(gè)評(píng)估指標(biāo)的得分均超過(guò)廠商平均分,并在市場(chǎng)響應(yīng)、市場(chǎng)認(rèn)知、產(chǎn)品戰(zhàn)略、工程化建設(shè)四個(gè)評(píng)估指標(biāo)拿到滿分,成為新一代AI基礎(chǔ)設(shè)施市場(chǎng)的領(lǐng)導(dǎo)者。
SenseCore商湯大裝置
在新一代AI基礎(chǔ)設(shè)施評(píng)估體系的評(píng)分
《白皮書(shū)》指出,商湯在產(chǎn)品服務(wù)能力呈現(xiàn)出較強(qiáng)的產(chǎn)品實(shí)力和技術(shù)積累,不僅超前布局了算力基礎(chǔ)設(shè)施,還在MaaS平臺(tái)以及自身大模型業(yè)務(wù)的加持下,形成了整套AI基礎(chǔ)設(shè)施產(chǎn)品架構(gòu),滿足客戶大模型訓(xùn)練、生成式AI應(yīng)用的大規(guī)模落地需求。
SenseCore商湯大裝置作為商湯推出的AI基礎(chǔ)設(shè)施產(chǎn)品與解決方案,總體算力規(guī)模目前已達(dá)6800P,在支持商湯自身大模型研發(fā)的同時(shí),也支持外部客戶訓(xùn)練大模型和應(yīng)用部署。
今年以來(lái),共有超1000個(gè)參數(shù)量數(shù)十億至上千億的大模型在大裝置上完成訓(xùn)練,實(shí)現(xiàn)了領(lǐng)跑行業(yè)的技術(shù)迭代進(jìn)度,并支持了數(shù)十款生成式AI應(yīng)用。
激發(fā)“智能基建革新”
加速大模型和生成式AI落地
從大模型的訓(xùn)練到生成式AI應(yīng)用的部署,再到區(qū)域智算中心的建設(shè)與運(yùn)營(yíng),《白皮書(shū)》列舉了商湯基于大裝置的多場(chǎng)景實(shí)踐案例,激發(fā)AI的商業(yè)創(chuàng)新價(jià)值。例如:
大模型訓(xùn)練場(chǎng)景
商湯大裝置為商湯自研“日日新SenseNova”大模型體系的訓(xùn)練迭代提供了強(qiáng)大算力支撐,以及1.5萬(wàn)億token和6000億中文高質(zhì)量數(shù)據(jù),推出了商量大語(yǔ)言模型,AIGC等大模型,并在多個(gè)權(quán)威大模型測(cè)評(píng)榜單中位居前列。
商湯還助力某業(yè)界領(lǐng)先的認(rèn)知智能公司打造了高性能算力平臺(tái),提高模型訓(xùn)練速度和效率,已成功推出了400億參數(shù)量的大模型,快速滿足不同領(lǐng)域和場(chǎng)景需求。
生成式AI應(yīng)用場(chǎng)景
依托商湯大裝置,商湯聯(lián)合中公教育發(fā)布虛擬數(shù)字講師“小鹿老師”,相比傳統(tǒng)人工直播,不僅降低了80%錄課成本,還提高了2~3倍的課程豐富度,實(shí)現(xiàn)教學(xué)質(zhì)量和效率雙重提升。
商湯還助力微博打造“營(yíng)銷大模型”,讓每位博主都能擁有自己的AI營(yíng)銷助手,短短數(shù)月便有超7000位微博達(dá)人采用AIGC生成69萬(wàn)篇文案,采用率高達(dá)95%。
智算中心建設(shè)與運(yùn)營(yíng)
商湯與重慶南岸區(qū)攜手打造的“重慶人工智能計(jì)算中心(AIDC)”,以國(guó)產(chǎn)化算力為核心,首期建設(shè)峰值算力達(dá)100Petaflops,為西南地區(qū)的各行各業(yè)、科研機(jī)構(gòu)提供AI算力、大模型訓(xùn)練、推理部署和應(yīng)用開(kāi)發(fā)等服務(wù)。
商湯助力打造福建省大數(shù)據(jù)算力平臺(tái),第一階段已建成125Petaflops算力規(guī)模,并有多家數(shù)字生態(tài)領(lǐng)軍企業(yè)入駐,有望推動(dòng)生成式AI技術(shù)在醫(yī)療、金融、制造等各個(gè)產(chǎn)業(yè)中的落地。
《白皮書(shū)》最后指出,隨著新一代AI基礎(chǔ)設(shè)施的邊際成本持續(xù)下降、邊際效益持續(xù)增長(zhǎng),AI將普惠每一個(gè)人。
審核編輯:湯梓紅
-
AI
+關(guān)注
關(guān)注
87文章
34144瀏覽量
275234 -
人工智能
+關(guān)注
關(guān)注
1804文章
48677瀏覽量
246230 -
大模型
+關(guān)注
關(guān)注
2文章
3020瀏覽量
3798
原文標(biāo)題:AI 2.0時(shí)代需要怎樣的AI基礎(chǔ)設(shè)施?《新一代人工智能基礎(chǔ)設(shè)施白皮書(shū)》給出答案
文章出處:【微信號(hào):SenseTime2017,微信公眾號(hào):商湯科技SenseTime】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
中星微發(fā)布最新一代AI芯片“星光智能五號(hào)”
芯馳科技重磅發(fā)布最新一代AI座艙芯片X10
適用于數(shù)據(jù)中心和AI時(shí)代的800G網(wǎng)絡(luò)
英偉達(dá)與xAI簽AI基建協(xié)議 加入全球人工智能基礎(chǔ)設(shè)施投資合作伙伴聯(lián)盟
NVIDIA 與行業(yè)領(lǐng)先的存儲(chǔ)企業(yè)共同推出面向 AI 時(shí)代的新型企業(yè)基礎(chǔ)設(shè)施

華為發(fā)布新一代站點(diǎn)能源架構(gòu)及AI數(shù)據(jù)中心建設(shè)理念

華為打造移動(dòng)AI時(shí)代領(lǐng)先電信基礎(chǔ)設(shè)施
華為發(fā)布新一代站點(diǎn)能源架構(gòu)及AI數(shù)據(jù)中心建設(shè)原則
新一代GaN器件,滿足AI服務(wù)器電源需求

英偉達(dá)新一代AI芯片過(guò)熱問(wèn)題引關(guān)注
NVIDIA助力印度打造AI基礎(chǔ)設(shè)施
Arm攜手三星開(kāi)拓新一代通信技術(shù)
下一代高功能新一代AI加速器(DRP-AI3):10x在高級(jí)AI系統(tǒng)高級(jí)AI中更快的嵌入處理

評(píng)論