女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

大模型對算力需求指數級增長,集群成必然選擇

Carol Li ? 來源:電子發燒友網 ? 作者:李彎彎 ? 2024-01-23 00:21 ? 次閱讀

電子發燒友網報道(文/李彎彎)近年來,AIGC技術的火爆,代表著AI正在從感知理解世界向生成創造世界躍遷。在近日舉辦的全球人工智能算力論壇上,寶德計算信創BU副總裁鄧克武談到,AIGC產業發展創新正在加速,預計到2030年市場規模會到達萬億。然而隨著AI技術的飛速發展,算力也成為了制約AI大模型應用普及的關鍵因素。

大模型重塑產業格局

在鄧克武看來,AIGC產業發展預計將會經歷三個階段。第一個階段是2023年到2025年,屬于培育摸索期,該階段主要以遵循指令性加工和拼接式為主,例如,播報類(語音合成的電子書)、數字人(支持多種類型任務的數字人)、營銷推廣等。

第二個階段是2025年到2027年,這個時期會是AIGC的應用蓬勃期,該階段主要以人機聯合共創的模式為主,例如,各種類型的生成任務,以AI生成為基礎進行迭代;行業生態完善,底層大模型對外開發。

第三階段是2028年以后,這個時期為AIGC增長期,到這個時候,產業鏈逐漸完善,商業化場景持續拓展拓深,深入變革各行業,預計2030年市場規模超萬億。

鄧克武認為,大模型將重構人工智能生產范式。他還提到“人工智能行業的二八定律”,即進入大模型時代,未來軟件80% 的價值將由AI大模型提供,剩余20% 會由提示工程和傳統業務開發組成。

同時,他認為,MaaS將重構商業化生態,大模型“訓練基礎設施-底層技術-基礎應用-垂直應用”發展路線逐漸清晰。MaaS,即Model as a Service,模型即服務,能夠降低AI應用開發門檻,重構AI產業的商業化結構生態,激發新的產業鏈分工和商業模式不斷涌現。MaaS將可能成為未來大模型的主流商業模式。

wKgaomWuQcWAK2UiAAOkfzX9rA0549.jpg

隨著大模型的發展,其應用也會逐步拓展,從初期To C現象級應用向通用To B應用,再向場景化To B應用發展。當然,這個過程也面臨不同的挑戰,To C應用的挑戰在于用戶商業付費挑戰大:使用門檻較低,用戶量大且接受度高,落地及成長速度快,但客戶付費意愿偏低,商業閉環挑戰大。To B應用的挑戰在于和行業數據&應用的深度融合:行業數據積累、模型調測和行業應用集成均需要時間,但客戶付費能力強,未來增長及盈利空間廣闊。

wKgZomWuQc2AR164AANGfIPU7Rc847.jpg

算力集群化發展是必然趨勢

目前,國內已有超100+企業在戰略布局大模型機會。對于企業來說,需要準備迎接產業變革,構筑新的競爭優勢。如何做呢?其一,對內提升自身業務效率與感知,即與自身行業、業務特點和需求等深度結合;其二,面向中小企業提供AI模型服務,通過API/三方插件吸引更多應用及數據,通過提供模型開發服務,深度切入行業,掌握行業經驗和數據;其三,面向AI創業者/企業提供算力服務,滿足企業AI算力需求,構筑數字基礎設施格局。

算力方面,大算力集群是業界廠家AI模型開發的共同選擇,如騰訊數萬卡規模的星星海AI集群,阿里巴巴12EFLOPS的靈駿AI集群,百度4EFLOPS 百舸AI集群,商湯3.7EFLOPS AIDC集群,華為數萬卡規模昇騰AI集群等。

在鄧克武看來,大模型對算力的需求將指數級增長,AI算力將從單機走向集群時代。據鄧克武介紹,大模型算力需求每兩年以750倍增長,而硬件算力供給每兩年僅增長3倍。比如,從ResNet-50(2500萬參數),到GPT-1(1.7億參數),再到GPT-4(萬億級參數),計算需求需要十倍,到千倍的增長,存儲需求經歷百倍,到千倍的增長。AI算力和數據中心集群發展,可以加速產業創新。

wKgaomWuQdeAEc6VAAMNjqXMsYk852.jpg

寶德計算作為中國領先的計算產品方案提供商,構建了自強昇騰高密算力平臺,以支撐大模型系統工程建設。在上述論壇上,鄧克武詳細介紹了公司的兩款服務器:PR420KI G2訓練服務器和PR410EI 訓練服務器。

PR420KI G2訓練服務器CPU采用了4顆鯤鵬920處理器,NPU采用了8顆昇騰910,節點內互聯采用HCCS Full mesh互聯高速網絡;PR410EI 訓練服務器CPU采用2顆第四代Intel至強可拓展處理器Sapphire Rapids,NPU采用8顆昇騰910,節點內互聯采用HCCS Full mesh互聯高速網絡。

同時,他還介紹了公司的Pod集群組網,以256臺訓練服務器為例,共計2048顆Ascned910芯片。分成16組,每組16臺服務器,里面放置一個完整的模型,每組之間采用數據并行;每組16臺服務器,采用模型并行,每臺服務器放1/16的模型。

wKgZomWuQeGAHZa7AANDrZbF8yY786.jpg

據鄧克武介紹,寶德面向多種大模型部署方式,還構建了差異化解決方案。此外,公司聯合生態伙伴不斷深化合作,成功實踐了100多個AI項目,涵蓋了電力、安平、教育、金融、互聯網、智慧城市等行業,寶德將繼續探索更多行業和細分領域智能化實踐,共同加速AI行業智能化升級和落地。

寫在最后

經過一年多時間的發展,大模型商業化應用已經成為業界探索的焦點,并且已經進展明顯。與此同時,隨著大模型訓練和部署的持續加速,這對算力的需求也會大幅增長。為了滿足大模型訓練和部署需求,集群成為廠家模型開發的共同選擇。而能夠為各種大模型部署提供算力支持的企業也必然會乘風而起。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    34274

    瀏覽量

    275453
  • 算力
    +關注

    關注

    2

    文章

    1147

    瀏覽量

    15459
  • AIGC
    +關注

    關注

    1

    文章

    383

    瀏覽量

    2235
  • 大模型
    +關注

    關注

    2

    文章

    3030

    瀏覽量

    3832
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    “四合一”平臺,芯片國產化率超九,兼容8種國產AI芯片

    調度平臺可支持每天上億次的調用,能調度全國1/6的規模,網一體化效率提升20%。 ? 為什么要搭建這個“四
    的頭像 發表于 04-13 00:03 ?2465次閱讀

    國產千卡GPU集群完成大模型訓練測試,極具高兼容性和穩定性

    電子發燒友網報道(文/李彎彎)隨著人工智能技術的快速發展,對于計算能力的需求日益增長。特別是在大模型訓練方面,對
    的頭像 發表于 06-11 07:50 ?3984次閱讀
    國產千卡GPU<b class='flag-5'>集群</b>完成大<b class='flag-5'>模型</b>訓練測試,極具高兼容性和穩定性

    即國力,比克電池如何為AI時代“蓄能

    引擎》中明確提出,“是數字經濟時代的新質生產,更是國家競爭的重要指標。”隨著AI大模型訓練
    的頭像 發表于 06-04 14:22 ?221次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>即國力,比克電池如何為AI時代“蓄能

    AI原生架構升級:RAKsmart服務器在超大規模模型訓練中的突破

    近年來,隨著千億參數模型的崛起,AI訓練對需求呈現指數
    的頭像 發表于 04-24 09:27 ?198次閱讀

    施耐德電氣發布數據中心高密度AI集群部署解決方案

    在人工智能(AI)驅動的產業革命浪潮中,數據中心正迎來深刻變革。面對迅猛增長的人工智能需求,部署高密度AI集群已成為數據中心發展的
    的頭像 發表于 04-19 16:54 ?671次閱讀
    施耐德電氣發布數據中心高密度AI<b class='flag-5'>集群</b>部署解決方案

    芯片的生態突圍與革命

    據的爆發式增長,大芯片已成為科技競爭的核心領域之一。 ? 大芯片的核心應用場景豐富多樣。在人工智能訓練與推理方面,大
    的頭像 發表于 04-13 00:02 ?1493次閱讀

    智能最具潛力的行業領域

    智能最具潛力的行業領域 一、金融行業 智能風控與精準服務?:大型銀行通過集群(6.27萬臺服務器)支撐AI
    的頭像 發表于 04-11 08:20 ?242次閱讀
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b>最具潛力的行業領域

    DeepSeek推動AI需求:800G光模塊的關鍵作用

    類型和功耗選項,是數據中心向800G帶寬擴展的理想選擇。 市場前景廣闊: 隨著AI需求的不斷增長,尤其是在超大規模數據中心和AI
    發表于 03-25 12:00

    科技云報到:要更要“利”,“精裝”觸發大模型產業新變局?

    科技云報到:要更要“利”,“精裝”觸發大模型產業新變局?
    的頭像 發表于 01-16 10:24 ?381次閱讀

    國產智集群黑馬!曦源一號SADA集群綜合評測表現優異

    近日,加佳科技曦源一號SADA集群項目一期順利通過工信部中國軟件評測中心權威評測認證。本次測試涵蓋了項目一期已上線的1024張沐曦高性能GPU加速卡集群。評測結果顯示,該
    的頭像 發表于 12-25 11:16 ?754次閱讀
    國產智<b class='flag-5'>算</b><b class='flag-5'>集群</b>黑馬!曦源一號SADA<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>集群</b>綜合評測表現優異

    【「大模型時代的基礎架構」閱讀體驗】+ 未知領域的感受

    算法的引擎GPU、GPU硬件架構剖析、GPU服務器的設計與實現、GPU集群的網絡設計與實現、GPU板卡調度技術、基于云平臺的GPU集群
    發表于 10-08 10:40

    模型時代的需求

    現在AI已進入大模型時代,各企業都爭相部署大模型,但如何保證大模型,以及相關的穩定性和性能,是一個極為重要的問題,帶著這個極為重要的問
    發表于 08-20 09:04

    名單公布!【書籍評測活動NO.41】大模型時代的基礎架構:大模型中心建設指南

    工作日內未聯系,視為放棄本次試用評測資格! 書籍介紹 大模型是近年來引人注目的熱點之一。大模型蓬勃發展的基礎,是針對其需求設計的及基礎架
    發表于 08-16 18:33

    從千卡集群卡到萬卡集群,燧原科技打造更好的AI底座

    電子發燒友網報道(文/吳子鵬)是新質生產的代表,隨著以ChatGPT為代表的Transformer架構大模型的參數規模越來越大,對計算資源的
    的頭像 發表于 07-07 09:45 ?2906次閱讀
    從千卡<b class='flag-5'>集群</b>卡到萬卡<b class='flag-5'>集群</b>,燧原科技打造更好的AI<b class='flag-5'>算</b><b class='flag-5'>力</b>底座