女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AIGC加速成長,算力需求變化帶來系統(tǒng)級創(chuàng)新

Monika觀察 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:莫婷婷 ? 2023-05-30 01:04 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/莫婷婷)隨著大模型智能水平的提升,AIGC所需要的算力也在不斷增長。根據(jù)OpenAI的研究,AI訓練所需算力指數(shù)增長,且增長速度超越硬件的摩爾定律。燧原科技創(chuàng)新研究院負責人、首席科學家姚建國教授認為,算力分為需求、場景,還有芯片和系統(tǒng)四個層次。算力需求的變化給AI芯片以及系統(tǒng)都帶來了一定程度的挑戰(zhàn)。

多家廠商發(fā)布垂直類大模型,AIGC落地場景逐漸清晰

隨著各大公司對AIGC研究的不斷深入和技術(shù)投入,國內(nèi)外廠商積極推出屬于自己的類ChatGPT模型,例如華為的“盤古”,商湯的“日日新”、深蘭科技的“硅基知識”、出門問問的“序列猴子”、深信服的“安全大模型”等等大模型。這么多的大模型,若是放在兩年前,業(yè)內(nèi)人士可能會頭疼于它的落地場景。

得益于ChatGPT的出現(xiàn),業(yè)內(nèi)人士看到了更多AIGC落地的可能性,并且推動AI行業(yè)進入AIGC時代。百度創(chuàng)始人、董事長兼CEO李彥宏近期公開演講時就表示,“大模型即將改變世界”。

那么,大模型究竟會如何改變世界呢?這還得從落地場景看。目前,AIGC的典型應用分為文生文、文生圖、文生視頻。近期中國市場開放一些文生文的應用越來越多,具體的應用包括對話式功能,還支持搜索和營銷的場景。

盡管國內(nèi)廠商還未推出像GPT-4如此強大的通用模型,但是在垂直領(lǐng)域的人工智能大模型卻迎來飛躍式的發(fā)展,并且有著巨大的想象空間。正如李彥宏提到的,每一個行業(yè)都應該有屬于自己的大模型。未來技術(shù)跟業(yè)務深度融合是AIGC發(fā)展的最終方向。


算力需求變化帶來系統(tǒng)級創(chuàng)新

談及大模型對算力的需求,姚建國教授表示,AIGC智算中心可以分為三類大模型:基礎(chǔ)大模型、場景大模型和應用大模型。

基礎(chǔ)大模型通過巨大的算力生成,然后通過預訓練算力、超大訓練算力支撐,例如ChatGPT。場景大模型是在大模型基礎(chǔ)進行調(diào)優(yōu),通過Fine Tune算力支撐,可以適應不同場景,也就能賦能到不同行業(yè),可以引用一些普惠訓練算力。應用大模型主要是通過推理算力,包括云端推理和端側(cè)推理。

對于芯片的需求,基礎(chǔ)大模型和場景大模型分別需要大算力訓練芯片和中算力訓練芯片,且對機器之間的數(shù)據(jù)互聯(lián)帶寬有較高的要求,都需要高速芯片互聯(lián)。而應用大模型只需要云端推理算力,且可以使用分布式/單機訓練和推理,是性價比較高的大模型之一。

算力肉眼可見地不斷增長,燧原科技姚建國教授在公開演講時也提到了一組數(shù)據(jù):從2012年到2018年,訓練AI算力增長了30萬倍,摩爾定律相同時間通用算力只有7倍的增長。從這里可以看出AIGC對算力需求之高。

算力需求變化帶來了三大問題,一是存/算性能失配,內(nèi)存墻導致訪存時延高、效率低;二是馮諾依曼架構(gòu)下,功耗墻導致傳輸能耗損失;三是滿足大模型需求,性能墻導致算力無法滿足。姚建國教授表示,未來不僅僅是單核芯片去解決算力問題,一定會是通過一個系統(tǒng)級解決方案去實現(xiàn)整個算力適應變化。

目前,單獨的服務器、集群難以解決大模型的預訓練,因此需要有大算力加速,比如說H100提供了Transformer引擎;此外還有機密計算、COP互聯(lián)加速、CXL協(xié)議等等各方面的創(chuàng)新。業(yè)內(nèi)人士普遍認為,系統(tǒng)級創(chuàng)新會是未來的發(fā)展趨勢

對于大模型未來的發(fā)展趨勢,IDC中國首席分析師武連峰認為,AI大模型應用深化,從專屬AI到通用AI,會是趨勢之一。當然,最終實現(xiàn)通用AI的道路還有很長。






聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AIGC
    +關(guān)注

    關(guān)注

    1

    文章

    383

    瀏覽量

    2211
收藏 人收藏

    評論

    相關(guān)推薦
    熱點推薦

    AIGC基礎(chǔ)設(shè)施技術(shù)架構(gòu)與行業(yè)實踐

    代提升1.5倍,內(nèi)存容量達288GB,適配千億參數(shù)模型訓練需求。 國產(chǎn)突破?:國內(nèi)首款6nm高性能GPU芯片于2025年5月成功點亮,性能對標國際中端產(chǎn)品,已獲億元訂單;國產(chǎn)芯片廠商與高端制程工藝結(jié)合,推動
    的頭像 發(fā)表于 05-29 07:44 ?38次閱讀
    <b class='flag-5'>AIGC</b><b class='flag-5'>算</b><b class='flag-5'>力</b>基礎(chǔ)設(shè)施技術(shù)架構(gòu)與行業(yè)實踐

    維諦技術(shù)(Vertiv)發(fā)布兆瓦UPS新品,破局高密AI負載供電挑戰(zhàn)

    在AI時代,數(shù)據(jù)中心需要什么樣的供電系統(tǒng)?隨著AIGC業(yè)務需求的快速發(fā)展,導致機柜功率密度迅速增加,高密負載對數(shù)據(jù)中心的影響正日益加大。
    的頭像 發(fā)表于 04-03 11:01 ?378次閱讀
    維諦技術(shù)(Vertiv)發(fā)布兆瓦<b class='flag-5'>級</b>UPS新品,破局高密AI<b class='flag-5'>算</b><b class='flag-5'>力</b>負載供電挑戰(zhàn)

    DeepSeek推動AI需求:800G光模塊的關(guān)鍵作用

    隨著人工智能技術(shù)的飛速發(fā)展,AI需求正以前所未有的速度增長。DeepSeek等大模型的訓練與推理任務對
    發(fā)表于 03-25 12:00

    AI需求激增,數(shù)據(jù)中心如何應對能源挑戰(zhàn)

    ? “AI的爆發(fā)帶來了巨大的需求,為了滿足AI大模型的訓練和應用推理,智中心的建設(shè)將加速
    的頭像 發(fā)表于 02-22 09:49 ?478次閱讀
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>激增,數(shù)據(jù)中心如何應對能源挑戰(zhàn)

    DeepSeek驅(qū)動AI市場升溫,智中心利用率望提升

    據(jù)多位業(yè)內(nèi)人士透露,DeepSeek在業(yè)界的迅速部署與應用,為AI市場帶來了新的熱潮。自年后開工兩周以來,設(shè)備租賃及采購的咨詢量顯著
    的頭像 發(fā)表于 02-19 14:00 ?389次閱讀

    云 GPU 加速計算:突破傳統(tǒng)瓶頸的利刃

    在數(shù)字化時代,數(shù)據(jù)呈爆炸式增長,傳統(tǒng)的已難以滿足復雜計算任務的需求。無論是人工智能的深度學習、大數(shù)據(jù)的分析處理,還是科學研究中的模擬計算,都對
    的頭像 發(fā)表于 02-17 10:36 ?236次閱讀

    #新年新氣象,大家新年快樂!#AIGC入門及鴻蒙入門

    人工智能生成內(nèi)容(AIGC)和鴻蒙系統(tǒng)是當前科技領(lǐng)域的兩個熱門話題。以下是對它們的入門指南: AIGC入門 1. 基礎(chǔ)概念: AIGC,全稱Artificial Intelligen
    發(fā)表于 01-13 10:46

    AIGC入門及鴻蒙入門

    人工智能生成內(nèi)容(AIGC)和鴻蒙系統(tǒng)是當前科技領(lǐng)域的兩個熱門話題。以下是對它們的入門指南: AIGC入門 1. 基礎(chǔ)概念: AIGC,全稱Artificial Intelligenc
    發(fā)表于 01-13 10:32

    芯片 高性能 CPU/GPU/NPU 微架構(gòu)分析》第1-4章閱讀心得——之巔:從基準測試到CPU微架構(gòu)的深度探索

    ,還優(yōu)化了能效比,使天河二號在Green500榜單上也表現(xiàn)出色。另一方面,MLPerf的出現(xiàn)標志著AI時代對需求變化。它涵蓋了圖像分類、目標檢測、自然語言理解、智能推薦算法、強化
    發(fā)表于 10-19 01:21

    OCTC發(fā)布&quot;工廠&quot;!力促智中心高效規(guī)劃建設(shè)投運

    創(chuàng)新提出面向未來數(shù)據(jù)中心的"工廠"模式,核心是以規(guī)(劃)、建(設(shè))、運(營)一體化的交鑰匙工程,實現(xiàn)智中心快速投運、綠色低碳,在當前AIGC
    的頭像 發(fā)表于 10-11 09:10 ?788次閱讀
    OCTC發(fā)布&quot;<b class='flag-5'>算</b><b class='flag-5'>力</b>工廠&quot;!力促智<b class='flag-5'>算</b>中心高效規(guī)劃建設(shè)投運

    中國大會召開,業(yè)界首個高質(zhì)量評估體系發(fā)布

    首次完整地構(gòu)建了人工智能時代高質(zhì)量的理論體系,并探索性提出業(yè)界首個 "五位一體"的高質(zhì)量評估體系。 發(fā)布現(xiàn)場 在當前由大模型和AIGC
    的頭像 發(fā)表于 09-28 16:50 ?427次閱讀
    中國<b class='flag-5'>算</b><b class='flag-5'>力</b>大會召開,業(yè)界首個<b class='flag-5'>算</b><b class='flag-5'>力</b>高質(zhì)量評估體系發(fā)布

    大模型時代的需求

    現(xiàn)在AI已進入大模型時代,各企業(yè)都爭相部署大模型,但如何保證大模型的,以及相關(guān)的穩(wěn)定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發(fā)表于 08-20 09:04

    商湯大裝置服務獲國家認證

    商湯大裝置服務獲國家認證! 近日,經(jīng)過中國電子技術(shù)標準化研究院專家審核,商湯科技通過服務能力成熟度(CPMM)增強
    的頭像 發(fā)表于 06-22 10:59 ?1032次閱讀

    萬卡集群解決大模型訓需求,建設(shè)面臨哪些挑戰(zhàn)

    解決大模型訓練對需求的巨大增長問題,尤其是現(xiàn)在模型參數(shù)量從百億、千億邁向萬億。 ? 國
    的頭像 發(fā)表于 06-02 06:18 ?5438次閱讀
    萬卡集群解決大模型訓<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>,建設(shè)面臨哪些挑戰(zhàn)