女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

大模型為何成耗能大戶

現代電子技術 ? 來源:經濟日報 ? 2024-04-29 17:25 ? 次閱讀

隨著人工智能技術快速發展,人工智能(AI)大模型的運行消耗問題受到越來越多關注。大模型為何成了耗能大戶?能耗問題會不會成為人工智能發展的“絆腳石”?如何解決能耗問題?

耗電耗水量大

人工智能大模型到底有多耗能?據斯坦福人工智能研究所發布的《2023年AI指數報告》,AI大語言模型GPT-3一次訓練的耗電量為1287兆瓦時,大概相當于3000輛特斯拉電動汽車共同開跑、每輛車跑20萬英里所耗電量的總和。報告同時提出,AI大語言模型GPT-3一次訓練,相當于排放了552噸二氧化碳。

國外研究顯示,一次標準谷歌搜索耗電0.3瓦時,AI大語言模型ChatGPT響應一次用戶請求耗電約2.96瓦時,在AI大模型驅動下的一次谷歌搜索耗電8.9瓦時。

除了耗電,另有研究顯示,AI大語言模型GPT-3在訓練期間耗水近700噸,每回答20個至50個問題就要消耗500毫升水。弗吉尼亞理工大學研究指出,Meta公司在2022年使用了超過260萬立方米的水,主要作用是為數據中心提供冷卻。

據了解,人工智能大模型GPT-4的主要參數是GPT-3的20倍,計算量是GPT-3的10倍,能耗也隨之大幅增加。

華泰證券研報預測,到2030年,中國與美國的數據中心總用電量將分別達到0.65萬億千瓦時至0.95萬億千瓦時、1.2萬億千瓦時至1.7萬億千瓦時,是2022年的3.5倍和6倍以上。屆時,AI用電量將達到2022年全社會用電量的20%和31%。

為何如此耗能

為什么人工智能大模型如此耗能?AI技術迅速發展,對芯片的需求急劇增加,進而帶動電力需求激增。同時,對AI進行大量訓練,也意味著需要更強的算力中心和與之匹配的散熱能力。在AI快速迭代的道路上,電力和水資源的消耗也在快速增加。因為很多數據中心全年無休,發熱量巨大,大規模電耗和水耗主要來自于冷卻需求。

相關統計顯示,數據中心運行成本的六成是電費,而電費里的四成多來自冷卻散熱,相應也會帶來巨量冷卻水的消耗。風冷數據中心六成多的耗電量都會用在風冷上,只有不到四成電力用在實際計算上。如今,全球數據中心市場耗電量是10年前的近10倍。

能耗問題會不會成為人工智能發展的“絆腳石”?英偉達首席執行官黃仁勛曾提到,AI和算力耗能巨大,但由于計算機性能飛速增長,計算會更加高效,相當于更節省能源。當前,我國實施嚴格的能耗雙控政策,無論是AI大模型本身還是其應用行業,對單位GDP能耗來說均有明顯降低作用。

從整體能耗來看,AI大模型帶來的效率提升也會抵消一部分能耗增長。隨著綠電廣泛應用,再加上我國逐步由能耗雙控向碳排放雙控政策轉變,可再生能源對未來AI大模型發展的支撐能力也會越來越強。

此外,相較于其他國家而言,中美等能源消費大國和數據大國,具備更好發展AI大模型的資源條件和基礎。

怎樣應對挑戰

據預測,到2025年,AI相關業務在全球數據中心用電量中的占比將從2%增加至10%。到2030年,智能計算年耗電量將達到5000億千瓦時,占全球發電總量的5%。因此,在大力發展AI大模型的同時,必須提前做好相關規劃布局,以提供必要的電力和水資源等技術支撐。

有專家認為,人工智能的未來發展與狀態和儲能緊密相連。因此,不應僅關注計算力,而是需要更全面地考慮能源消耗問題。OpenAI創始人奧爾特曼認為,未來AI技術取決于能源突破,更綠色的能源尤其是核聚變或更便宜的太陽能以及儲能的可獲得性,是人工智能發展快慢的重要因素。

為降低電力和水資源消耗,很多企業在嘗試采用各種方法為數據中心散熱。例如,微軟曾嘗試部署海下數據中心,臉書(Facebook)數據中心選址北極圈附近,阿里云千島湖數據中心使用深層湖水制冷等,我國很多企業則把數據中心布局在水電資源豐富的西南地區。

目前,可通過算法優化、開發和使用更高效的AI專用硬件、調整神經網絡訓練過程以優化計算資源等技術方式來降低AI大模型的能耗,并更多采用自然冷卻、液冷、三聯供、余熱回收等新興節能技術,提高制冷效率以降低數據中心能耗。從技術未來發展方向上看,光電智能芯片也有助于解決AI大模型的電耗和水耗問題。

AI大模型的發展,不能僅符合高端化、智能化的要求,更要符合綠色化的發展要求。為此,從國家和地方層面上看,為緩解AI大模型發展所帶來的電力和水資源沖擊,有必要將數據中心行業納入高耗能行業管理體系,并提前做好相關規劃布局。同時,加強資源整合,充分發揮人工智能大模型和數據中心的效能,通過使用效能下限設置等方式,確保其自身的電力和水資源使用效率。還應嚴格落實國家能耗雙控及碳排放雙控政策,并將其碳足跡與水足跡納入行業考核范圍,切實推動碳足跡與水足跡逐步降低,以應對日益增長的AI大模型電力和水資源需求。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    34155

    瀏覽量

    275326
  • 語言模型
    +關注

    關注

    0

    文章

    558

    瀏覽量

    10667
  • 可再生能源
    +關注

    關注

    1

    文章

    739

    瀏覽量

    39931
  • 大模型
    +關注

    關注

    2

    文章

    3021

    瀏覽量

    3815

原文標題:大模型為何成耗能大戶

文章出處:【微信號:現代電子技術,微信公眾號:現代電子技術】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    中國為何同時面臨算力過剩與短缺 ?

    中國為何同時面臨算力過剩與短缺 ?
    的頭像 發表于 04-24 15:02 ?362次閱讀
    中國<b class='flag-5'>為何</b>同時面臨算力過剩與短缺 ?

    KaihongOS操作系統FA模型與Stage模型介紹

    FA模型與Stage模型介紹 KaihongOS操作系統中,FA模型(Feature Ability)和Stage模型是兩種不同的應用模型
    發表于 04-24 07:27

    為何工程塑料不適合打印圓弧形模型

    我們經常能在3D打印中看到各種形狀的模型,但為什么不建議使用工程塑料來打印圓弧形模型呢?JLC3D小編今天就和大家一起探討下。 我們都知道,工程塑料在FDM(熔融沉積成型)打印中,通常會采用分層堆疊
    發表于 04-07 15:31

    ADS1174在低功耗模式下工作的功耗能控制在什么范圍?

    1:ADS1174是四路AD轉換期間,DOUT[8:5]必須接0V,那DOUT[4:1]若使用是必須接高電平嗎?需要接電壓多少V? 2:ADS1174在低功耗模式下工作的功耗能控制在什么范圍?
    發表于 02-13 07:04

    DeepSeek模型為何掀起如此大的波瀾

    DeepSeek-R1 是中國初創公司 DeepSeek 推出的人工智能模型,不久前,在人工智能開源平臺 Hugging Face 上發布數小時,便躍居下載量和活躍度最高模型的榜首;同時因其促使
    的頭像 發表于 02-11 09:13 ?631次閱讀

    THS1209 SYNC腳位的功能為何?

    第一次接觸 并列ADC 功能的IC 想請問一下 TI人員 關于THS1209的寫入和讀取暫存器 和 讀取DATA的腳位動作關係 1. 當我要寫入暫存器時,其CS0、CS1、W/R和RD動作為何
    發表于 12-25 06:46

    【「大模型啟示錄」閱讀體驗】+開啟智能時代的新鑰匙

    那些擁有數十億甚至數千億參數的大規模模型成為了現實可能。Transformer 等機制模型架構的橫空出世,徹底改變了模型訓練的效率和性能。 我有時在想國外為何能夠在大
    發表于 12-24 13:10

    【「大模型啟示錄」閱讀體驗】對大模型更深入的認知

    閱讀《大模型啟示錄》這本書,我得說,它徹底顛覆了我對大模型的理解。作為一個經常用KIMI和豆包這類AI工具來完成作業、整理資料的大學生,我原以為大模型就是這些工具背后的技術。但這本書讓我意識到
    發表于 12-20 15:46

    DP83822IF怎樣在硬件上配置RMII接口?

    請問一下各位大神,DP83822IF怎樣在硬件上配置RMII接口,規格書上寫的太復雜了,有沒有簡化的模型。謝謝
    發表于 12-19 06:08

    【「大模型啟示錄」閱讀體驗】如何在客服領域應用大模型

    在客服領域是大模型落地場景中最多的,也是最容易實現的。本身客服領域的特點就是問答形式,大模型接入難度低。今天跟隨《大模型啟示錄 》這本書,學習大模型在客服領域的改變。選擇大
    發表于 12-17 16:53

    ADS1292R外掛晶振時功耗能增加多少啊?

    您好,我想請教一下ADS1292R外掛晶振時功耗能增加多少啊
    發表于 12-17 07:53

    什么是大模型、大模型是怎么訓練出來的及大模型作用

    本文通俗簡單地介紹了什么是大模型、大模型是怎么訓練出來的和大模型的作用。 ? 什么是大模型模型,英文名叫Large Model,大型
    的頭像 發表于 11-25 09:29 ?1.2w次閱讀
    什么是大<b class='flag-5'>模型</b>、大<b class='flag-5'>模型</b>是怎么訓練出來的及大<b class='flag-5'>模型</b>作用

    光電二極管輸入的偏置電流為何這么大?

    用的是光電二極管模型,輸入的偏置電流為何這么大,是固定的,但放大倍數如何求
    發表于 08-16 06:21

    使用ESP32-C3的藍牙進行傳感器數據上傳,ESP-NOW協議的功耗能滿足需求嗎?

    1.使用ESP32-C3的藍牙進行傳感器數據上傳,期望使用紐扣電池供電,ESP-NOW協議的功耗能滿足需求嗎 2.使用ESP-now協議的設備能否和手機藍牙或其他未使用ESP-NOW協議的藍牙設備通信
    發表于 07-01 07:22

    esp32的整體平均功耗能到多少?

    deep-sleep模式,rtc定時5s喚醒一次,每次就啟動ble 進行廣播并維持1s的等待連接。如果沒有就進入deep-sleep。 這種模式下,如果沒有連接的話,esp32的整體平均功耗能到多少?沒有用ulp。理論上應該是官方數據10uA,但是粗略測量會高很多。請問還需要怎么做嗎?
    發表于 06-26 07:52