女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Vicor引領生成式人工智能供電技術的創新浪潮

Vicor ? 來源:Vicor ? 2024-06-11 16:03 ? 次閱讀

雖然人工智能有望帶來人類生產力的飛躍,但其運行時能耗巨大,導致溫室氣體的排放也顯著增加。如今,Vicor 電源模塊與垂直供電架構相結合,為 GenAI 提供了高效的供電方法,實現行業領先的電流密度。

訓練生成式人工智能(GenAI)神經網絡模型通常需要花費數月的時間,數千個基于 GPU 并包含數十億個晶體管處理器、高帶寬 SDRAM 和每秒數太比特的光網絡交換機要同時連續運行。雖然人工智能有望帶來人類生產力的飛躍,但其運行時能耗巨大,所以導致溫室氣體的排放也顯著增加。

據《紐約時報》報道,到 2027 年,人工智能服務器每年的用電量將達到 85 至 134 太瓦時,大致相當于阿根廷一年的用電量。

為了應對日益加劇的能耗挑戰,AI 處理器的供電網絡經歷了多代的發展。這種全面的演進發展涉及電路架構、電源轉換拓撲、材料科學、封裝和機械/熱工程方面的創新。

生成式人工智能訓練處理器的供電方案

負載點模式和分比式模式的演變

從 2020 年到2022 年,熱設計功率(TDP)幾乎翻了一番,從 400W 增加到了 700W。TDP 指標是指生成式人工智能訓練應用中 GPU 引擎的連續功耗。自 2022 年起,半導體行業的 TDP 水平不斷攀升,到了 2024 年 3 月,市場上甚至出現了一款 TDP 高達 1000W 的 GPU。

用于生成式人工智能訓練的處理器復合體集成了一個 GPU 或ASIC 芯片,以及六到八個高帶寬存儲器(HBM)芯片。采用 4 納米 CMOS 工藝的 GPU 通常以 0.65V 的內核 VDD 運行,可能包含 1000 億或更多的晶體管。HBM 提供 144GB 的存儲容量,其工作電壓一般為 1.1V 或 1.2V。該處理器的一個關鍵供電特性與人工神經網絡算法負載有關。對比處于空閑狀態的 GPU 和算法滿載狀態的 GPU,瞬態電流消耗(dI/dt)差別可能非常大,可能達到每微秒 2000 安培或更多。此外,該處理器不能容忍較大的電源電壓下沖或過沖幅值;這些負載階躍瞬變必須限制在標稱 VDD 的 10% 以內。設計用于生成式人工智能訓練處理器的供電解決方案時,由于這些動態操作條件的原因,峰值電流輸送能力通常設計為連續電流輸送能力的兩倍,峰值事件通常持續數十毫秒(圖 1)。

0f8b67e0-27a5-11ef-91d2-92fbcf53809c.png

圖 1:基于 GPU 的生成式人工智能訓練處理器芯片復合體,加速器模塊(AM)上安裝有高帶寬存儲器(HBM)。

對于 CPUFPGA、網絡交換機處理器以及現在的 AI 訓練和推理芯片發展最重要的供電架構是負載點(PoL)方法。相較于傳統的多相并聯電源架構,分比式 PoL 電源架構實現了更高的功率和電流密度。這種電源架構借鑒了理想變壓器的“匝數比”概念,通過分壓實現電流倍增。電流倍增的可擴展性使我們能夠根據不同的輸出電壓和電流需求,開發一系列全面的 PoL 轉換器。這對客戶來說至關重要,因為高級 AI 訓練處理器的需求正快速變化。

分比式電源架構(FPA)

分解為穩壓和變壓兩部分功能

生成式人工智能電源系統設計面臨的主要挑戰包括:

很高的電流輸送能力,范圍從 500 安培到 2000 安培

負載需要出色的動態性能

PDN 的損耗和阻抗較大

48V 母線基礎架構的標準化使用,需要從 48V 轉換到 1V 以下的能力

要解決這種大電流和高密度負載點(PoL)問題,需要采用不同的方法。先進的分比式電源架構將穩壓和變壓/電流倍增功能進行了分解,可將這些供電級放置在最佳位置,從而達到最高的效率和功率/電流密度。

當輸入電壓(VIN)等于輸出電壓(VOUT)時,穩壓器的效率最高,隨著輸入輸出比的增加,效率逐漸降低。在 36 至 60V 的典型輸入電壓范圍內,最佳輸出母線電壓將是 48V,而不是中間母線架構(IBA)中常見的傳統 12V 母線電壓。48V 輸出母線所需的電流是 12V 線的四分之一(P=VI),而 PDN 的損耗是電流的平方(P=I2R),這意味著損耗降低至原來的 1/16。因此,先安裝穩壓器并將其調節至 48V 輸出,可以實現最高的效率。穩壓器還必須接受有時低于 48V 的輸入電壓,這就需要一個降壓-升壓的功能來滿足這一設計需求。一旦輸入電壓得到了穩壓,下一步便是將 48V 轉換為 1V。

在需要為 1V 負載供電的情況下,最佳變壓比為 48:1。在這種情況下,穩壓器將輸入電壓降壓或升壓到 48V 輸出,再由變壓器將電壓從 48 降至 1V。降壓變壓器以相同的比率加大電流,因此變壓器組件也可以稱為電流倍增器。在這種情況下,1 安培的輸入電流將倍增至 48 安培的輸出電流。為了最大限度地減少大電流輸出的 PDN 損耗,電流倍增器必須小巧,以便盡可能靠近負載放置。

PRMTM 穩壓器和 VTMTM/MCMTM 模塊化電流倍增器結合在一起,構成 Vicor 分比式電源架構。這兩個器件相互合作,各司其職,實現完整的 DC-DC 轉換功能。

PRM 通過調制未穩壓的輸入電源提供穩壓輸出電壓,即“分比式母線電壓”。該母線供電給 VTM,由 VTM 將分比式母線電壓轉換為負載所需的電平。

與 IBA 不同,FPA 不通過串聯電感器從中間母線電壓降壓至 PoL。FPA 不通過降低中間母線電壓來平均電壓,而是使用電流增益為 1:48 或更高的高壓穩壓和電流倍增器模塊,以提供更高的效率、更小的尺寸、更快的響應和 1000 安培及以上的可擴展性(圖 2)。

0fc2c5f0-27a5-11ef-91d2-92fbcf53809c.png

圖 2:分比式電源架構可以提供超過 1000 安培的大電流,并使供電網絡的電阻降低到 1/20。

垂直放置 PoL 轉換器減少功耗耗散

在前幾代大電流生成式人工智能處理器電源架構中,PoL 轉換器被放在處理器復合體的橫向(旁邊)位置。由于銅的電阻率和 PCB 上的走線長度,橫向放置的 PoL 供電網絡(PDN)的集總阻抗相當高,可能達到 200μΩ 或更高。隨著生成式人工智能訓練處理器的連續電流需求增加到 1000 安培,這意味著 PCB 本身就會消耗掉 200 瓦的功率。考慮到在 AI 超級計算機中用于大型語言模型訓練的加速器模塊(AM)多達數千個,而且幾乎從不斷電,通常會持續運行 10 年或更長時間,這 200 瓦的功率損耗在整體上變得非常龐大。

認識到這種能源浪費后,AI 計算機設計師已經開始評估采用垂直供電(VPD)結構,將 PoL 轉換器直接放置在處理器復合體的下方。在垂直供電網絡中,集總阻抗可能降至 10μΩ 或更低,這意味著在內核電壓域 1000 安培的連續電流下,只會消耗 10 瓦的功率。也就是說,通過將 PoL 轉換器從橫向放置改為縱向放置,PCB 的功耗減少了 200–10=190 瓦(WPCB )(圖 3)。

0fed1b02-27a5-11ef-91d2-92fbcf53809c.png

圖 3:生成式人工智能加速模塊從橫向(頂部)供電改為縱向(背部)供電,可將 PDN 損耗降低至 1/20。

VPD 的另一個優點是降低了 GPU 芯片表面電壓梯度,這也有助于節省電力。如前所述,典型的 4 納米 CMOS GPU 的標稱工作電壓為 0.65VDD。使用橫向供電時,將電源提供給處理器復合體的四邊,由于集成電路的配電阻抗較高(通常使用電阻率高于銅的鋁導體),可能需要 0.70V 的電壓,才能確保 GPU 芯片中心的電壓達到標稱值 0.65V。而采用縱向供電時,可以確保整個芯片表面的電壓為 0.65V。0.70–0.65=50mV,這個差值乘以 1000 安培,可額外節省 50 瓦(WVDD)的功率。在本例中,節省的總功率為 190WPCB + 50WVDD = 240 瓦(圖 4)。

0f5554b6-27a5-11ef-91d2-92fbcf53809c.png

圖 4:使用 VPD 時,處理器芯片的表面電壓均勻,有助于最大限度地提高計算性能,同時最小化功率損耗。

根據未來幾年公共領域對加速器模塊(AM)需求的預測(2024 年超過 250 萬件),以及對電力成本的合理估計(每兆瓦時 75 美元),每個 AM 節省 240W 電力,到 2026 年將在全球范圍內實現太瓦時的電力節省,相當于每年節約數十億美元的電力運營成本,而且根據可再生能源的使用比例,每年還能永久性地減少數百萬噸的二氧化碳排放。

遏制失控的生成式人工智能功耗

Vicor 正引領生成式人工智能供電技術的創新浪潮。他們提供的分比式負載點轉換器解決方案有助于提升生成式人工智能處理器的功效,使生成式人工智能的功耗與社會層面的環境保護和節能目標相一致。Vicor 持續推動電源架構的創新,并開發先進的新產品,致力于解決生成式人工智能模型訓練帶來的功耗增加問題。通過采用先進的分比式電流倍增器方法進行負載點 DC-DC 轉換,就可以充分發揮生成式人工智能優勢,同時有效控制全球范圍內的能源消耗。

審核編輯:彭菁

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 處理器
    +關注

    關注

    68

    文章

    19808

    瀏覽量

    233569
  • 供電技術
    +關注

    關注

    1

    文章

    26

    瀏覽量

    10896
  • 人工智能
    +關注

    關注

    1804

    文章

    48717

    瀏覽量

    246537
  • Vicor
    +關注

    關注

    4

    文章

    212

    瀏覽量

    59237

原文標題:Vicor 電源模塊與垂直供電架構相結合,為 GenAI 提供高效供電方法

文章出處:【微信號:Vicor,微信公眾號:Vicor】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    《AI for Science:人工智能驅動科學創新》第一章人工智能驅動的科學創新學習心得

    ,無疑為讀者鋪設了一條探索人工智能(AI)如何深刻影響并推動科學創新的道路。在閱讀這一章后,我深刻感受到了人工智能技術在科學領域的廣泛應用潛力以及其帶來的革命性變化,以下是我個人的學習心得: 1.
    發表于 10-14 09:12

    人工智能是什么?

    和提出都可以歸結于人工智能技術的高速發展。 作為創新人工智能技術領域的典型代表——機器人,當仁不讓的成為創新技術產業里的掌上明珠,也是信息時代轉向
    發表于 09-16 15:40

    智能家居,現代家庭生活的新浪潮

    `現代家庭越來越注重生活理念及生活品質,數字化、網絡化、智能化和交互的多媒體電子產品將逐漸成為家庭生活和娛樂的多媒體中心,成為現代家庭生活的新浪潮。LivingLab智能家居為你打造
    發表于 06-09 10:18

    非接觸工業雷達傳感器開啟應用創新浪潮

    DSP均集成在一塊電路板上,這塊電路板可以直接用作生命體征監測系統。當人坐在這款產品前面,它會將極低功率的雷達信號傳送到他的身體,然后通過讀取信號從而可以獲得這個人的心率和呼吸速率信息。雷達應用創新浪潮
    發表于 06-24 05:00

    DSP技術的三波創新浪潮

    作者:陳路迄今為止,DSP技術的發展或進步已經促成了二波創新浪潮。第一波創新浪潮是電信應用,它使得原先像一塊大磚頭似的第一代模擬大哥大電話變成了可以塞進褲袋的袖珍型手機,它將連接PC和互聯網的DSL
    發表于 07-01 07:57

    Vicor研發創新電源模塊技術

    和48V到負載的最新功率模塊。此模塊是迄今為止為最具挑戰性的數據中心電源理解解決方案計劃。在數據時代,人工智能促進了數據中心和大功率計費的快速轉型,人工智能的快速發展促進了XPU所需的電源完成相應的增長
    發表于 11-29 09:02

    開放的生態加速人工智能時代的到來

    2017全球人工智能創新峰會Arm分論壇成功召開,Arm與多家生態系統合作伙伴亮相,共探人工智能創新浪潮中的機遇與挑戰。
    的頭像 發表于 09-21 13:58 ?5113次閱讀

    創新浪潮:物聯網和人工智能是邊緣設備數量迅速增加的推動力

    雖然前幾波創新浪潮專注于設備或設備格局,但最近的變化已影響到細分市場、公司和使用場景。網絡設備的激增顯著改變了我們的生活,整個行業正在努力地將其所產生的勢頭轉變成效率、決策和大量數據的盈利機會。
    的頭像 發表于 11-27 15:23 ?6295次閱讀

    中國高新技術論壇搶先看:新時代、新技術、新經濟--“新基建”引領發展新浪潮

    11 月 11 日下午,第二十二屆高交會中國高新技術論壇 新時代、新技術、新經濟 主題論壇將在深圳會展中心五樓簕杜鵑廳舉辦。該場論壇將會討論的議題主要包括 新基建 引領發展新浪潮
    的頭像 發表于 11-03 11:08 ?2863次閱讀

    壓觸反饋技術引領交互革命 開啟全屋智能新浪潮

    全屋智能新浪潮。01非一般振動反饋的智能中控屏華為發布會結束后,行內最多出現的一句話是:智能家居正在從單品走向全屋智能。從發布會上可以了解到
    的頭像 發表于 03-19 10:05 ?903次閱讀
    壓觸反饋<b class='flag-5'>技術</b>:<b class='flag-5'>引領</b>交互革命 開啟全屋<b class='flag-5'>智能</b><b class='flag-5'>新浪潮</b>

    亞信電子與安勤科技攜手共創TSN技術新浪潮

    亞信電子與安勤科技攜手共創TSN技術新浪潮
    的頭像 發表于 07-31 22:49 ?723次閱讀
    亞信電子與安勤科技攜手共創TSN<b class='flag-5'>技術</b><b class='flag-5'>新浪潮</b>

    生成人工智能服務管理暫行辦法》正式施行,商湯「數字水印」護航生成AI可信和著作權保護

    生成AI技術(AIGC)掀起了內容創作新浪潮,但大眾被誤導、作品被侵權的情況也接踵而至,行業對加強AI生成內容監管的呼聲愈發高漲。 “數字
    的頭像 發表于 08-25 13:00 ?2044次閱讀
    《<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b>服務管理暫行辦法》正式施行,商湯「數字水印」護航<b class='flag-5'>生成</b><b class='flag-5'>式</b>AI可信和著作權保護

    中國移動董事長楊杰在MWC2024上探討AI創新浪潮

    楊杰對人工智能驅動的創新浪潮提出深刻洞見:抓住科技革命浪潮,尋找新的發展機會;堅持“5G+”發展戰略,完成新時代賦予的使命;邁進“AI+”時代,共享創新成果的美好愿景。
    的頭像 發表于 02-27 09:56 ?1057次閱讀

    Live20.8多功能數字調音臺引領新浪潮

    Live20.8多功能數字調音臺憑借其輕巧的體積、強大的功能和人性化的設計,這款獨具匠心的調音臺正引領著調音臺的革新浪潮
    的頭像 發表于 03-13 16:38 ?1005次閱讀

    Vicor技術如何改進生成人工智能供電

    生成人工智能(genAI)帶來的文化革命可能像互聯網普及一樣對人類產生深遠影響。從您的角度來看,目前情況如何?
    的頭像 發表于 10-16 09:54 ?656次閱讀
    <b class='flag-5'>Vicor</b><b class='flag-5'>技術</b>如何改進<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>人工智能</b>的<b class='flag-5'>供電</b>