AI 無(wú)處不在的性質(zhì)不僅限于數(shù)據(jù)中心,也不在 MIT Python 程序員的頭腦中。它可以在我們當(dāng)?shù)氐某兄幸宰詫?dǎo)機(jī)器人的形式在過(guò)道中漫游,使用卷積神經(jīng)網(wǎng)絡(luò) (CNN) 和其他方式嵌入機(jī)場(chǎng)安全攝像頭。
無(wú)論 AI 接口是什么——一個(gè)眼睛粘糊糊的超市機(jī)器人,或者一個(gè)性感的澳大利亞女聲給我們指著一個(gè)好酒吧——工作負(fù)載需要在某種基于 CPU 或 GPU 的系統(tǒng)上處理,比如來(lái)自 Nvidia 的 DGX。
因?yàn)橛羞@么多不同類型的 AI,所以沒(méi)有一種最適合的硬件來(lái)處理工作負(fù)載。正如英特爾的Naveen Rao所說(shuō),“客戶發(fā)現(xiàn)沒(méi)有單一的‘最佳’硬件來(lái)運(yùn)行各種 AI 應(yīng)用程序,因?yàn)闆](méi)有單一類型的 AI。” 無(wú)論為 AI 應(yīng)用程序選擇哪種硬件,肯定有一個(gè)共同點(diǎn):處理工作負(fù)載的每臺(tái)設(shè)備都需要有電源。
美元數(shù)據(jù)
對(duì)于 IT 經(jīng)理來(lái)說(shuō),人工智能對(duì)計(jì)算服務(wù)器所需的功率產(chǎn)生了相當(dāng)大的影響。服務(wù)器機(jī)架的平均功耗通常為 7 kW;但是,AI 應(yīng)用程序每個(gè)機(jī)架可能使用超過(guò) 30 kW。增加千瓦是必需的,因?yàn)?AI 需要更高的處理器利用率,例如在 GPU 類型服務(wù)器上運(yùn)行的應(yīng)用程序——它們每個(gè)芯片需要兩倍的功率。
當(dāng)然,如果您的設(shè)施功率受限,您可以嘗試四處移動(dòng)數(shù)據(jù),但這可能需要比處理數(shù)據(jù)更多的能量,而且功率消耗始終與移動(dòng)中的數(shù)據(jù)量有關(guān)。簡(jiǎn)而言之,與數(shù)據(jù)傳輸相關(guān)的成本很高。
例如,盡管有許多云提供商(AWS、Azure、Google 等)可供選擇,但許多公司都面臨與復(fù)雜數(shù)據(jù)傳輸價(jià)格相關(guān)的隱藏成本。解決這一困境的一個(gè)可行的解決方案不是移動(dòng)數(shù)據(jù),而是在更接近起源點(diǎn)的地方處理它——這創(chuàng)造了對(duì)邊緣計(jì)算的另一種需求。
用小網(wǎng)絡(luò)解決大問(wèn)題
邊緣計(jì)算有望成為另一個(gè)無(wú)處不在且備受期待的數(shù)據(jù)進(jìn)步(稱為 5G)的支柱。5G 預(yù)期的 1 毫秒延遲時(shí)間需要許多分布式處理區(qū)域(也稱為邊緣網(wǎng)絡(luò))的支持。基于邊緣的服務(wù)器需要更靠近個(gè)人流式傳輸 4K 視頻和最終 8K 格式的視頻,以及用于監(jiān)控智能城市中行人和交通活動(dòng)的攝像頭等應(yīng)用程序——而這一切都無(wú)需將其發(fā)送到云端。
此外,還需要邊緣網(wǎng)絡(luò)來(lái)支持自動(dòng)駕駛汽車。這種優(yōu)雅的新數(shù)據(jù)流掛毯的核心將是人工智能近乎實(shí)時(shí)地處理信息。
目前,所有 AI 應(yīng)用程序都運(yùn)行在基于硅的計(jì)算硬件上,無(wú)論是在智能手機(jī)內(nèi)置的定制芯片中、在邊緣計(jì)算服務(wù)器內(nèi)部署的 FPGA 中,還是在專門構(gòu)建的以 AI 為重點(diǎn)的系統(tǒng)中,例如來(lái)自 Nvidia 的 DGX,可通過(guò)公共云訪問(wèn)。
并且該硬件都需要電源,無(wú)論是直流電(如電池)還是交流電(來(lái)自電網(wǎng))。它還需要物理系統(tǒng)之間的連接,無(wú)論是通過(guò)銅纜還是光纖數(shù)據(jù)連接。
斷電是AI的氪石
人工智能似乎對(duì)人類具有前所未有的價(jià)值。然而,當(dāng)遇到斷電時(shí),它會(huì)崩潰并停止運(yùn)作——就像超人對(duì)氪石的反應(yīng)一樣。將 AI 與這種能量克星隔離并降低故障風(fēng)險(xiǎn)的解決方案是確保可靠的功率流。
具有每插座功率感應(yīng)功能的開(kāi)關(guān) PDU將使邊緣數(shù)據(jù)中心能夠最大限度地延長(zhǎng)所有需要近實(shí)時(shí)處理的 AI 應(yīng)用程序的正常運(yùn)行時(shí)間。在這種環(huán)境下,選擇可靠的 PDU 為交通控制信號(hào)和中繼站的 AI 工作負(fù)載供電非常重要,急救人員使用這些工作負(fù)載為救護(hù)車、消防和執(zhí)法服務(wù)提供調(diào)度和緊急數(shù)字通信。
鑒于這些關(guān)鍵任務(wù)的情況,智慧城市需要智能電源設(shè)備來(lái)確保其 5G 服務(wù)暢通無(wú)阻。使用遠(yuǎn)程監(jiān)控和管理的數(shù)據(jù)中心 PDU還有助于監(jiān)控機(jī)柜內(nèi)的溫度和環(huán)境條件。
回到數(shù)據(jù)中心和主機(jī)托管設(shè)施,人們正在更換基于 CPU 的服務(wù)器以獲得更強(qiáng)大的 GPU 系統(tǒng)人工智能處理能力,當(dāng) C13 和 C19 插座的更大組合時(shí),擁有可擴(kuò)展的機(jī)架式 PDU真的會(huì)派上用場(chǎng)需要——正在創(chuàng)建 30 kW 機(jī)架的過(guò)程中。
審核編輯 黃昊宇
-
電源
+關(guān)注
關(guān)注
185文章
18264瀏覽量
254982 -
AI
+關(guān)注
關(guān)注
87文章
34173瀏覽量
275339 -
工作負(fù)載
+關(guān)注
關(guān)注
0文章
11瀏覽量
2024
發(fā)布評(píng)論請(qǐng)先 登錄
ups電源—UPS(不間斷電源)選型和負(fù)載類型的關(guān)系分析

ups電源—UPS不間斷電源在不同負(fù)載下的效率詳解

ups電源—線性負(fù)載中UPS不間斷電源提效妙招

ups電源—超有趣!UPS不間斷電源的負(fù)載類型介紹

Arm技術(shù)助力Google Axion處理器加速AI工作負(fù)載推理

HPC工作負(fù)載管理的關(guān)鍵要素
電源負(fù)載主要特性和參數(shù)是什么?
直流電源怎么連接負(fù)載 常見(jiàn)直流電源接線方式
燃料電池測(cè)試負(fù)載的工作原理是什么?
AI算力芯片供電電源測(cè)試?yán)?費(fèi)思低壓大電流系列電子負(fù)載

升壓電源模塊帶不動(dòng)負(fù)載咋回事

評(píng)論