女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

GPU如何克服負載計算工作量提升帶來的挑戰

lPCU_elecfans ? 來源:電子發燒友網 ? 作者:電子發燒友網 ? 2022-10-09 09:30 ? 次閱讀

電子發燒友網報道(文/周凱揚)在AI和大數據時代到來之后,GPU單兵作戰就變成了奢望,以現在的數據中心和超算為例,動輒就是成千上萬張GPU,龐大的GPU網絡在交換機和光模塊的支持下代表了這個計算時代下最高的算力。但并非只有數據中心和超算里的GPU才需要這樣的擴展性,嵌入式GPU和專業GPU同樣如此。

物理限制的嵌入式GPU隨著各種傳感器的性能持續走高,譬如多線激光雷達、高分辨率的圖像傳感器等,我們對邊緣計算單元尤其是GPU的需求也在持續增加。但在實現的過程中,我們還有一些物理限制沒法消除,像是尺寸、重量和功耗等。

為了解決這一系列問題,美國政府和行業方案提供商們成立了SOSA聯盟,以求開發開放的標準和最好的方案來實現高性價比、互操作性強的傳感器系統。如何克服這些負載計算工作量提升帶來的挑戰,又能不增加寶貴的物理資源呢?答案自然還是將GPU、DPU等技術集成到嵌入式結構中去。

這類嵌入式GPU并非用來單獨售賣,而是交給合作伙伴整合到不同的邊緣計算系統中,比如研華、凌華、EIZO、Mercury Systems等,然后交付給美國空軍、洛克希德·馬丁這類軍事、航空、工業客戶。

即便選擇了嵌入式結構,也還有著不少的路線,比如GPU、FPGAASIC等等。SOSA聯盟主席,來自美國空軍的Ilya Lipkin表示,如果想要更快的運行速度,快速部署軟件,自然是選擇GPU最好。但他們也面臨著空間的問題,因為嵌入式GPU往往會被塞到3U或者6U的服務器里,他們想要做到更小的體積,甚至是手掌大小,可這樣一來就不得不犧牲帶寬、容量。

所以,雖然嵌入式GPU仍然在這些嵌入式傳感系統中可以保持領先地位,但他們并沒有像獲得數據中心那樣不算嚴格的空間要求。目前的MXM嵌入式GPU可以做到PCIe GPU五分之一的尺寸,但這對于嵌入式GPU的擴展性來說還不算完美。在邊緣計算上,反倒是一些FPGA和ASIC方案在能耗比和擴展性上占優,如果嵌入式GPU不能做到更強大的擴展性,很有可能會被后來者顛覆。

顯卡交火時代的結束不管是最新發布的RTX4090消費級顯卡,還是RTX 6000這樣的專業顯卡,都象征了英偉達在新架構GPU上的又一次創新。在臺積電4N工藝的加持下,無論是晶體管數目還是CUDA核心都做到了極致。

然而,原本變成了專屬英偉達高端消費顯卡和專業顯卡的交火技術NVLink,在RTX4090和RTX 6000上卻無處可尋,難不成英偉達徹底放棄顯卡交火技術,也就此放棄NVLink了?根據英偉達CEO黃仁勛的說法,他們省下了NVLink連接器的空間,釋放了更多的空間來處理更多的AI計算。

在上一代顯卡的NVLink中,通過連接兩塊英偉達顯卡,使用高端顯卡和專業顯卡的專業系統能夠獲得更高的帶寬和雙倍的顯存容量。這樣的提升對于個人或專業用戶來說是極大的提升,那么為何英偉達會放棄NVLink呢?筆者也在英偉達GTC的一次分享會議上提出了這一問題。

英偉達方面表示,就RTX 6000這類專業顯卡而言,他們取消NVLink后省下了足夠的空間,塞入了更多的計算單元來提升單卡的性能。與此同時,雖然這些專業顯卡的NVLink支持被取消,不代表英偉達放棄了這一技術。英偉達決心將NVLink的重心放在數據中心產品上,比如Grace CPU、Hopper GPU,他們通過NVLink Die to Die和Chip to Chip的互聯可以實現更好的擴展性。

但這確實象征著一個時代的結束,過去AMD的交火和英偉達的SLI也是兩家競爭最火熱的一項技術,可隨著AMD放棄了交火支持,英偉達的SLI在換成NVLink后如今也迎來了終結。

但顯卡交火的落幕也情有可原,且不說這種互聯方式的受眾群體一再變少,要想享受到顯卡交火的性能也需要軟件追加更新支持。或許專業顯卡的目標還是追求單卡性能就好,多卡互聯的支持還是讓給數據中心吧。

審核編輯:彭靜
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 傳感器
    +關注

    關注

    2564

    文章

    52668

    瀏覽量

    764301
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4916

    瀏覽量

    130734
  • 顯卡
    +關注

    關注

    16

    文章

    2503

    瀏覽量

    69237
  • AI
    AI
    +關注

    關注

    88

    文章

    34421

    瀏覽量

    275760

原文標題:GPU在不同形態下的擴展性問題

文章出處:【微信號:elecfans,微信公眾號:電子發燒友網】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    提升AI訓練性能:GPU資源優化的12個實戰技巧

    在人工智能與機器學習技術迅速發展的背景下,GPU計算資源的高效利用已成為關鍵技術指標。優化的GPU資源分配不僅能顯著提升模型訓練速度,還能實現計算
    的頭像 發表于 05-06 11:17 ?354次閱讀
    <b class='flag-5'>提升</b>AI訓練性能:<b class='flag-5'>GPU</b>資源優化的12個實戰技巧

    Ampere如何引領并塑造下一代人工智能計算系統

    現代人工智能計算工作負載給傳統處理器架構帶來了前所未有的挑戰,已將其推向了極限。
    的頭像 發表于 04-07 10:15 ?464次閱讀

    GPU領域再迎重大創新——全新Imagination DXTP GPU將功效提升20%

    功效比超高的DXTPGPUIP將為圖形計算與邊緣AI應用SoC的創新提供巨大的幫助Imagination于不久前正式發布了DXTPGPUIP,這款新產品的亮點在于,在標準圖形工作負載下,其能效比
    的頭像 發表于 03-19 11:39 ?640次閱讀
    <b class='flag-5'>GPU</b>領域再迎重大創新——全新Imagination DXTP <b class='flag-5'>GPU</b>將功效<b class='flag-5'>提升</b>20%

    GPU加速計算平臺的優勢

    傳統的CPU雖然在日常計算任務中表現出色,但在面對大規模并行計算需求時,其性能往往捉襟見肘。而GPU加速計算平臺憑借其獨特的優勢,吸引了行業內人士的廣泛關注和應用。下面,AI部落小編為
    的頭像 發表于 02-23 16:16 ?354次閱讀

    回饋式交流電子負載:測試效率與節能效果的雙重提升

    ,通過創新的能量回饋機制,實現了測試效率與節能效果的雙重提升,為電力電子測試領域帶來了革命性變革。 一、傳統測試方法的局限性 傳統電阻負載測試方法采用耗能式工作原理,將電能轉化為熱能消
    發表于 02-07 11:13

    GPU計算服務怎么樣

    在當今數字化快速發展的時代,高性能計算需求日益增長。為滿足這些需求,GPU計算服務應運而生。那么,GPU計算服務怎么樣呢?接下來,AI部
    的頭像 發表于 02-05 15:01 ?409次閱讀

    2024年GPU出貨增長顯著,超越CPU

    6%的同比增長,總量超過2.51億顆,這一數據不僅彰顯了GPU市場的繁榮,也反映了當前市場對于圖形處理能力的巨大需求。 尤為值得一提的是,與同樣作為計算機核心部件的CPU相比,GPU在2024年的出貨
    的頭像 發表于 01-17 14:12 ?453次閱讀

    解鎖新應用:探索GPU擴展是如何提升渲染農場的工作效率

    聯瑞GPU擴展方案在渲染農場的應用,是在原有計算機設備的基礎上增加GPU的數量,不用額外購買GPU服務器,有效的幫助企業降本增效.
    的頭像 發表于 01-09 17:13 ?359次閱讀
    解鎖新應用:探索<b class='flag-5'>GPU</b>擴展是如何<b class='flag-5'>提升</b>渲染農場的<b class='flag-5'>工作</b>效率

    借助NVIDIA GPU提升魯班系統CAE軟件計算效率

    本案例中魯班系統高性能 CAE 軟件利用 NVIDIA 高性能 GPU,實現復雜產品的快速仿真,加速產品開發和設計迭代,縮短開發周期,提升產品競爭力。
    的頭像 發表于 12-27 16:24 ?588次閱讀

    《CST Studio Suite 2024 GPU加速計算指南》

    GPU Computing Guide》是由Dassault Systèmes Deutschland GmbH發布的有關CST Studio Suite 2024的GPU計算指南。涵蓋GP
    發表于 12-16 14:25

    深度學習工作負載GPU與LPU的主要差異

    ,一個新的競爭力量——LPU(Language Processing Unit,語言處理單元)已悄然登場,LPU專注于解決自然語言處理(NLP)任務中的順序性問題,是構建AI應用不可或缺的一環。 本文旨在探討深度學習工作負載GPU
    的頭像 發表于 12-09 11:01 ?3258次閱讀
    深度學習<b class='flag-5'>工作</b><b class='flag-5'>負載</b>中<b class='flag-5'>GPU</b>與LPU的主要差異

    GPU加速計算平臺是什么

    GPU加速計算平臺,簡而言之,是利用圖形處理器(GPU)的強大并行計算能力來加速科學計算、數據分析、機器學習等復雜
    的頭像 發表于 10-25 09:23 ?546次閱讀

    基于FPA的軟件工作量綜合評估研究與實踐

    在軟件工程監理項目中如何對軟件開發系統進行工作量評估,如何在實施過程中對承建單位已完成的工作量進行審核是實施信息化項目的難題。本文在分析專家經驗評估法、FPA功能點分析法等方法的基礎上,給出了一種
    發表于 10-15 10:45 ?0次下載

    降壓轉換器電容器集成可減少滿足CISPR 25 5類標準所需的工作量

    電子發燒友網站提供《降壓轉換器電容器集成可減少滿足CISPR 25 5類標準所需的工作量.pdf》資料免費下載
    發表于 08-27 10:41 ?0次下載
    降壓轉換器電容器集成可減少滿足CISPR 25 5類標準所需的<b class='flag-5'>工作量</b>

    大模型發展下,國產GPU的機會和挑戰

    電子發燒友網站提供《大模型發展下,國產GPU的機會和挑戰.pdf》資料免費下載
    發表于 07-18 15:44 ?13次下載
    大模型發展下,國產<b class='flag-5'>GPU</b>的機會和<b class='flag-5'>挑戰</b>