電子發燒友網報道(文/周凱揚)在AI和大數據時代到來之后,GPU單兵作戰就變成了奢望,以現在的數據中心和超算為例,動輒就是成千上萬張GPU,龐大的GPU網絡在交換機和光模塊的支持下代表了這個計算時代下最高的算力。但并非只有數據中心和超算里的GPU才需要這樣的擴展性,嵌入式GPU和專業GPU同樣如此。
物理限制的嵌入式GPU隨著各種傳感器的性能持續走高,譬如多線激光雷達、高分辨率的圖像傳感器等,我們對邊緣計算單元尤其是GPU的需求也在持續增加。但在實現的過程中,我們還有一些物理限制沒法消除,像是尺寸、重量和功耗等。
為了解決這一系列問題,美國政府和行業方案提供商們成立了SOSA聯盟,以求開發開放的標準和最好的方案來實現高性價比、互操作性強的傳感器系統。如何克服這些負載計算工作量提升帶來的挑戰,又能不增加寶貴的物理資源呢?答案自然還是將GPU、DPU等技術集成到嵌入式結構中去。
這類嵌入式GPU并非用來單獨售賣,而是交給合作伙伴整合到不同的邊緣計算系統中,比如研華、凌華、EIZO、Mercury Systems等,然后交付給美國空軍、洛克希德·馬丁這類軍事、航空、工業客戶。
即便選擇了嵌入式結構,也還有著不少的路線,比如GPU、FPGA和ASIC等等。SOSA聯盟主席,來自美國空軍的Ilya Lipkin表示,如果想要更快的運行速度,快速部署軟件,自然是選擇GPU最好。但他們也面臨著空間的問題,因為嵌入式GPU往往會被塞到3U或者6U的服務器里,他們想要做到更小的體積,甚至是手掌大小,可這樣一來就不得不犧牲帶寬、容量。
所以,雖然嵌入式GPU仍然在這些嵌入式傳感系統中可以保持領先地位,但他們并沒有像獲得數據中心那樣不算嚴格的空間要求。目前的MXM嵌入式GPU可以做到PCIe GPU五分之一的尺寸,但這對于嵌入式GPU的擴展性來說還不算完美。在邊緣計算上,反倒是一些FPGA和ASIC方案在能耗比和擴展性上占優,如果嵌入式GPU不能做到更強大的擴展性,很有可能會被后來者顛覆。
顯卡交火時代的結束不管是最新發布的RTX4090消費級顯卡,還是RTX 6000這樣的專業顯卡,都象征了英偉達在新架構GPU上的又一次創新。在臺積電4N工藝的加持下,無論是晶體管數目還是CUDA核心都做到了極致。
然而,原本變成了專屬英偉達高端消費顯卡和專業顯卡的交火技術NVLink,在RTX4090和RTX 6000上卻無處可尋,難不成英偉達徹底放棄顯卡交火技術,也就此放棄NVLink了?根據英偉達CEO黃仁勛的說法,他們省下了NVLink連接器的空間,釋放了更多的空間來處理更多的AI計算。
在上一代顯卡的NVLink中,通過連接兩塊英偉達顯卡,使用高端顯卡和專業顯卡的專業系統能夠獲得更高的帶寬和雙倍的顯存容量。這樣的提升對于個人或專業用戶來說是極大的提升,那么為何英偉達會放棄NVLink呢?筆者也在英偉達GTC的一次分享會議上提出了這一問題。
英偉達方面表示,就RTX 6000這類專業顯卡而言,他們取消NVLink后省下了足夠的空間,塞入了更多的計算單元來提升單卡的性能。與此同時,雖然這些專業顯卡的NVLink支持被取消,不代表英偉達放棄了這一技術。英偉達決心將NVLink的重心放在數據中心產品上,比如Grace CPU、Hopper GPU,他們通過NVLink Die to Die和Chip to Chip的互聯可以實現更好的擴展性。
但這確實象征著一個時代的結束,過去AMD的交火和英偉達的SLI也是兩家競爭最火熱的一項技術,可隨著AMD放棄了交火支持,英偉達的SLI在換成NVLink后如今也迎來了終結。
但顯卡交火的落幕也情有可原,且不說這種互聯方式的受眾群體一再變少,要想享受到顯卡交火的性能也需要軟件追加更新支持。或許專業顯卡的目標還是追求單卡性能就好,多卡互聯的支持還是讓給數據中心吧。
-
傳感器
+關注
關注
2564文章
52668瀏覽量
764301 -
gpu
+關注
關注
28文章
4916瀏覽量
130734 -
顯卡
+關注
關注
16文章
2503瀏覽量
69237 -
AI
+關注
關注
88文章
34421瀏覽量
275760
原文標題:GPU在不同形態下的擴展性問題
文章出處:【微信號:elecfans,微信公眾號:電子發燒友網】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
GPU領域再迎重大創新——全新Imagination DXTP GPU將功效提升20%

GPU加速計算平臺的優勢
回饋式交流電子負載:測試效率與節能效果的雙重提升
GPU云計算服務怎么樣
2024年GPU出貨量增長顯著,超越CPU
借助NVIDIA GPU提升魯班系統CAE軟件計算效率
《CST Studio Suite 2024 GPU加速計算指南》
深度學習工作負載中GPU與LPU的主要差異

基于FPA的軟件工作量綜合評估研究與實踐
降壓轉換器電容器集成可減少滿足CISPR 25 5類標準所需的工作量

評論