上周,在中國信通院的引領下,ODCC春季全員大會在風光秀麗的揚州舉行。大會內容豐富,涵蓋了服務器、設施、網絡、邊緣計算、新技術與測試、智能運營等多個工作組的技術研討,共計舉辦近十場,近百位行業專家進行了精彩的主題分享。作為AI網絡特別組及網絡工作組的成員,奇異摩爾積極參與大會,與業界同仁共同探討AI網絡互聯應用的發展趨勢。
當前,國內外GPU卡間互聯技術正呈現出多樣化的繁榮景象,不同標準、協議及產業鏈生態迅速發展,形成了“百家爭鳴”的格局。在本次大會上,中國移動OISA、騰訊ETH-X以及UALink生態標準分別展示了各自生態的最新進展,這一交流將有力推動國內開放標準的快速發展,加速產業鏈上下游的協同創新。
超節點GPU互聯賦予推理大模型“滿血”性能
在DeepSeek通過算法優化和創新技術顯著提高GPU利用率的大背景下,Scale-UP各生態標準組在ODCC大會期間深入探討了對推理集群中卡間互聯的HBD域需求及其重要性。與會專家詳細分析了,采用64卡H800互聯部署的DeepSeek大模型,相較于僅使用8卡GPU互聯的配置,推理效率提升了超過15%。
同時,相關專家指出,盡管國內市場對DeepSeek一體機的需求火爆,但即便是配置了671B參數的算力,其實際在推理應用能力上的性能發揮仍有潛力可挖。構建由更多服務器組成的推理集群,才能真正釋放DeepSeek的完整潛能。在這一背景下,Scale-Up高效互聯技術構建的超節點GPU互聯服務器,在提升大型推理模型的性能效率方面展現出顯著優勢。
奇異摩爾積極推動OISA Chiplet生態適配
去年6月由中國移動創新提出的全向智感互聯架構(OISA)旨在構建一個高效、智能、靈活且開放的GPU卡間互聯系統,特別針對大模型訓練、推理及高性能計算等數據密集型AI應用進行優化。其全向連接設計確保了大規模GPU之間能夠進行對等通信,而智能感知功能則通過定義流量感知標簽,在提升數據傳輸效率的同時,增強了鏈路的遙測和可視化能力。同時,OISA從帶寬、時延及無損三個層次所對應的事物層、數據層以及物理層進行全面架構的更新,更高效地支持張量并行和專家并行,對Dense模型及MoE專家稀疏化模型均有較大幫助。
(來源:OISA)
奇異摩爾作為OISA的重要聯盟成員正在全力推進OISA Chiplet技術的協同與適配。在OISA GPU技術標準化的過程中,生態在協議層預留可擴展接口與現有生態兼容。GPU內部GPU Die通過與奇異摩爾的NDSA-G2G (又稱GPU I/O Die)集成共封,GPU Die與I/O Die接口通過與UCIe標準兼容,允許通過先進封裝技術實現OISA體系的互聯集成,最終實現生態內不同GPU 通過I/O Die完成卡間互聯。
(圖:Kiwi NDSA-G2G)
2024年,中國移動算力計劃資本開支475億元,同比增長21.5%;2025年算力領域投資預計達373億元,占資本開支的25%,重點投向智算資源(FP16算力超34EFLOPS)和推理資源(根據市場需求不設上限)。
奇異摩爾的NDSA-G2G以Chiplet形態為OISA生態賦能,構建更大規模的超級節點Domain,助力中國移動智算中心在國內形成完整的算力閉環。
展望未來,預計OISA將在年中發布相關協議的白皮書。屆時,奇異摩爾將作為白皮書中的關鍵Chiplet技術貢獻者,為整個生態貢獻其專業知識和力量。
隨著大模型MoE架構和萬億參數模型過渡為常態,超節點互聯正從"可選方案"進化為"必選項"。奇異摩爾正積極攜手與國內國外主流Scale Up生態(ETH-X, OISA, UAlink)共同打造更開放、兼容的下一代互聯標準。當前,AI基礎設施已進入“規模算力”與“高效互聯”雙輪驅動的新階段。奇異摩爾將持續攜手產業伙伴,以開放生態加速超節點互聯技術的商業化進程,助力全球AI產業突破算力瓶頸,邁向更智能的未來。
關于我們
AI網絡全棧式互聯架構產品及解決方案提供商
奇異摩爾,成立于2021年初,是一家行業領先的AI網絡全棧式互聯產品及解決方案提供商。公司依托于先進的高性能RDMA 和Chiplet技術,創新性地構建了統一互聯架構——Kiwi Fabric,專為超大規模AI計算平臺量身打造,以滿足其對高性能互聯的嚴苛需求。
我們的產品線豐富而全面,涵蓋了面向不同層次互聯需求的關鍵產品,如面向北向Scale out網絡的AI原生智能網卡、面向南向Scale up網絡的GPU片間互聯芯粒、以及面向芯片內算力擴展的2.5D/3D IO Die和UCIe Die2Die IP等。這些產品共同構成了全鏈路互聯解決方案,為AI計算提供了堅實的支撐。
奇異摩爾的核心團隊匯聚了來自全球半導體行業巨頭如NXP、Intel、Broadcom等公司的精英,他們憑借豐富的AI互聯產品研發和管理經驗,致力于推動技術創新和業務發展。團隊擁有超過50個高性能網絡及Chiplet量產項目的經驗,為公司的產品和服務提供了強有力的技術保障。我們的使命是支持一個更具創造力的芯世界,愿景是讓計算變得簡單。奇異摩爾以創新為驅動力,技術探索新場景,生態構建新的半導體格局,為高性能AI計算奠定穩固的基石。
-
gpu
+關注
關注
28文章
4941瀏覽量
131202 -
chiplet
+關注
關注
6文章
459瀏覽量
12992 -
奇異摩爾
+關注
關注
0文章
61瀏覽量
3729
原文標題:生態共建 | 奇異摩爾以互聯之長推進OISA GPU卡間互聯生態適配
文章出處:【微信號:奇異摩爾,微信公眾號:奇異摩爾】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
AS32S601 芯片在衛星互聯網推進系統中的技術適配性研究
認識 Thread 協議的互聯能力
Intel-Altera FPGA:通信行業的加速引擎,開啟高速互聯新時代
奇異摩爾受邀出席第三屆HiPi Chiplet論壇
衢州市領導蒞臨奇異摩爾考察調研
摩爾線程完成DeepSeek開源庫FlashMLA和DeepGEMM適配
奇異摩爾分享計算芯片Scale Up片間互聯新途徑

回顧:奇異摩爾@ ISCAS 2024 :聚焦互聯技術與創新實踐

摩爾線程GPU與超圖軟件大模型適配:共筑國產地理空間AI新生態
摩爾線程與超圖軟件完成產品兼容認證
智原科技與奇異摩爾2.5D封裝平臺量產
國家大力部署 IPv6,打造下一代互聯網新生態

評論