7月27日, 2025年世界人工智能大會在上海世博中心開幕,來自深圳兩家ICT公司華為、中興通訊分別展示了自身獨創的,或者聯合其他廠商打造的算力底座的旗艦產品。
作為中國自主的算力核彈,華為昇騰384超節點真機首次亮相。中興通訊、上海儀電、曦智科技、壁仞科技聯合打造的光互聯芯片及超節點應用創新方案榮獲2025年世界人工智能大會最高獎。本文將對這兩款重點產品進行分析。
超越英偉達GB200 NVL72系統,華為昇騰384超節點整機首次亮相
在WAIC大會現場,這款號稱鎮館之寶的華為昇騰384超節點整機前,聚集了來自全國各地,海外的參觀者和工程師,這款整機算力高達300 PFLOPs,內存帶寬1229TB/秒,網絡帶寬269TB/秒,算力是英偉達GB200 NVL72系統的2倍,內存帶寬暴漲113%,組網速度快107%,引領算力新基建。
英偉達CEO黃仁勛曾表示,從技術參數看,華為的CloudMatrix 384超節點,性能上甚至超越了英偉達,比英偉達的尖端技術更具優勢,因此我們必須高度重視這家實力雄厚的公司,全力以赴應對挑戰。半導體研究公司 Semi Analysis 稱,CloudMatrix 384 在幾個關鍵領域的表現優于 Nvidia 的 GB200 NVL72,特別是在訓練海量人工智能模型或運行要求苛刻的推理工作負載方面。
圖片來自華為中國官方微信
早在HDC2025大會上,華為云CEO張平安就宣布了,基于華為云CloudMatrix384超節點的新一代昇騰云服務已經在蕪湖、貴安、烏蘭察布和林格爾全面上線。張平安說,華為云致力于為大家提供澎湃的AI算力,讓大家不再有AI算力短缺的焦慮。
華為云CloudMatrix384超節點整機的原理,按照張平安的說法是,數學補物理,空間換算力,能源助性能,打破傳統AI服務器的邊界,通過系統級的創新,將384顆昇騰NPU和192顆鯤鵬CPU通過全新的高速網絡MatrixLink對等互聯,形成一臺超級AI服務器。
華為首次線下展出昇騰384超節點,即Atlas 900 A3 SuperPoD,該產品基于超節點架構,通過總線技術實現384個NPU之間的大帶寬低時延互聯,解決集群內計算、存儲等各資源之間的通信瓶頸。通過系統工程的優化,實現資源的高效調度,讓超節點像一臺超級計算機一樣工作。算力規模300 PFlops,單卡的推理量,從每秒600Token躍升到現在每秒2300Token,提升4倍,成功打破跨機通信帶寬性能瓶頸,實現從服務器級到矩陣級的資源供給模式轉變。
這款整機具備四大技術特點:一、吞吐突破性能強,可以實現軟硬件協同優化,單卡Decoding吞吐達到2300Tokens;其次,主流模型覆蓋多,沉淀了行業主流160+模型,可以高效支撐模型遷移;三、專家并行效率高,國內首創的大規模專家并行方案,可以實現系統級優化支撐更大吞吐、更低decode時延;四、規模靈活,初始投資小,每年迭代發布新版本,可以實現彈性靈活按需使用。據悉,目前華為云CloudMatrix384超節點已經在行業中得到應用,包括支撐新浪“智慧小浪”推理交付效率50%以上,支撐硅基流動每天為600萬用戶提供推理服務,支持中科院自研大模型,推動面壁智能“小鋼炮”模型推理業務性能提升,助力訊飛大模型實現推理性能等。
借助 CloudMatrix 384,華為現在提供了一種可靠、可擴展且本地制造的替代方案。作為中國最大的科技公司,華為盡管受到美國出口限制,但仍在迅速取得進展。專家表示,這可能會重塑人工智能基礎設施和硬件的未來。
SAIL項目在上海落地!中興+曦智科技+壁仞發布國內首個光互聯GPU超節點
在本次大會上,曦智科技聯合壁仞科技、中興通訊共同推出的光躍LightSphere X——全球首個分布式光互連光交換GPU超節點解決方案獲得2025 SAIL獎(卓越人工智能引領者獎)。
7月27日,曦智科技創始仁、首席執行官沈亦晨表示,算力發展類比電力革命,正如電力提升生活舒適度,算力飛躍將釋放思維與精力潛能,而光子芯片正以創新技術開辟新賽道,成為算力突破的核心引擎。
該超節點基于曦智科技全球首創的分布式光交換技術,采用硅光技術的光互連光交換芯片和壁仞科技自主原創架構的大算力通用GPU液冷模組與全新載板互連,并搭載中興通訊高性能AI國產服務器及儀電智算云平臺軟件,構建起高帶寬、低延遲、靈活可擴展的自主可控智算集群新范式,即將于上海儀電智算中心落地。
圖:光躍LightSphere X展示,來自中興通訊官方微信
據悉,當前業界一種常見方案是通過提升單機柜功耗來部署更多GPU,但受限于數據中心單機柜的功耗天花板,單機柜GPU密度提升存在瓶頸。對此,光躍LightSphere X采用光互連技術,通過增加機柜數量構建超節點,突破傳統互連方式下超節點的物理限制。
光躍LightSphere X全球首創的分布式光交換(dOCS)技術則進一步提升了超節點的靈活度和系統可擴展性,從而達到提升系統性價比的目的,還能按模型算力需求動態調整超節點規模,光躍LightSphere X將實現2千卡規模部署。
據悉,光躍LightSphere X依托上海儀電算力底座,集合國內智算領域頭部企業,共建了“光芯片-GPU-服務器-算力集群-智算云平臺”閉環,打造了開放共享的光電融合算力生態體系。上海儀電(集團)有限公司是上海市國資委所屬的產業發展類集團、上海市公共算力服務平臺核心建設單位和智算自主可控國產軟硬件生態“鏈主”企業。
值得關注的是,曦智科技創新分布式光交換模組,可以支持集群內GPU互聯拓撲的靈活切換,并在特殊情況下,可以利用冗余迅速重組超節點網絡,顯著提升大模型訓推能力,極大的拓展了集群的應用場景。此外,曦智科技與沐曦合作的光互連電交換超節點方案也首次公開亮相。該方案采用線性直驅光互連技術,具有低延時、高帶寬、低功耗的特點,并支持長距離傳輸,突破跨機柜連接的限制,支持8臺標準服務器共64張xPU卡的高速互連,為大模型訓練及推理提供更靈活、更高效的并行策略支持,從而提升集群性能。
中興通訊表示,公司將堅持智算戰略主航道持續深化AI領域投入,基于自主創新實力和全棧智算解決方案,助力全球運營商和合作伙伴構建開放、互利的AI新生態。
本文由電子發燒友原創,轉載請注明以上來源。微信號zy1052625525。需入群交流,請添加微信elecfans999,投稿爆料采訪需求,請發郵箱[email protected]。
-
NVIDIA
+關注
關注
14文章
5320瀏覽量
106565 -
gpu
+關注
關注
28文章
4961瀏覽量
131504 -
中興通訊
+關注
關注
7文章
2079瀏覽量
56679
發布評論請先 登錄
上海儀電聯合曦智科技、壁仞科技、中興通訊發布國內首個光互連光交換GPU超節點——光躍LightSphere X

比亞迪攜仰望、騰勢品牌亮相印尼國際車展
華為開發者大會2025(HDC 2025)亮點:華為云發布盤古大模型5.5 宣布新一代昇騰AI云服務上線

有關 AI 算力,華為昇騰刷新行業記錄

華為云黃瑾:昇騰云CloudMatrix 384超節點六大科技創新,定義下一代AI基礎設施
華為云超節點創新算力基礎設施,推動千行萬業AI應用開發落地
華為兆瓦超充重磅產品全新發布
大華股份亮相華為中國合作伙伴大會2025 星漢×昇騰推動行業創新發展

迅龍軟件出席華為昇騰APN伙伴大會,獲昇騰APN鉆石伙伴授牌及兩項大獎

喜訊 英碼科技受邀出席華為昇騰APN伙伴大會,正式成為「昇騰鉆石部件伙伴」,喜獲多個重磅獎項!

AI 新品首秀 超云重磅亮相 2024 英特爾新質生產力技術生態大會

ETH-X超節點:開辟AI算力約束突破的新路徑

評論