近日,中國聯通在合作伙伴大會期間舉辦CUBE-Net 3.0新突破——下一代互聯網系列成果發布會。中國聯通集團建設發展部副總經理呂洪濤、中國聯通研究院副院長唐雄燕、上海聯通副總經理歐大春、華為數據通信產品線路由器領域總裁蔡駿等共同發布業界首個隱私數據零泄露的分布式訓推試點成果,這標志著中國聯通與華為在智算廣域網解決方案技術研究領域的合作邁入新階段。
當前,DeepSeek加速AI普惠化,各行各業紛紛布局AI應用,助力企業數智化轉型。企業自建算力成本高、場地受限,租用算力又面臨數據安全風險。如何保障算力靈活供應的同時確保數據安全,成為智算服務快速惠及千行百業的關鍵問題。
中國聯通與華為合作成功在上海金橋與臨港數據中心間完成業界首例基于模型分割學習的分布式邊云協同訓推技術方案驗證。通過部署AINet智算網關,實現分割學習、邊云協同和無損網絡融合創新,解決隱私數據敏感用戶在AI服務中的痛點,提供更安全可靠的人工智能服務。
在邊云協同訓練場景下,在企業側部署輕量級算卡資源,通過PP并行模式與云側智算中心算力進行協同訓練,樣本和模型首尾層部署在企業本地,保障樣本數據不出園區;按需租賃運營商智算中心算力資源,僅部署模型中間層,接收/發送激活值、梯度值。云邊算力之間通過智算IP廣域網連接,高效、無損傳輸激活值、梯度值數據。當前基于Llama 2模型實測,與云上集中訓練相比,算效損失小于3%。
在邊云協同推理場景下,在企業側部署輕量級算卡資源,通過模型分割學習與云側智算中心算力進行協同推理,Embedding&Unembedding層及模型首尾層部署在企業園區本地,保障Prompt不出園區;按需租賃運營商智算中心算力資源,僅部署模型中間層,接收/發送隱變量。云邊算力之間通過智算IP廣域網連接,高效傳輸隱變量數據。當前基于DeepSeek模型實測,邊云協同推理吞吐達到集中推理吞吐95%以上。
中國聯通研究院副院長、首席科學家唐雄燕介紹,以網強算,以算賦智,通過網絡技術創新推動AI服務普惠化,是網絡升級的重要方向。分布式邊云協同訓推方案解決隱私數據安全問題,滿足智算業務云化需求,實現算網資源靈活協同和隱私數據“0”泄露。
未來,中國聯通攜手華為推進算網一體服務創新,不斷豐富和完善分布式邊云協同訓推方案的核心內涵。通過提供高品質的算網一體化服務,加速企業AI應用規模化普及,促進產業升級與效率提升,驅動企業數智化轉型,為社會經濟的高質量發展持續貢獻力量。
-
華為
+關注
關注
216文章
35240瀏覽量
256183 -
互聯網
+關注
關注
55文章
11253瀏覽量
106612 -
中國聯通
+關注
關注
12文章
3680瀏覽量
63847
原文標題:中國聯通聯合華為完成業界首例基于模型分割學習的分布式訓推試點,實現用戶隱私數據零泄露
文章出處:【微信號:Huawei_Fixed,微信公眾號:華為數據通信】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
評論