來源:硅基流動
今天,硅基流動聯合沐曦集成電路(上海)股份有限公司(簡稱“沐曦”),全球首發基于沐曦曦云 C550 集群的月之暗面 Kimi-K2 大模型商業化服務部署。該服務運行于匯天網絡科技有限公司(簡稱“匯天網絡”)運營的沐曦曦云C550 三千卡通用 GPU 國產集群。此次合作標志著硅基流動正式將該國產集群納入算力網絡,進一步為大模型產業落地提供充沛的高性能國產算力。
技術突破層面,三方通過芯片層、框架層、模型層的深度協同優化,顯著提升了 Kimi-K2 在曦云 C550 集群上的推理效率。沐曦自主研發的曦云 C550 通用 GPU 為模型提供了高性能、高穩定的核心硬件支撐,可以大幅增加集群算力,縮短大模型計算及推理時間;硅基流動將曦云 C550 集群接入一站式算力納管平臺,豐富了算力資源,并依托自研推理加速引擎,將集群利用率提升至業界領先水平,最終在其大模型云服務平臺提供金融級高可靠性、高速響應、高性價比的 Kimi-K2 推理服務。
此次落地在匯天網絡的沐曦國產 GPU 集群,是華北地區首個專為大模型規模化商用設計的高性能算力基礎設施。該集群納入硅基流動大模型云服務平臺后,將重點服務于金融、政務、教育、科研等領域的頭部客戶,提供企業級 AI 推理部署解決方案。
下一步,硅基流動、匯天網絡與沐曦三方將圍繞"北京國產萬卡集群"建設目標,持續推進集群硬件擴容與綠色 AIDC 技術研發。同時,三方將深化與國內主流大模型企業的生態合作,通過"算力-算法-應用"的全鏈路協同創新,突破產業鏈應用瓶頸,助力“國產算力+大模型產業”實現從技術突破到商業化落地的跨越式發展。
關于沐曦
沐曦致力于自主研發全棧高性能GPU芯片及計算平臺,為智算、通用計算、云渲染等前沿領域提供高能效、高通用性的算力支撐,助力數字經濟發展。
-
集成電路
+關注
關注
5428文章
12096瀏覽量
368741 -
沐曦
+關注
關注
0文章
35瀏覽量
1461 -
大模型
+關注
關注
2文章
3165瀏覽量
4114
原文標題:硅基流動聯合沐曦首發基于曦云的 Kimi K2 推理服務,落地匯天網絡北京國產 GPU 智算集群
文章出處:【微信號:沐曦MetaX,微信公眾號:沐曦MetaX】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
萬億參數!元腦企智一體機率先支持Kimi K2大模型

阿里云領投,硅基流動深耕AI基建破解大模型成本難題
PaddleScience完成與沐曦AI芯片適配
曦智科技時隔八年再登《Nature》,光電混合計算架構首次公開

沐曦曦云C500通用計算GPU與百度飛槳完成Ⅱ級兼容性測試
曦智科技全球首發新一代光電混合計算卡

沐曦加速DeepSeek滿血版單卡C500異構推理
Gitee AI 聯合沐曦首發全套 DeepSeek R1 千問蒸餾模型,全免費體驗!

國產智算集群黑馬!曦源一號SADA算力集群綜合評測表現優異

評論