浪潮信息近日推出了革命性的“源2.0-M32”開源大模型。該模型在源2.0系列基礎上,引入了“基于注意力機制的門控網絡”技術,構建了一個包含32個專家的混合專家模型(MoE),有效提升了模型算力效率。
M32模型憑借其獨特且優化的架構,在僅激活37億參數的情況下,便展現出了與700億參數LLaMA3模型相媲美的性能。更令人矚目的是,它實現的這一性能所消耗的算力僅為LLaMA3的1/19,極大降低了運行成本。
此次浪潮信息的創新,不僅展示了其在人工智能領域的深厚實力,也為整個行業樹立了新的標桿。隨著“源2.0-M32”的發布,我們有理由期待人工智能領域將迎來更多突破與發展。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
浪潮
+關注
關注
1文章
474瀏覽量
24471 -
開源
+關注
關注
3文章
3582瀏覽量
43442 -
大模型
+關注
關注
2文章
3020瀏覽量
3799
發布評論請先 登錄
相關推薦
熱點推薦
浪潮信息與智源研究院攜手共建大模型多元算力生態
近日,浪潮信息與北京智源人工智能研究院正式簽署戰略合作協議,雙方將緊密合作,共同構建大模型多元算力開源創新生態。 此次合作旨在提升大模型創新
浪潮信息與智源研究院達成戰略合作協議
近日,浪潮信息與智源研究院達成戰略合作協議,雙方將緊密協作共建大模型多元算力開源創新生態,提升大模型創新研發的算力效率,降低大
浪潮信息發布"源"Yuan-EB,刷新RAG檢索最高成績
近日,浪潮信息在AI領域取得了重大突破,成功發布了其嵌入模型"源"Yuan-EB(Yuan-embedding-1.0)。在備受矚目的C-MTEB榜單中,"
借助浪潮信息元腦企智EPAI高效創建大模型RAG
生成能力,提高生成質量和可靠性。但企業構建知識檢索系統并非易事,通常面臨開發門檻高、生成內容差等難題。而借助浪潮信息元腦企智EPAI企業大模型開發平臺,企業僅需三步即可高效創建大模型RAG,讓企業內部積累的大量數據得到有效利用,

浪潮信息發布“源”Yuan-EB助力RAG檢索精度新高
近日,浪潮信息發布 “源”Yuan-EB(Yuan-embedding-1.0,嵌入模型),在C-MTEB榜單中斬獲檢索任務第一名,以78.41的平均精度刷新大

浪潮信息發布KOS AI定制版,大幅提升大模型訓練效率
浪潮信息近期推出了“元腦服務器操作系統KOS AI定制版”,為人工智能領域帶來了革命性的變化。這款定制版操作系統通過簡單的兩步操作,即可實現大模型訓練環境的快速部署。
浪潮信息源2.0大模型與百度PaddleNLP全面適配
近日,浪潮信息宣布其開源大模型源2.0已全面適配百度PaddleNLP。這一舉措標志著大模型開發
浪潮信息發布元腦企智一體機
在2024中國算力大會上,浪潮信息正式發布了其創新的元腦企智一體機。這款一體機融合了元腦企智EPAI企業大模型開放平臺和元腦服務器,通過軟硬件協同的一體化設計,實現了快速交付、開箱即用、極致性能和安全高效的大
浪潮信息:元腦企智EPAI助力金融大模型快速落地
近日,2024金融科技應用創新發展大會暨農村金融機構信息化發展創新座談會在上海舉辦。浪潮信息推出元腦企智EPAI企業大模型開發平臺,面向金融業務場景,實現7天完成POC驗證、2個月上線AI應用,通過

源2.0-M32大模型發布量化版 運行顯存僅需23GB 性能可媲美LLaMA3
北京2024年8月23日?/美通社/ -- 近日,浪潮信息發布源2.0-M32大模型4bit和8bit量化版,性能比肩700億參數的LLaM

浪潮信息發布AIStation V5,全面支持大模型開發流程與高效算力調度
北京2024年7月11日?/美通社/ -- 7月9日,在"元腦中國行"全國巡展濟南站上,浪潮信息發布AIStation 人工智能開發平臺V5升級版,具備全面的大模型流程支持能力,幫助企業用戶降低構建

浪潮信息推出AIGC存儲解決方案
近日,在科技創新的浪潮中,浪潮信息成功舉辦了“元腦中國行”全國巡展的杭州站活動,此次盛會不僅匯聚了業界的精英與目光,更見證了浪潮信息在AIGC(人工智能生成內容)領域的一次重大突破。會上,浪潮
畢昇大模型應用開發平臺+浪潮信息AIStation,讓大模型定制更簡單
北京2024年6月5日?/美通社/ -- 近日,畢昇大模型應用開發平臺與浪潮信息AIStation智能業務生產創新平臺完成兼容性互認證。基于畢昇和浪潮信息AIStation,用戶通過預置的畢昇助手

浪潮信息與北京伙伴共筑AI新生態
近日,2024浪潮信息區域ISP伙伴戰略簽約儀式在京圓滿落幕。此次盛會,浪潮信息與航天星橋、中天瑞合、圣世博泰、浩然泰同、浩普誠華、眾創佳業等20家北京元腦生態伙伴共襄盛舉,簽署了戰略合作協議。
評論