女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

摩爾線程攜手智源研究院完成基于Triton的大模型算子庫適配

摩爾線程 ? 來源:摩爾線程 ? 2024-08-02 11:06 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

近日,摩爾線程與北京智源人工智能研究院(簡稱:智源研究院)已順利完成基于Triton語言的高性能算子庫FlagGems的適配工作。得益于摩爾線程自研統一系統計算架構MUSA,雙方在短短一周多的時間里,即成功完成了近60個算子的功能驗證,精度符合交付標準,并實現對Bert-large模型的全面支持。FlagGems算子庫在摩爾線程MUSA架構上展現出了接近手寫算子的計算性能,且性能還在持續調優,極大加速了開源大模型在摩爾線程全功能GPU上的部署速度。

智源研究院在今年的智源大會上推出了FlagGems算子庫,這是一個使用Triton編程語言實現的高性能通用算子庫,旨在為大語言模型提供一系列可應用于PyTorch框架的算子,加速模型的推理與訓練,降低新算法的開發門檻,促進芯片架構的創新。FlagGems算子庫以Triton編程語言的易用性和編譯器的標準接口為基礎,為多元芯片提供了一套易適配、高性能的算子解決方案,推動基于Triton的統一、開源的軟硬件生態建設。

在適配過程中,摩爾線程與智源研究院團隊緊密合作,共同克服了一系列技術挑戰,確保FlagGems算子庫在摩爾線程全功能GPU上的高效穩定運行。摩爾線程研發團隊經過充分調研論證,還形成了Triton編譯器在MUSA架構上適配的完整方案,力求實現開發者在基于摩爾線程全功能GPU進行Triton開發算子過程中,也能獲得與原來一致的體驗,做到CUDA框架和MUSA框架的無縫遷移。

此次合作不僅充分展示了摩爾線程全功能GPU強大的兼容性、靈活性與擴展性,也為開發者和用戶帶來了更廣泛的選擇和更高效的開發體驗。摩爾線程和智源研究院將繼續深化合作,共同促進AI技術的發展和應用,為中國大模型的發展貢獻力量。

關于智源研究院

北京智源人工智能研究院(簡稱:智源研究院)是北京市于2018年11月推動成立的新型研發機構。智源研究院的核心目標是聚焦人工智能原始創新和核心技術,推動人工智能理論、方法、工具、系統和應用取得變革性、顛覆性突破,支撐北京建設成為全球人工智能學術思想、基礎理論、頂尖人才、企業創新和發展政策的源頭。

關于摩爾線程

摩爾線程成立于2020年10月,以全功能GPU為核心,致力于向全球提供加速計算的基礎設施和一站式解決方案,為各行各業的數智化轉型提供強大的AI計算支持。

我們的目標是成為具備國際競爭力的GPU領軍企業,為融合人工智能和數字孿生的數智世界打造先進的加速計算平臺。我們的愿景是為美好世界加速。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 開源
    +關注

    關注

    3

    文章

    3678

    瀏覽量

    43813
  • 摩爾線程
    +關注

    關注

    2

    文章

    235

    瀏覽量

    5352
  • 大模型
    +關注

    關注

    2

    文章

    3138

    瀏覽量

    4059

原文標題:摩爾線程 × 智源研究院|完成基于Triton的大模型算子庫適配

文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    進迭時空同構融合RISC-V AI CPU的Triton算子編譯器實踐

    Pytorch已能做到100%替換CUDA,國內也有智研究院主導的FlagGems通用算子試圖構建起不依賴CUDA的AI計算生態,截至今日,FlagGems已進入Pyto
    的頭像 發表于 07-15 09:04 ?108次閱讀
    進迭時空同構融合RISC-V AI CPU的<b class='flag-5'>Triton</b><b class='flag-5'>算子</b>編譯器實踐

    摩爾線程MTT S4000完成DeepSeek R1-671B大模型適配驗證

    研究院(簡稱:中國信通)依托“人工智能芯片測試評估公共服務平臺”,構建了AI芯片與大模型協同適配的標準化體系,為產業鏈上下游深度合作提供關鍵支撐,并開展AI芯片與大
    的頭像 發表于 05-10 09:49 ?519次閱讀

    摩爾線程GPU成功適配Deepseek-V3-0324大模型

    架構和全功能GPU的強大技術實力,摩爾線程迅速響應并完成了對DeepSeek-V3的無縫升級,實現了零報錯、零兼容性問題的光速部署,充分展現了摩爾
    的頭像 發表于 03-31 11:34 ?599次閱讀
    <b class='flag-5'>摩爾</b><b class='flag-5'>線程</b>GPU成功<b class='flag-5'>適配</b>Deepseek-V3-0324大<b class='flag-5'>模型</b>

    安徽省水利科學研究院攜手中科曙光完成DeepSeek大模型部署

    近日,安徽省(水利部淮河水利委員會)水利科學研究院攜手中科曙光,成功完成國產大模型DeepSeek、BGE-M3嵌入模型及重排
    的頭像 發表于 03-25 11:36 ?535次閱讀

    摩爾線程完成DeepSeek開源FlashMLA和DeepGEMM適配

    自DeepSeek啟動“開源周”以來,已陸續開源三個代碼摩爾線程基于全新MUSA Compute Capability 3.1計算架構,可提供原生FP8計算能力,同時升級了高性能線性代數模板
    的頭像 發表于 02-27 14:40 ?555次閱讀

    浪潮信息與智研究院攜手共建大模型多元算力生態

    人工智能技術的快速發展。浪潮信息與智研究院將充分整合各自在算力、算法和技術創新方面的優勢資源,共同探索大模型多元算力的新應用和新模式。 目前,智
    的頭像 發表于 12-31 11:49 ?600次閱讀

    安謀科技與智研究院攜手共建開源AI“芯”生態

    近日,安謀科技(中國)有限公司與北京智人工智能研究院正式簽署了一項具有里程碑意義的戰略合作協議。此次合作旨在面向多元AI芯片領域,共同推動算子優化與
    的頭像 發表于 12-31 11:33 ?623次閱讀

    安謀科技與智研究院達成戰略合作,共建開源AI“芯”生態

    12月25日,安謀科技(中國)有限公司(以下簡稱“安謀科技”)與北京智人工智能研究院(以下簡稱“智研究院”)正式簽署戰略合作協議,雙方將面向多元AI芯片領域開展
    發表于 12-26 17:06 ?414次閱讀
    安謀科技與智<b class='flag-5'>源</b><b class='flag-5'>研究院</b>達成戰略合作,共建開源AI“芯”生態

    浪潮信息與智研究院達成戰略合作協議

    近日,浪潮信息與智研究院達成戰略合作協議,雙方將緊密協作共建大模型多元算力開源創新生態,提升大模型創新研發的算力效率,降低大模型應用開發的
    的頭像 發表于 12-26 10:25 ?577次閱讀

    摩爾線程開源高性能線性代數模板MUTLASS

    近日,摩爾線程宣布開源高性能線性代數模板MUTLASS,以便開發者能夠更高效針對摩爾線程全功能GPU的MUSA Core及Tensor C
    的頭像 發表于 11-13 11:53 ?777次閱讀

    摩爾線程完成股改,籌備上市

    近日,摩爾線程智能科技(北京)股份有限公司(簡稱“摩爾線程”)宣布已完成股改,并正積極籌備上市。據國家企業信用信息公示系統最新查詢結果顯示,
    的頭像 發表于 11-12 14:15 ?1168次閱讀

    摩爾線程GPU與超圖軟件大模型適配:共筑國產地理空間AI新生態

    10月24日,摩爾線程公司宣布與超圖軟件達成重要合作里程碑。經過雙方的嚴格測試,摩爾線程的MTT S/X系列全功能GPU已成功與超圖軟件最新發布的大
    的頭像 發表于 10-24 11:29 ?1417次閱讀

    摩爾線程與超圖軟件完成產品兼容認證

    10月24日,摩爾線程官方正式對外宣布,其MTT S/X系列全功能GPU已成功與超圖軟件最新發布的大模型系列產品完成產品兼容認證。這一消息的發布標志著雙方在GPU與軟件
    的頭像 發表于 10-24 10:25 ?974次閱讀

    摩爾線程與羽人科技完成大語言模型訓練測試

    近日,摩爾線程與羽人科技攜手宣布,雙方已成功實現夸娥(KUAE)千卡智算集群與羽人系列模型解決方案的訓練兼容適配。在本次測試中,羽人科技通過
    的頭像 發表于 08-27 16:19 ?821次閱讀

    摩爾線程攜手東華軟件完成AI大模型推理測試與適配

    近日,摩爾線程與東華軟件云筑AI創新中心宣布,雙方已完成模型推理測試與適配。依托摩爾
    的頭像 發表于 07-31 10:51 ?1948次閱讀