女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

沐曦彭莉談后GPT時代的算力需求

沐曦MetaX ? 來源:沐曦MetaX ? 2023-08-22 10:26 ? 次閱讀

近日,2023中國算力大會在寧夏銀川舉行,沐曦集成電路(上海)有限公司(下稱“沐曦”)聯合創始人、CTO兼首席硬件架構師彭莉受邀出席由中國信息通信研究院、中國互聯網協會聯合舉辦的智能計算論壇,并擔任演講嘉賓,探討后GPT時代算力需求激增帶來的挑戰以及GPU如何突破算力供需瓶頸、推動人工智能產業普惠化發展。

在題為“后GPT時代的算力需求”的演講中,彭莉預測大模型商業模式將分為通用計算市場和專用定制化市場兩大類:在通用計算市場,大語言模型將終結多數NLP任務,NLP技術水平被強行拉平,通用大模型或被大廠“壟斷”;而在專用定制化市場,開源大模型將呈現百花齊放的發展態勢,可針對私有數據、敏感數據進行快速定制和領域對齊,大模型開發和部署能力將趨于普及化。

彭莉指出,區別于傳統AI,生成式AI技術可以借助接入類ChatGPT應用發揮顯著的技術優勢,為大語言模型的開發降本增效,同時也對算力提出更高和更迫切的要求。由于大模型訓練的一次性成本被大規模推理攤薄,大模型盈利的一大難點是降低推理成本。沐曦致力于打造高效通用的GPU芯片及軟硬件一體的生態解決方案,通過GPU軟件生態優勢、硬件架構優勢、先進封裝等方面全面提升GPU算力,降低大模型訓練和推理的算力成本,在產品路線和生態戰略上均可滿足大模型對算力基礎設施的大規模需求,為推進智能產業可持續發展打造堅實的算力底座。

關于沐曦

沐曦致力于為異構計算提供安全可靠的GPU芯片及解決方案,打造全棧GPU芯片產品,推出曦思N系列GPU用于AI推理,曦云C系列GPU用于千億參數AI大模型訓練及通用計算,以及曦彩G系列GPU用于圖形渲染,滿足數據中心對“高能效”及“高通用性”的算力需求。沐曦產品均采用完全自主研發的GPU IP,擁有完全自主的指令集和架構,配以兼容主流GPU生態的完整軟件棧(MXMACA),具備高能效和高通用性的天然優勢,能夠為客戶構建軟硬件一體的全面生態解決方案,是“雙碳”背景下推動數據中心建設和產業數字化、智能化轉

審核編輯:湯梓紅
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 集成電路
    +關注

    關注

    5417

    文章

    11942

    瀏覽量

    366965
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4908

    瀏覽量

    130619
  • 智能計算
    +關注

    關注

    0

    文章

    190

    瀏覽量

    16673
  • 沐曦
    +關注

    關注

    0

    文章

    32

    瀏覽量

    1363

原文標題:沐曦彭莉:后GPT時代GPU如何降低算力門檻

文章出處:【微信號:沐曦MetaX,微信公眾號:沐曦MetaX】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    芯片、模型生態分散,無問芯穹、、壁仞國產瓶頸破局之道

    ? 電子發燒友網報道(文/李彎彎)近日,2024世界人工智能大會正在舉行,無問芯穹聯合創始人兼CEO夏立雪在大會論壇上談到一個現象,從GPT-3到GPT-4,無論是還是大模型能力都
    的頭像 發表于 07-07 11:14 ?5302次閱讀
    芯片、模型生態分散,無問芯穹、<b class='flag-5'>沐</b><b class='flag-5'>曦</b>、壁仞<b class='flag-5'>談</b>國產<b class='flag-5'>算</b><b class='flag-5'>力</b>瓶頸破局之道

    PaddleScience完成與AI芯片適配

    當前,PaddleScience已與展開深度合作,涵蓋智能仿真、高性能計算、科學建模等多個方向。這一趨勢正加速形成面向"Al for Science"的國產智生態新格局。
    的頭像 發表于 05-06 14:49 ?292次閱讀

    芯片的生態突圍與革命

    據的爆發式增長,大芯片已成為科技競爭的核心領域之一。 ? 大芯片的核心應用場景豐富多樣。在人工智能訓練與推理方面,大模型(如 GPT
    的頭像 發表于 04-13 00:02 ?1459次閱讀

    云C500通用計算GPU與百度飛槳完成Ⅱ級兼容性測試

    近日,云C500通用計算GPU與百度飛槳已完成Ⅱ級兼容性測試。測試結果顯示,雙方兼容性表現良好,整體運行穩定。這是加入飛槳“硬件生
    的頭像 發表于 03-31 14:22 ?593次閱讀

    DeepSeek推動AI需求:800G光模塊的關鍵作用

    隨著人工智能技術的飛速發展,AI需求正以前所未有的速度增長。DeepSeek等大模型的訓練與推理任務對
    發表于 03-25 12:00

    加速DeepSeek滿血版單卡C500異構推理

    近日,基于開源KTransformers架構的 CPU/GPU 異構推理能力,云C500單卡GPU上成功實現DeepSeek-R1-671B滿血版單并發解碼吞吐16.5 tokens/s的優異成績,相比社區官方數據提升2
    的頭像 發表于 03-20 15:52 ?864次閱讀

    Gitee AI 聯合首發全套 DeepSeek R1 千問蒸餾模型,全免費體驗!

    模型相比,較小尺寸的 DeepSeek 蒸餾版本模型 更適合企業內部實施部署,可以極大的降低落地成本 。 同時,這次 Deepseek R1 模型 + 云 GPU + Gitee AI 平臺 ,更是實現了從芯片到平臺,從
    的頭像 發表于 02-10 09:56 ?561次閱讀
    Gitee AI 聯合<b class='flag-5'>沐</b><b class='flag-5'>曦</b>首發全套 DeepSeek R1 千問蒸餾模型,全免費體驗!

    AI:智能時代的核心驅動力

    引言在當今數字化時代的重要性不言而喻。12月28日,央視和國務院國資委聯合制作的紀錄片《大國基石》第三期《引擎》中所強調的“
    的頭像 發表于 01-22 12:58 ?565次閱讀
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b>:智能<b class='flag-5'>時代</b>的核心驅動力

    澎峰科技與完成聯合測試,實現全面兼容

    近日,澎峰科技與科技宣布,雙方已完成對PerfXLM推理引擎、PerfXCloud大模型服務平臺與云系列通用計算GPU的聯合測試。
    的頭像 發表于 01-21 15:20 ?550次閱讀

    澎峰科技計算軟件棧與GPU完成適配和互認證

    ?近期,澎峰科技與完成了對PerfXLM(推理引擎)、PerfXCloud(大模型服務平臺)與云系列通用計算GPU的聯合測試,測
    的頭像 發表于 01-21 09:51 ?517次閱讀

    國產智集群黑馬!源一號SADA集群綜合評測表現優異

    近日,加佳科技源一號SADA集群項目一期順利通過工信部中國軟件評測中心權威評測認證。本次測試涵蓋了項目一期已上線的1024張高性能
    的頭像 發表于 12-25 11:16 ?729次閱讀
    國產智<b class='flag-5'>算</b>集群黑馬!<b class='flag-5'>曦</b>源一號SADA<b class='flag-5'>算</b><b class='flag-5'>力</b>集群綜合評測表現優異

    AI時代的重要性及現狀:平衡發展與優化配置的挑戰

    在AI時代扮演著至關重要的角色。如果說數據是AI大模型的“燃料”,那么則是其強大的“動力引擎”。據資料顯示,為了訓練
    的頭像 發表于 11-04 11:45 ?989次閱讀

    淺析三大之異同

    隨著一年多前ChatGPT的出現引爆人工智能(AI)浪潮,支撐大模型背后的“”概念突然闖進我們的視野,成為科技圈炙手可熱的新詞,引領著最新潮流。作為數字經濟時代新生產,也許不少人
    的頭像 發表于 08-30 12:56 ?1867次閱讀
    淺析三大<b class='flag-5'>算</b><b class='flag-5'>力</b>之異同

    大模型時代需求

    現在AI已進入大模型時代,各企業都爭相部署大模型,但如何保證大模型的,以及相關的穩定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發表于 08-20 09:04