女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI芯片全面發展!從訓練到推理、從云端到邊緣、從GPU到ASIC

Carol Li ? 來源:電子發燒友原創 ? 作者:李彎彎 ? 2021-11-13 09:24 ? 次閱讀
電子發燒友網報道(文/李彎彎)在過去接近10年時間里,AI產業經歷了幾個重要節點,2012年深度學習的研究突破,給AI產業帶來新的起點,2016年Alphago打敗李世石,正式引爆市場,一時間涌現出大量AI創業企業,資本也大量投進這個賽道。

在短時間火熱之后,湊熱鬧的人逐漸退出,AI產業繼續穩步向前發展,最近幾年AI技術快速發展,應用場景不斷浮現,AI產業也進入到爆發式增長階段,巨大的市場潛力逐漸顯現出來。據艾媒咨詢數據顯示,2020年中國AI芯片市場規模達183.8億元,預計2023年將突破千億級別。

同時AI芯片也逐漸呈現出多元化趨勢,主要體現在幾個方面:一是早期AI芯片更多集中在訓練上,如今除了AI訓練芯片持續增長,AI推理芯片的市場規模也在快速擴大,預計將超過訓練芯片;二是AI芯片過去主要部署在云端,如今已經向邊緣端/終端方向發展;第三,AI芯片有各種類型,其中多數是GPU,不過很明顯,ASICFPGA等非GPU芯片市場規模也在逐步提升。

AI推理芯片市場規模逐步擴大

AI芯片可分為訓練和推理兩個環節,訓練環節通常需要通過大量的數據輸入,或采取增強學習等非監督學習方法,訓練出一個復雜的深度神經網絡模型。推理環節指利用訓練好的模型,使用新的數據去推理出各種結論,比如,視頻監控設備通過后臺的深度神經網絡模型,判斷一張抓拍到的人臉是否屬于黑名單。

也因此通常也會有AI訓練芯片和AI推理芯片,另外還會根據是部署在云端數據中心、邊緣端、還是終端,更細化的分為云端AI訓練、云端AI推理、邊緣/終端AI推理芯片。

因為AI訓練需要大量的數據,基本被部署在云端,過去幾年地方政府加快建設公有云、私有云、數據中心,也因此AI訓練芯片市場大增,在2018年的時候中國云端AI訓練芯片市場份額達到51.3%,中國AI芯片市場規模也以云端訓練芯片為主。

不過隨著大規模地方性數據中心建設陸續完成,云端訓練芯片增長速度逐步放緩,而隨著各領域市場需求的釋放,云端推理芯片、終端推理芯片市場增長速度呈現上升趨勢,根據IDC研究發現,2020年中國數據中心用于推理的芯片的市場份額已經超過50%,預計到2025年,用于推理的工作負載的芯片將達到60.8%。

邊緣AI芯片市場規模將超過云端芯片

同時AI芯片正在從云端向邊緣端發展,IDC&浪潮日前發布的《2021-2022中國人工智能計算力發展評估報告》顯示,在新技術的驅動下,5G 等連接技術降低了數據的傳輸和處理速度,為了分擔數據中心的計算壓力并且也能提高實時響應速度,人工智能在邊緣側的處理將成為企業的一個關鍵增長領域。

人工智能在邊緣以及端側將有廣泛的應用場景,從自動駕駛到工業制造,再到消費者智能家居和可穿戴設備。據市場咨詢公司ABI Research的數據顯示,預計到2025年,邊緣AI芯片市場的收入將達到122億美元,云AI芯片市場的收入將達到119億美元,邊緣AI芯片市場將超過云AI芯片組市場。


GPU芯片占比增加,將超過20%

目前AI芯片有3種主流技術路線,分別是GPU、ASIC以及FPGA。其中GPU芯片被認為更適合用于承擔訓練負載,有分析人士指出,目前GPU已經發展到較為成熟的階段。根據IDC數據,2021年上半年AI芯片中,GPU依然是實現數據中心加速的首選,占有90%以上市場份額。

英偉達是GPU領域的絕對龍頭,占據了絕大部分市場份額,近幾年國內也有多家GPU廠商逐漸成長起來,將其用于AI訓練和推理,包括天數智芯、摩爾線程、沐曦集成、壁仞科技、登臨科技等。

雖然目前GPU仍然占據主要的市場份額,不過ASIC、FPGA等其他非GPU芯片在各個領域越來越多的被使用,整體市場份額接近10%,預計到2025年其占比將超過20%,主要原因:一是越來越多的AI初創企業成長起來,它們很多采用ASIC芯片進行訓練和推理;二是GPU較多的被用于云端訓練,而隨著云端、邊緣推理芯片市場規模逐漸擴大,FPGA和ASIC芯片的價值更容易得到體現。

小結

整體而言,經過多年的發展,AI芯片市場規模正在快速增長,同時AI芯片也逐漸走向更加多元化,從功能上來看,逐漸從云端AI訓練拓展到云端和邊緣端推理,從芯片類型來看,GPU芯片仍然占據重要位置,而FPGA和ASIC等芯片的價值也得到更多體現。

我們也明顯看到,不少AI芯片企業開始全面推出產品,或者包括云端訓練和推理,或者同時進行云端和邊緣端芯片產品布局,比如寒武紀推出同時支持訓練和推理的芯片,燧原在推出云端訓練芯片之后,也推出了云端推理芯片,鯤云科技基于CAISA芯片的產品可應用于云端和邊緣端推理。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • asic
    +關注

    關注

    34

    文章

    1243

    瀏覽量

    121991
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4912

    瀏覽量

    130662
  • AI
    AI
    +關注

    關注

    87

    文章

    34256

    瀏覽量

    275414
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    DeepSeek:入門精通

    電子發燒友網站提供《DeepSeek:入門精通.pdf》資料免費下載
    發表于 05-28 14:12 ?0次下載

    云端終端:RAKsmart服務器構筑AI云平臺智慧城市全棧解決方案

    傳統服務器方案常面臨算力分散、運維復雜、能效比低等問題,導致AI算法難以高效落地。而RAKsmart服務器憑借其技術創新與全棧服務能力,正在為AI云平臺智慧城市提供云端算力
    的頭像 發表于 05-09 09:47 ?123次閱讀

    陣列云訓練到推理

    在云場景下,陣列云(分布式計算集群)模型訓練到推理的完整技術流程可結構化分解如下: 一、訓練階段技術實現 1,資源動態編排? 基于Kubernetes集群或云廠商彈性計算服務(如AW
    的頭像 發表于 03-28 08:32 ?262次閱讀

    邊緣計算 云端計算

    處理數據,需通過互聯網傳輸原始數據?。 延遲與實時性? 邊緣計算?:毫秒級響應,適用于自動駕駛、工業控制等實時場景?。 云端計算?:因網絡傳輸和集中處理,延遲較高(通常秒級),適合非實時任務(如數據分析、模型訓練)?。
    的頭像 發表于 03-27 08:30 ?294次閱讀
    <b class='flag-5'>從</b><b class='flag-5'>邊緣</b>計算 <b class='flag-5'>到</b><b class='flag-5'>云端</b>計算

    DeepSeek入門精通

    電子發燒友網站提供《DeepSeek入門精通.pdf》資料免費下載
    發表于 03-04 15:43 ?59次下載

    AI推理帶火的ASIC,開發成敗在此一舉!

    的應用性價比遠超GPU,加上博通財報AI業務同比大增220%,掀起了AI推理端的ASIC熱潮。 ? 那么
    的頭像 發表于 03-03 00:13 ?2966次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>帶火的<b class='flag-5'>ASIC</b>,開發成敗在此一舉!

    圖形處理到AI加速,一文看懂Imagination D系列GPU

    Imagination的D系列于2022年首次發布,見證了生成式AI云端智能手機等消費設備中普及。在云端,由于
    的頭像 發表于 02-27 08:33 ?385次閱讀
    <b class='flag-5'>從</b>圖形處理到<b class='flag-5'>AI</b>加速,一文看懂Imagination D系列<b class='flag-5'>GPU</b>

    CPUGPU:渲染技術的演進和趨勢

    渲染技術是計算機圖形學的核心內容之一,它是將三維場景轉換為二維圖像的過程。渲染技術一直在不斷演進,最初的CPU渲染后來的GPU渲染,性能和質量都有了顯著提升。一、CPU
    的頭像 發表于 02-21 11:11 ?615次閱讀
    <b class='flag-5'>從</b>CPU<b class='flag-5'>到</b><b class='flag-5'>GPU</b>:渲染技術的演進和趨勢

    DeepSeek:入門精通

    DeepSeek:入門精通
    發表于 02-08 18:00 ?121次下載

    數據智能:邊緣AI發展進入新階段,方案部署面臨怎樣的挑戰?

    回顧2024年AI產業的發展AI大模型依然在高歌猛進,不過將AI工作負載云端卸載到終端的趨勢
    的頭像 發表于 01-15 00:13 ?2424次閱讀
    <b class='flag-5'>從</b>數據<b class='flag-5'>到</b>智能:<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b><b class='flag-5'>發展</b>進入新階段,方案部署面臨怎樣的挑戰?

    科技云報到:大模型云端,“AI+云計算”還能講出什么新故事

    科技云報到:大模型云端,“AI+云計算”還能講出什么新故事
    的頭像 發表于 01-07 13:27 ?330次閱讀

    《算力芯片 高性能 CPUGPUNPU 微架構分析》第3篇閱讀心得:GPU革命:圖形引擎AI加速器的蛻變

    在數據挖掘工作中,我經常需要處理海量數據的深度學習任務,這讓我對GPU架構和張量運算充滿好奇。閱讀《算力芯片》第7-9章,讓我對這些關鍵技術有了全新認識。 GPU架構從早期的固定功能流水線,
    發表于 11-24 17:12

    AI云端計算資源有哪些類型

    AI云端計算資源涵蓋了基礎設施軟件服務的多個層面,為AI模型的訓練
    的頭像 發表于 11-15 09:39 ?476次閱讀

    FPGA和ASIC在大模型推理加速中的應用

    隨著現在AI的快速發展,使用FPGA和ASIC進行推理加速的研究也越來越多,目前的市場來說,有些公司已經有了專門做
    的頭像 發表于 10-29 14:12 ?1803次閱讀
    FPGA和<b class='flag-5'>ASIC</b>在大模型<b class='flag-5'>推理</b>加速中的應用

    大功率電源EMC測試整改:設計測試的全面優化

    深圳南柯電子|大功率電源EMC測試整改:設計測試的全面優化
    的頭像 發表于 10-23 14:19 ?795次閱讀
    大功率電源EMC測試整改:<b class='flag-5'>從</b>設計<b class='flag-5'>到</b>測試的<b class='flag-5'>全面</b>優化