女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

超越CPU/GPU:NPU如何讓AI“輕裝上陣”?

Carol Li ? 來源:電子發燒友 ? 作者:李彎彎 ? 2025-04-18 00:05 ? 次閱讀

電子發燒友網報道(文/李彎彎)NPU是一種專門為人工智能AI)計算設計的處理器,主要用于高效執行神經網絡相關的運算(如矩陣乘法、卷積、激活函數等)。相較于傳統CPU/GPU,NPU在能效比和計算速度上更具優勢,尤其適合移動設備、邊緣計算和嵌入式AI場景。

NPU有幾大核心特點:其一是專用架構,針對神經網絡計算優化,支持并行處理大量矩陣運算(如INT8/FP16低精度計算),典型操作包括卷積、池化、注意力機制(Transformer)等;其二是高能效比,相比GPU,NPU的功耗更低,適合手機IoT設備等對續航要求高的場景;其三是低延遲,專為AI推理(Inference)和訓練(Training)優化,減少數據搬運開銷;其四是異構計算,常與CPU、GPU、DSP等協同工作(如手機SoC中的“AI引擎”)。

NPU廣泛應用于各類AI驅動的設備與系統,典型場景包括:智能手機,實現實時圖像增強(如華為麒麟芯片的AI拍照)、語音助手、AR/VR交互等;可穿戴設備,支持低功耗的本地化AI計算(如智能手表的健康監測)。

自動駕駛,處理傳感器數據,實現實時物體檢測、路徑規劃和決策(如特斯拉FSD芯片)。典算力需求方面,L4級自動駕駛車輛NPU算力超1000 TOPS。

邊緣計算,如智能攝像頭,人臉識別、異常行為檢測。物聯網設備,本地化語音助手(如智能音箱的喚醒詞識別)。

數據中心,加速AI模型訓練和推理,典型應用如谷歌TPU(張量處理單元)。工業質檢,推理時延壓縮至20ms內,部署量年增120%。

典型NPU芯片有,如在移動端有華為麒麟芯片(達芬奇NPU),用于手機AI拍照、語音識別等;高通Hexagon DSP+NPU(驍龍平臺),支持AI降噪、影像增強;蘋果神經網絡引擎(A/M系列芯片),Face ID、Siri等功能的底層支持。

在邊緣計算和自動駕駛側有特斯拉FSD芯片,內置NPU處理自動駕駛視覺模型;地平線征程芯片(BPU架構),用于智能駕駛感知計算。

在云端,有寒武紀MLU系列,云端AI訓練/推理加速;英偉達Grace Hopper(集成NPU模塊),大模型推理。

NPU的關鍵技術包括量化壓縮,支持INT4/INT8低精度計算,提升能效;稀疏計算,跳過零值計算,加速稀疏模型(如Pruning后的網絡);編譯器優化,專用工具鏈(如華為Ascend CANN、高通AI Engine)將框架(TensorFlow/PyTorch)模型轉換為NPU指令。

從趨勢上來看,NPU有幾個明顯的發展方向:光電融合計算,結合光子學技術,進一步提升算力和能效;神經形態芯片,模仿生物神經元結構,實現更低功耗的AI計算;Chiplet技術,通過多NPU互聯提升算力(如Cerebras的Wafer級芯片)。

總的來看,NPU作為AI計算的核心硬件,正深刻改變著人工智能技術的落地方式。其高并行性、低功耗和硬件加速能力,使其成為移動設備、自動駕駛、邊緣計算等領域的首選解決方案。隨著技術演進和市場需求的爆發,NPU將在未來AI生態中扮演更加重要的角色。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4909

    瀏覽量

    130632
  • AI
    AI
    +關注

    關注

    87

    文章

    34146

    瀏覽量

    275283
  • NPU
    NPU
    +關注

    關注

    2

    文章

    319

    瀏覽量

    19487
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    CPU\GPU引領,國產AI PC進階

    電子發燒友網報道(文/黃晶晶)當前AI PC已經成為PC產業的下一個浪潮,國產CPUGPU廠商在PC市場一直處于追趕態勢,AI PC給了大家新的機遇,在這個賽道國產廠商加速了布局與滲
    的頭像 發表于 09-01 02:15 ?5547次閱讀
    <b class='flag-5'>CPU</b>\<b class='flag-5'>GPU</b>引領,國產<b class='flag-5'>AI</b> PC進階

    iTOP-3588S開發板四核心架構GPU內置GPU可以完全兼容0penGLES1.1、2.0和3.2。

    ,8GB內存,32GBEMMC。 四核心架構GPU內置GPU可以完全兼容0penGLES1.1、2.0和3.2。 內置NPU RK3588S內置NPU,支持INT4/INT8/INT1
    發表于 05-15 10:36

    RK3588性能設置 CPU GPU DDR NPU 頻率設置

    RK3588 CPU GPU DDR定頻策略
    的頭像 發表于 02-15 16:09 ?1683次閱讀

    【新品發布】國產實力破局!算力 “卷王” HZHY-AI210G,體積小巧,智能無人設備輕裝上陣

    ★在AI大模型重塑生活的當下,科技浪潮正以破竹之勢席卷而來。其中,無人機與機器人技術作為耀眼的“弄潮兒”,已然從科幻作品的想象走進現實生活,廣泛應用于安防、農業、環境監測、物流配送等領域。然而,傳統
    的頭像 發表于 02-14 18:29 ?473次閱讀
    【新品發布】國產實力破局!算力 “卷王” HZHY-<b class='flag-5'>AI</b>210G,體積小巧,<b class='flag-5'>讓</b>智能無人設備<b class='flag-5'>輕裝上陣</b>

    2024年GPU出貨量增長顯著,超越CPU

    6%的同比增長,總量超過2.51億顆,這一數據不僅彰顯了GPU市場的繁榮,也反映了當前市場對于圖形處理能力的巨大需求。 尤為值得一提的是,與同樣作為計算機核心部件的CPU相比,GPU在2024年的出貨量上占據了明顯優勢。據JPR
    的頭像 發表于 01-17 14:12 ?432次閱讀

    聞泰科技新戰略、新發展:輕裝上陣,聚焦半導體賽道

    2024年12月30日晚間,電子科技領域一則消息引發市場廣泛關注:聞泰科技擬將公司及控股子公司擁有的部分與產品集成業務相關的標的公司股權和標的經營資產轉讓給立訊有限或其指定方。 聞泰科技在半導體與產品集成兩大業務板塊深耕,憑借為全球客戶提供半導體功率器件、模擬芯片的全流程產品與服務,以及手機、平板等多品類終端產品研發制造,成為行業內不可忽視的力量,尤其在半導體領域,更是聲名遠揚。而立訊,以“果鏈一哥”聞名遐邇,
    發表于 01-03 11:38 ?408次閱讀

    NPU的工作原理解析

    神經網絡的計算流程,顯著提高了處理速度和能效。NPU通常集成在SoC(System on Chip)中,與CPUGPU協同工作,共同完成復雜的計算任務。 NPU的架構
    的頭像 發表于 11-15 09:17 ?2449次閱讀

    NPU技術如何提升AI性能

    設計的處理器,與傳統的CPUGPU相比,它在執行深度學習任務時具有更高的效率和更低的能耗。NPU通過專門優化的硬件結構和指令集,能夠更快地處理神經網絡中的大量并行計算任務。 1. 優化硬件架構
    的頭像 發表于 11-15 09:11 ?1278次閱讀

    什么是NPU芯片及其功能

    的設計靈感來源于人腦的神經網絡結構。人腦通過神經元和突觸的復雜網絡處理信息,而NPU芯片則通過模擬這種結構來提高數據處理的效率。與傳統的CPUGPU相比,NPU芯片在處理深度學習任務
    的頭像 發表于 11-14 15:48 ?4643次閱讀

    NPUGPU的性能對比

    它們在不同應用場景下的表現。 一、設計初衷與優化方向 NPU : 專為加速AI任務而設計,包括深度學習和推理。 針對神經網絡的計算模式進行了優化,能夠高效地執行矩陣乘法、卷積等操作。 擁有眾多小型處理單元,配備專門的內存體系結構和數據流優化策略,對深度學習任務的處理特別高
    的頭像 發表于 11-14 15:19 ?3749次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    GPUNPU,給我們剖析了算力芯片的微架構。書中有對芯片方案商處理器的講解,理論聯系實際,使讀者能更好理解算力芯片。 全書共11章,由淺入深,較系統全面進行講解。下面目錄對全書內容有一個整體了解
    發表于 10-15 22:08

    什么是NPU?什么場景需要配置NPU

    在人工智能(AI)技術如火如荼的今天,NPU神經處理單元(Neural Processing Unit)作為一種新興的硬件加速器,正在成為ARM主板配置中的新寵。與傳統的CPUGPU
    的頭像 發表于 10-11 10:13 ?5554次閱讀
    什么是<b class='flag-5'>NPU</b>?什么場景需要配置<b class='flag-5'>NPU</b>?

    KMPHM振動在線監測助力企業輕裝上陣#振動在線監測 #在線監測 #振動監測

    在線監測
    KM預測性維護專家
    發布于 :2024年09月29日 15:17:03

    名單公布!【書籍評測活動NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構分析

    和像素統一的G80到現在重金難求的H100;AMD的Zen系列CPU和RDNA系列GPU兩線作戰;中國的高性能計算芯片逐步獲得更多TOP500排名;華為Ascend 910 NPU芯片也成為A
    發表于 09-02 10:09

    輕裝上陣 小而不凡,道通智能發布EVO Lite行業系列無人機

    EVO Lite 640T 行業版、EVO Lite 6K 行業版均采用 Autel SkyLink 圖傳技術,圖傳畫面傳輸距離達12公里,并支持2.4GHz、5.8GHz自適應跳頻傳輸,根據電磁干擾情況自動選擇更優信道,圖傳抗干擾能力不斷提升。
    的頭像 發表于 08-06 17:43 ?772次閱讀
    <b class='flag-5'>輕裝上陣</b> 小而不凡,道通智能發布EVO Lite行業系列無人機