阿里MNN支持華為NPU，優化MNN的性能和精度問題
今天上午據軟件綠色聯盟消息，阿里MNN已經接入華為 HiAI生態，正式支持華為NPU。
據了解，阿里MNN為Mobile Neural Network，是阿里巴巴淘系技術部開源的端側推理引擎，目前已覆蓋淘寶、天貓、優酷和UC等20多個手機應用，每天穩定運行超過500億次，已經接受了兩屆“雙11”的考驗。
官方表示，當App功能日益強大時，性能和精度的矛盾就逾顯尖銳；官方表示利用HiAI Foundation芯片能力開放，阿里MNN快速轉化和遷移已有模型，并借助異構調度和NPU加速，大幅提升應用算力和能效比，可以優化MNN的性能和精度問題。比如會加快以圖搜圖的搜索速度，耗電方面也會降低；此外，掃商家Logo也是運用了此功能。
責任編輯：gt
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
華為
+關注
關注
216文章
35036瀏覽量
255098 -
阿里
+關注
關注
6文章
453瀏覽量
33223
發布評論請先 登錄
相關推薦
熱點推薦
超越CPU/GPU：NPU如何讓AI“輕裝上陣”？
和計算速度上更具優勢，尤其適合移動設備、邊緣計算和嵌入式AI場景。 ? NPU有幾大核心特點：其一是專用架構，針對神經網絡計算優化，支持并行處理大量矩陣運算（如INT8/FP16低精度
Arm與阿里巴巴合作加速端側多模態AI體驗
Arm 控股有限公司（納斯達克股票代碼：ARM，以下簡稱“Arm”）近日發布與阿里巴巴淘天集團輕量級深度學習框架 MNN 的又一新合作。
MPLS網絡性能優化技巧
MPLS（多協議標簽交換）網絡性能優化是一個復雜的過程，涉及多個方面的技術和策略。以下是一些關鍵的MPLS網絡性能優化技巧： 一、確保網絡設備支持
軟硬協同優化，安謀科技新一代“周易”NPU實現DeepSeek-R1端側高效部署
優化的架構設計，其beta版本在2024年底已面向早期用戶開放評估測試，并獲得了廣泛認可與積極反饋。 預計今年上半年，這款備受期待的 NPU 產品將正式亮相市場，屆時將為更多用戶帶來突破性的端側算力體驗。 DeepSeek自發布以來，憑借其出色的
發表于 02-14 10:52
?167次閱讀
NPU支持的編程語言有哪些
NPU（Neural Processing Unit）是一種專門為深度學習和人工智能應用設計的處理器。NPU支持的編程語言通常與它所集成的平臺或框架緊密相關。以下是一些常見的編程語言和框架，它們可以
NPU的工作原理解析
隨著人工智能技術的快速發展，深度學習算法在各個領域得到了廣泛應用。為了滿足日益增長的計算需求，NPU應運而生。 NPU的基本概念 NPU是一種專用硬件加速器，專門為深度學習算法設計。它通過優化
如何選擇合適的NPU型號
、智能家居等）來選擇NPU。不同場景對NPU的性能、功耗、靈活性等要求不同。 性能需求 ： 確定您需要的計算性能，包括TOPS（每秒萬億次浮
NPU在邊緣計算中的優勢
和GPU相比，NPU在處理神經網絡相關的計算任務時，能夠提供更高的能效比和更快的處理速度。NPU通過優化數據流和計算結構，使得神經網絡的前向傳播和反向傳播更加高效。 NPU在邊緣計算中
NPU技術如何提升AI性能
隨著人工智能技術的飛速發展，深度學習作為AI領域的核心驅動力，對計算能力的需求日益增長。NPU技術應運而生，為AI性能的提升提供了強大的硬件支持。 NPU技術概述
NPU與GPU的性能對比
NPU（Neural Processing Unit，神經網絡處理單元）與GPU（Graphics Processing Unit，圖形處理單元）在性能上各有千秋，它們各自的設計初衷和優化方向決定了
NPU在深度學習中的應用
設計的硬件加速器，它在深度學習中的應用日益廣泛。 1. NPU的基本概念 NPU是一種專門針對深度學習算法優化的處理器，它與傳統的CPU和GPU有所不同。NPU通常具有高度并行的處理能
NXP推出集成NPU的MCU，支持AI邊緣設備！MCU實現AI功能的多種方式
旨在顯著節省功耗，可在邊緣端提供高達172倍的AI加速。 ? MCU 集成NPU 支持AI 功能 ? 恩智浦推出的這款i.MX RT700內部集成了恩智浦自研的eIQ Neutron NPU，這是一種
名單公布！【書籍評測活動NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構分析
和像素統一的G80到現在重金難求的H100；AMD的Zen系列CPU和RDNA系列GPU兩線作戰；中國的高性能計算芯片逐步獲得更多TOP500排名；華為Ascend 910 NPU芯片也成為AI時代
發表于 09-02 10:09
基于RK3588的NPU案例分享！6T是真的強！
設計能夠實現高效的神經網絡推理計算。這使得RK3588在圖像識別、語音識別、自然語言處理等人工智能領域有著極高的性能表現。此外，RK3588的NPU還支持多種學習框架，包括TensorFlow
發表于 07-17 10:55
芯品# 物聯網市場性能最高的 NPU
提高數據隱私和安全性。 Arm 的 Ethos NPU 如何增強邊緣和端點的 AI 性能？ 多年來，Arm 一直在開發邊緣 AI 加速器，以支持對邊緣和端點推理工作負載日益增長的需求。通過 Arm 的 Ethos-U55 和 E
工商網監
評論