AI人工智能產(chǎn)業(yè)又一重磅合作！百度飛槳（PaddlePaddle）深度學(xué)習(xí)平臺攜手IC設(shè)計領(lǐng)導(dǎo)廠商MediaTek，完成Paddle Lite輕量化推理引擎與MediaTek的NeuroPilot人工智能通用軟件平臺適配。如此一來，所有MediaTek的人工智能芯片APU (Artificial intelligence Processing Unit ) 都能夠使用Paddle Lite快速部署。透過推進智能技術(shù)與產(chǎn)品的進步，雙方有著共同的目標(biāo)，即加速AI科技的普及與進步，讓AI技術(shù)更好的為所有用戶服務(wù)，并實現(xiàn)產(chǎn)業(yè)落地。

MediaTek芯片目前在智能音箱/智能帶屏音箱領(lǐng)域市場占有率過半，與百度共同合作開發(fā)的智能音箱產(chǎn)品小度在家系列，AI識別技術(shù)獲得市場好評，銷量持續(xù)位居前茅。百度在AI技術(shù)及生態(tài)圈加大了布局， MediaTek 深耕邊緣 AI 技術(shù)平臺，雙方以智能屏音箱小度在家產(chǎn)品的合作為基礎(chǔ)，攜手拓展更廣泛的智能家居市場, 共同豐富生態(tài)圈。

劃重點——什么是百度飛槳？

百度飛槳是自主研發(fā)、開源開放、功能最完備的產(chǎn)業(yè)級深度學(xué)習(xí)平臺，集深度學(xué)習(xí)核心框架、基礎(chǔ)模型庫、端到端開發(fā)套件、工具組件和服務(wù)平臺于一體，包含完整的開發(fā)、訓(xùn)練、推理的端到端深度學(xué)習(xí)AI模型開發(fā)工具鏈。飛槳源于產(chǎn)業(yè)實踐，致力于與產(chǎn)業(yè)深入融合，目前飛槳已經(jīng)廣泛應(yīng)用于工業(yè)、農(nóng)業(yè)、服務(wù)業(yè)等領(lǐng)域，不僅如此，在邊緣端口、移動端和部分服務(wù)器端等場景內(nèi)，Paddle Lite這一輕量化推理引擎也可以進行AI模型部署、高性能推理等工作。如智能閘機、智能音箱、智能摳圖、AR/VR手機等應(yīng)用。與MediaTek探索的邊緣應(yīng)用的方向不謀而合。

飛槳PaddlePaddle協(xié)助萬千行業(yè)落地AI應(yīng)用

MediaTek芯片技術(shù)優(yōu)勢及特點

MediaTek是唯一支持泛消費類產(chǎn)品的芯片方案公司，此前在AI領(lǐng)域發(fā)布多形態(tài)的智能產(chǎn)品，包括應(yīng)用于汽車電子、智能音箱、智能紅酒柜、智能家居、智能支付設(shè)備、智能電視、智能手機等眾多領(lǐng)域的芯片方案。MediaTek擁有廣泛技術(shù)組合開發(fā)和跨平臺及操作系統(tǒng)(Android, Linux, RTOS, 其他)的強大優(yōu)勢，在面向主流智能家居應(yīng)用領(lǐng)域。

MediaTek 推出了新一代端側(cè) AI 平臺 MT8175，其特點包含：

12納米制程:先進制程提升性能，降低功耗30%

APU (AI神經(jīng)網(wǎng)絡(luò)加速處理器)支持Paddle Lite輕量化推理引擎

AI攝像頭功能:支持 廣角鏡頭/移動偵測/人臉識別/手勢識別

Audio DSP:支持低功耗語音助理設(shè)備

MiraVision :支持芯片級護眼及屏顯參數(shù)依環(huán)境自調(diào)節(jié)技術(shù)

WiFi:內(nèi)置802.11ac及藍(lán)芽Mesh組網(wǎng)

MediaTek 芯片解決方案

MediaTek與百度飛槳的合作成果

MediaTek 彈性的AI框架NeuroPilot 與百度 Paddle Lite 集成，實現(xiàn)端上實時智能推理的產(chǎn)品應(yīng)用。Paddle Lite 運行在MediaTek APU 上的效率相比于傳統(tǒng) ARM CPU 性能提升 6 倍，功耗降低90%，實現(xiàn)低功耗，便攜式產(chǎn)品應(yīng)用。通過下方的系統(tǒng)架構(gòu)圖可以見到，相比于離線的工具轉(zhuǎn)換，透過Delegate的子圖直接調(diào)用，可以降低軟件時延，確保維持Paddle Lite上模型的效能。

Paddle Lite與MediaTek NeuroPilot框架圖

如下圖所示, 從實測結(jié)果可以看出，與手機等移動端常用的國內(nèi)外主流CPU相比，MT8175 APU在MobileNET_v1的耗時表現(xiàn)更出色，由此證明在AI相關(guān)領(lǐng)域，如圖像分割、點擊率預(yù)估、目標(biāo)檢測、語義理解上，語音合成、圖像分類等，專用的AI芯片將帶來更出色的效果。

MT8175芯片在MobileNET_v1模型上對比主流CPU時延明顯優(yōu)化

NeuroPilot 與 Paddle Lite兼容性認(rèn)證書

Paddle Lite支持MediaTek 人工智能APU芯片

Paddle Lite全新升級及雙方后續(xù)合作展望

Paddle Lite即將在近期上線的V2.6版本中新增支持無校準(zhǔn)量化模型，8bit精度損失從 2%減少到0.1%，編譯腳本分不同后端平臺硬件做分支優(yōu)化，單個場景編譯更簡單。而在全新更新的文檔中，也詳細(xì)介紹了如何使用Paddle Lite在MediaTek 人工智能APU硬件上做預(yù)測部署，支持的芯片、設(shè)備、Paddle模型與算子列表及參考示例演示等。

https://paddle-lite.readthedocs.io/zh/release-v2.6.0/demo_guides/mediatek_apu.html

未來，百度飛槳與 MediaTek 人工智能平臺除了在硬件上進行全面適配，還將攜手拓展更廣泛的智能應(yīng)用。針對主流行業(yè)應(yīng)用場景做進一步的性能優(yōu)化，推出行業(yè)標(biāo)桿的解決方案，共同助力人工智能場景規(guī)模化，賦予AI更多可能。