成功案例

行走在田園和山間，欣賞美好景色和呼吸新鮮空氣時(shí)，常常可以見到用于灌溉的機(jī)井。你可能除了小心，并沒有更多留意它們。然而你可曾想到，它們與人工智能和微控制器也會(huì)關(guān)聯(lián)在一起？

雖然人工智能早已在身邊，但是在“原味”的微控制器應(yīng)用場(chǎng)景中如何落地深度學(xué)習(xí)技術(shù)，人們還一直還在摸索。這次，小編就給還在上下求索的小伙伴們講一個(gè)讓“微控制器+AI”成功落地的小故事。

深井中強(qiáng)大的邊緣抄表器

故事的主角是由北京市水務(wù)局和北京鴻成鑫鼎智能科技有限公司聯(lián)合開發(fā)的“邊緣抄表器”模塊，這個(gè)模塊將率先用于機(jī)械水表的智能抄表。我們先上靚照——

左邊那個(gè)戴在水表上面淺藍(lán)色的“帽子”就是它了，右邊的圖則是它的“裸照”。這個(gè)邊緣智能抄表模塊采用恩智浦i.MX RT1020跨界單片機(jī)讀取攝像頭并運(yùn)行基于深度學(xué)習(xí)的“SlimSSD”檢測(cè)算法，直接扣在水表表盤上就可以拍照并且識(shí)別表盤的讀數(shù)。

這個(gè)模塊非常強(qiáng)大，可以用在很多場(chǎng)合，除了安裝在家里，還可以“落地”到主干水管上——

甚至還不只滿足于 “落地”，更要“落井”——

方案廣受好評(píng)，獲得發(fā)明專利

這款模塊經(jīng)過近兩年的開發(fā)和嚴(yán)格測(cè)試，在成果鑒定中得到了肯定的評(píng)價(jià)：

“邊緣AI抄表器通訊暢通率達(dá)95%以上，平均識(shí)別準(zhǔn)確率為83.42%，其中8塊表識(shí)別準(zhǔn)確率在98%以上，在性能方面取得了不錯(cuò)的成績；自動(dòng)輔助數(shù)據(jù)矯正和人工審核矯正率100%，數(shù)據(jù)真實(shí)可用；耗電量按1天1條數(shù)據(jù)功耗折算，可平均工作4425.6天（約12.1年），已大大超過了8年的設(shè)計(jì)壽命。”

更可喜的是，經(jīng)過改進(jìn)模型，最新的訊暢通率達(dá)96%！

下圖是使用邊緣AI抄表器檢測(cè)出識(shí)別區(qū)域，識(shí)別出讀數(shù)，并把識(shí)別結(jié)果和原始圖片中檢測(cè)區(qū)域一并上傳的效果，一次無線傳輸?shù)臄?shù)據(jù)量僅幾百字節(jié)（而發(fā)送全圖要幾萬字節(jié)）。

北京水務(wù)局還計(jì)劃在北京市東水西調(diào)管理處、門頭溝區(qū)70多處機(jī)井、甘家口大大廈等地進(jìn)行應(yīng)用推廣試點(diǎn)。實(shí)現(xiàn)鄉(xiāng)村水井、耕地和林區(qū)機(jī)井、供水管道網(wǎng)絡(luò)處無人值守的用水計(jì)量，實(shí)現(xiàn)了無需替換原有水表，就實(shí)現(xiàn)了自動(dòng)抄表的功能。

更加可喜的是，這個(gè)邊緣AI抄表器的設(shè)計(jì)經(jīng)過多次反復(fù)設(shè)計(jì)、打版，邊緣AI抄表器的適用性越來越強(qiáng)，并且得到了含金量很高的發(fā)明專利。

解析方案的精髓：深度學(xué)習(xí)

接下來，小編就給大家講講作為這個(gè)方案最“精髓”的部分——深度學(xué)習(xí)。

最讓小編贊嘆的是，這個(gè)抄表模塊使用了比圖像分類更先進(jìn)的物體檢測(cè)（Object Detection, OD）技術(shù)，實(shí)現(xiàn)了無需調(diào)整參數(shù)就能自動(dòng)適應(yīng)新的各種表盤。而直到最近，我們看到其他一些廠商才剛剛提出類似的基于深度學(xué)習(xí)技術(shù)，但使用手寫數(shù)字分類的參考模型——注意，是剛剛才提出——而且還是使用深度學(xué)習(xí)計(jì)算機(jī)視覺中最基礎(chǔ)的“圖像分類”技術(shù)。

圖像分類和物體檢測(cè)的關(guān)鍵區(qū)別是啥呢，小編畫了一個(gè)草圖來說明（原諒小編的美術(shù)是數(shù)學(xué)老師教的）。

最重要的是分類模型把圖像當(dāng)作整體，給出一個(gè)類別（確切地說是預(yù)測(cè)各類別的概率并選最大的那一類）；而檢測(cè)模型要干兩個(gè)事，既要找出圖像中各個(gè)物體的位置，也要判斷找出的物體是什么類別。不過，雖然看起來檢測(cè)比分類強(qiáng)大得太多了，但神奇的是他們共享的技術(shù)卻高度相似——特別地，在檢測(cè)模型的組成部分中，最重要的被稱為“骨干”（backbone）的關(guān)鍵部分，就是來自于分類模型的卷積神經(jīng)網(wǎng)絡(luò)部分，它用來提取出抽象概括的圖像特征。

可以認(rèn)為分類模型在卷積神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上追加分類器（常常是單層全連接層，又叫感知機(jī)，就夠了）；而檢測(cè)模型抽取卷積神經(jīng)網(wǎng)絡(luò)的多處中間結(jié)果和最終輸出，并添加檢測(cè)頸和檢測(cè)頭的相關(guān)結(jié)構(gòu)，只是比分類器要復(fù)雜得多。骨干網(wǎng)絡(luò)的訓(xùn)練一般也是借助分類模型來實(shí)現(xiàn)。

回到AI抄表的應(yīng)用，如果用分類模型，就要為每種規(guī)格的表盤人工設(shè)定分類區(qū)域，每個(gè)數(shù)字一個(gè)，麻煩得很；但是檢測(cè)模型就能自動(dòng)找出在哪里讀數(shù)，讀幾個(gè)數(shù)，顯然是方便多了。而在這個(gè)具體的專利中，使用了一種單發(fā)多框檢測(cè)器(Single Shot Multibox Detector, SSD)模型的優(yōu)化版本——發(fā)明人稱為 “SlimSSD”，從名字上可以看出它是一種更“苗條（Slim）”的SSD——發(fā)明人還使用注意力機(jī)制來更準(zhǔn)確地幫助裁剪模型。

有關(guān)SSD的詳情后面咱們?cè)俳又模@里不妨先給出某一個(gè)高度精簡后類SSD模型的“長相”。

圖中那個(gè)醒目的三段顯示的豎長條就是這個(gè)模型的骨干，來自一個(gè)簡潔的分類模型中卷積子網(wǎng)絡(luò)的部分。下部的幾支“并聯(lián)”的結(jié)構(gòu)用于各自檢測(cè)和分類輸入圖片中不同大小的物體，最終匯總成左、右兩支，分別給出檢測(cè)出的物體坐標(biāo)信息和物體類別信息。（查看有關(guān)SSD模型的論文，請(qǐng)點(diǎn)擊這里>>）。

小貼士

在物體檢測(cè)領(lǐng)域，最近的Yolo系列模型也非常有生命力，還有其他的一些超輕量級(jí)物體檢測(cè)模型，如NanoDet，YoloX-nano, PP-PicoDet等正如同雨后春筍般的涌現(xiàn)。物體檢測(cè)技術(shù)因?yàn)閷?shí)用、方便，它們的超輕量化研究十分活躍。

SSD和很多其它深度神經(jīng)網(wǎng)絡(luò)一樣，都非常的靈活，它的構(gòu)成可以根據(jù)應(yīng)用要求的不同像搭積木一樣魔改和優(yōu)化，對(duì)算力要求甚至可以有上百倍的優(yōu)化，使得微控制器也可以承載。小編通過查閱專利號(hào)“CN113255650B”，發(fā)現(xiàn)客戶優(yōu)化的這個(gè)SlimSSD，把官方的SSD模型瘦身到僅有原版SSD模型的0.5%大小，而仍然保持99%的精度！這是什么概念？形象地說，就是原來一個(gè)200斤的壯漢能背200斤的麻袋，現(xiàn)在是一個(gè)1斤的小人能背198斤的麻袋！嗯，差不多就是葫蘆娃中的大紅娃。

別讓算力限制了你的想象

這個(gè)成功的故事也深深地震撼了小編，感覺自己對(duì)深度學(xué)習(xí)和實(shí)際應(yīng)用的認(rèn)知不足，限制了自己的想象力。

有感于很多人覺得“算力小于0.5TOPS都干不了啥事”，而這個(gè)智能邊緣抄表方案是在理論上有效算力僅有0.0003TOPS的i.MX RT1020平臺(tái)上完成的，這可是1600多倍啊！并且是無人值守的環(huán)境下僅靠電池就能一天抄一次連續(xù)工作12年以上！

看到這里，小編想用一句話來表達(dá)內(nèi)心的感嘆：

深度學(xué)習(xí) => 創(chuàng)奇跡

深度學(xué)習(xí) + NXP微控制器 => 再創(chuàng)奇跡

除了模型本身的先進(jìn)性，更難能可貴的是這個(gè)模塊的主要開發(fā)團(tuán)隊(duì)北京鴻成鑫鼎科技公司在兩年前就開始了項(xiàng)目，而NXP用于微控制器的eIQ機(jī)器學(xué)習(xí)套件是半年前才發(fā)布，他們僅憑我們的技術(shù)支持就獨(dú)自完成了這樣一個(gè)看似不可能，甚至我們也沒敢想的奇跡！

其中，令小編印象最深的，就是北京鴻成鑫鼎的總裁廉永康先生，三年前小編與他在一次MCU+AI研討會(huì)中相識(shí)，當(dāng)時(shí)小編對(duì)該項(xiàng)目的想法是——可以使用基礎(chǔ)的圖像分類“試一試”，而廉永康先生卻毅然啟動(dòng)了這個(gè)項(xiàng)目，以極大的膽識(shí)采用了更先進(jìn)的物體檢測(cè)方法。要知道，3年前別說是基礎(chǔ)的圖像分類，就算是深度學(xué)習(xí)在微控制器上的基礎(chǔ)軟件也幾乎還是空白，Arm CMSIS-NN也才發(fā)布幾個(gè)月。

寫在最后的話

上面的小故事告一段落，但完整的故事還在繼續(xù)。小編了解到，北京鴻成鑫鼎科技公司沒有就此止步，而是在此基礎(chǔ)上，進(jìn)一步開發(fā)出了可以用在水表以外的像滅火器壓力計(jì)、液晶顯示儀表上的改版，讓微控制器和人工智能的結(jié)合給人民的安居樂業(yè)保駕護(hù)航！在這其中，恩智浦的高品質(zhì)長壽命微控制器也將繼續(xù)履行承擔(dān)計(jì)算平臺(tái)的光榮使命。

最后，小編想說，深度學(xué)習(xí)的抻縮性遠(yuǎn)比我們想象要大得多，只要根據(jù)應(yīng)用的實(shí)際要求和硬件平臺(tái)的特點(diǎn)合理優(yōu)化和化簡模型，有很多想都不敢想的應(yīng)用都可以變成現(xiàn)實(shí)。尤其是不要小看了微控制器的潛力。

微控制器雖然算力比PC或應(yīng)用處理器弱得多，但是它上面的負(fù)擔(dān)開銷輕得更多，再加上深度學(xué)習(xí)模型這種極大的伸縮性，有太多的“不可能”實(shí)際上是可能的，就等您延續(xù)奇跡的故事。奇跡多了，也就變得平凡了。

▲本文作者為恩智浦半導(dǎo)體系統(tǒng)工程師宋巖。感謝北京鴻成鑫鼎智能科技有限公司為本文提供的相關(guān)圖片，文中部分?jǐn)?shù)據(jù)和信息參考自以下這篇文章>>

來源：NXP客棧
免責(zé)聲明：本文為轉(zhuǎn)載文章，轉(zhuǎn)載此文目的在于傳遞更多信息，版權(quán)歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權(quán)問題，請(qǐng)聯(lián)系小編進(jìn)行處理

審核編輯 黃宇