Pete Wardan任谷歌TensorFlow移動和嵌入式團隊的leader，在O'Reilly AI Conference 2019的Keynote演講環(huán)節(jié)，他對機器學習的未來進行了深度剖析。他認為機器學習的未來就是以小為美。未來，微處理器將如何與機器學習共同合作？能否在技術上取得突破？這些問題值得深思。

想象一下這樣一個世界：數千億臺設備不僅收集數據，而且會將數據轉化為可操作的意見，而這些意見可以改善數十億人的生活。

而要做到這一點，我們需要機器學習。但是一般來說，機器學習會消耗大量的系統(tǒng)資源。因此，低功耗，低成本的機器學習是目前需要探索并尋求突破的。

與此同時，深度神經網絡也越來越多地被應用于改進很多東西，從廣告系統(tǒng)到自動駕駛汽車原型，因此，它們也注定要改造微型計算機（即微控制器）。

因此，Pete在演講中指出，微型處理器、內嵌處理器是機器學習的未來。

微處理器已無處不在

Pete首先用Alexa做了一個小演示，展示了基于網絡的機器學習模型如何在小型的、內嵌式的處理器上去運行的，以及它可以持續(xù)幾周的時間。

之所以選擇用Alexa演示，是因為這臺設備沒有聯網，也沒有Wi-Fi和藍牙，它只是在20KB的模型上運行，這個微型處理器也只有幾百KB的內存。而這個模型僅僅靠鈕扣電池供電，就能獨立運行數周的時間。

這一點非常重要。因為全世界有2500億個微處理器，每年出貨量達到了 400億，每年都有20%的增幅，平均成本不到50美分。這樣的產品已經非常便宜而且無處不在。

此外，CPU如今也已經很便宜了，幾乎都是免費的。但是我們把處理器安裝到設備上之后，卻要專門接電線為其供電，比如在機場，這個供電系統(tǒng)可能就要花幾千美金。

除了布線問題，還在于，某些場合，比如手術室、工廠車間，可能并沒有合適的地方去增加電源插座等設備。所以說，這非常不合理。能源供應問題成了很多設備的限制因素。

手機需頻繁充電的首要原因——高能耗

以我們現在每天都離不開的手機為例。雖然手機不需要連接外部的電源，但它每天都需要充電。如果你有幾十個甚至幾百個電子設備需要進行打理的話，那可能你所有的時間都花在充電上了。所以很多設備，我們只好采取即插即用的辦法來供電。

智能手機的能耗情況如何，為什么總要頻繁充電？請參考以下數據：

顯示器大約使用400毫瓦

有源蜂窩無線電大約使用800毫瓦

藍牙大約使用100毫瓦

加速度計使用21毫瓦

陀螺儀消耗130毫瓦

GPS消耗176毫瓦

如果我們把手機的能耗降到1毫瓦以下，那么僅僅一枚鈕扣電池就能支持手機運行一個月。我們需要在這樣的能耗限制下進行設計，才能保證無所不在的微處理計算和人工智能技術相得益彰。

傳感器數據被浪費的原因——傳輸能耗太大

現有的CPU做計算本身是基本沒有功耗的，它可以把功耗降到幾百微瓦的水平，傳感器也是如此。比如，麥克風的功耗也非常低，還有圖形傳感器。麥克風可能是幾百微瓦的水平，傳感器也是可以降到1毫瓦的水平。

因此，微處理器和傳感器可以把功耗降到非常低的程度。低功耗的解決方案大大提升了傳感器收集數據的能力，它們能夠更頻繁地查看需要的信息。

然而，雖然傳感器能夠以很低的功耗獲得巨量的數據，但是這些卻沒有得到充分的應用。

比如，幾年前，一家衛(wèi)星公司，能夠拍攝很多高清晰度的圖片。但是因為帶寬的問題，每個小時只能下載幾百MB的數據，所以衛(wèi)星和地面的通訊成本太高了，最終我們能得到的圖片只是很少的一部分。

此外，比如在工廠里面的溫度計，它們可以獲取很多的數據。但是工廠并沒有那么多的電力把這些數據上傳到云端，所以很多數據也都被浪費了。

深度學習與微處理器的完美配合

對于現有的這些問題，技術應該發(fā)揮什么樣的作用？如何能夠把大量的傳感器的數據利用起來，把它的價值發(fā)揮出來？能否降低設備能耗？

Pete認為還有很大的市場等待科技去解鎖

機器學習在這方面就可以發(fā)揮非常重要的作用，具體來說，是深度學習。因為深度學習才能夠最有效地把這些混沌的、非結構性質的數據利用起來。

深度學習可以處理大量未標記的數據

很少有人意識到深度學習和微處理器（MCU）的匹配程度。深度學習實際上是基于計算，而不是依靠通訊或者數據讀取來運行的。因此，我們不需要很大的內存，也不需要大量訪問內存。這恰好也符合微處理器的設計，它只有幾百KB的內存，同時每秒可以運行幾千萬甚至上億次的指令。

所以我們可以用很低的功耗來滿足它的學習或者訓練目的。如果我們知道對于一個給定的神經網絡系統(tǒng)，它需要5皮焦（pJ）的能耗來執(zhí)行一個操作，如果用最小的圖象識別，它需要2200萬的浮點計算，那么它將共需要5皮焦*22,000,000=110微焦（μJ）的能量來執(zhí)行這個操作。如果每秒分析一幀，那只需要110微瓦，如此，用鈕扣電池就能供一年的電量，而且不需要對現有的硬件改進。

谷歌的團隊曾在2014年開發(fā)了一個13KB的模型來進行語音識別，而蘋果也在做類似的研發(fā)工作。所以這些語音識別團隊，就可以在非聯網的微型處理器上來進行機器學習和訓練。

TensorFlow Lite——賦予移動終端機器學習的能力

2017年，谷歌在Google I/O大會推出TensorFlow Lite，是專門針對移動設備上可運行的深度網絡模型簡單版。但當時只是開發(fā)者預覽版，未推出正式版。

2019年3月，TensorFlow Lite嵌入式平臺發(fā)布了第一個實驗原型。這是由SparkFun構建的開發(fā)板的原型，它有一個Cortex M4處理器，具有384KB的RAM和1MB的閃存存儲。該處理器功率極低，在許多情況下功耗不到1毫瓦，因此它可以僅憑小型紐扣電池運行很多天。

Pete在安卓開發(fā)峰會上介紹TensorFlow Lite

它完全在本地嵌入式芯片上運行，無需任何互聯網連接，因此最好將其作為語音接口系統(tǒng)的一部分。該模型本身占用的存儲空間不到20KB，TensorFlow Lite代碼的占用空間僅為25KB的Flash，而且只需要 30KB的RAM即可運行。

TensorFlow Lite 的目標便是移動和嵌入式設備，它賦予了這些設備在終端本地運行機器學習模型的能力，從而不再需要向云端服務器發(fā)送數據。這樣一來，不但節(jié)省了網絡流量、減少了時間開銷，而且還充分幫助用戶保護自己的隱私和敏感信息。

TensorFlow Lite被用來解決了移動設備的圖像分類、物體檢測、智能聊天的問題。

深度學習未來的應用

深度學習最關鍵的在于，它特別適合把傳感器的數據轉化為非常有價值的資產。

全語音界面

深度學習的一個「殺手」應用，也許在不久的將來就會實現，那便是：全語音的界面。這樣的界面用50美分的芯片就可以實現，同時，用一個鈕扣電池就可以維持一年的運行。如此一來，我們可以只用語音操控，而不再需要開關或者是按紐了。所有的機器、設備都可以使用語音通訊的界面。

這種便宜的芯片還可以用于農業(yè)的用途，比如通過圖形識別可以用很低的成本來識別有害雜草，農業(yè)工作者便可以精準地施用農藥。

預維護模式

另外，還有預測式維護。我們可以預先知道哪些機器可以出故障。比如針對汽車故障，人不可能到汽車里面去看發(fā)動機哪出了什么問題，或者聽出馬達的聲音出現了問題，但是我們可以對模型進行訓練，把這些設備直接插到系統(tǒng)里面，不需要做新的布線或聯網，這個設備就可以直接告訴你：系統(tǒng)好像出問題了，設備需要及時維護、維修。當然，這個模型并不需要持續(xù)上網發(fā)出設備信息，只是當要發(fā)生重大事故或者隱患的時候才會發(fā)出通訊。

深度學習未來的應用

未來的世界有更多的可能性，現在人工智能對于我們，就像八十年代的電腦一樣。我們不知道它會發(fā)展成什么樣子，但是我們可以想象一下我們目前面對的各種問題和挑戰(zhàn)，在工作中面臨的困難。如何用小小的芯片進行機器學習？這方面我們可以有新的角度去探索，也有新的研究成果去發(fā)揮作用。