一直以來，人工智能的應用存在著一個巨大的障礙：運行人工智能應用程序的算法十分冗雜，且過于依賴云計算和數據中心的高算力計算機，這使得它在智能手機和其他的“邊緣”設備上的應用并不實用。

然而現在，歸功于近幾個月來在軟件、硬件和能源技術上的一系列突破，這種擔憂正在迅速消散，新的技術正在快速地進入市場。

這些新的技術可能會幫助人工智能驅動的產品和服務進一步擺脫對強大云計算服務的依賴，使它們能夠進入我們生活的方方面面，乃至成為我們的身體的一小部分。反過來說，隨著人工智能服務變得無處不在，德勤(Deloitte)咨詢公司去年底所說的“普適智能”可能將很快實現，它會在未來幾年內撼動整個行業。

市場研究機構Gartner Inc.的數據顯示，截至到2022年，80%的新發貨智能手機將具備獨立的人工智能運算功能，這一比例高于2017年的10%。ABI Research的數據顯示，預計到2023年，將有約12億部具有人工智能運算功能的智能手機發貨，這一數字遠高于2017年的7900萬部。

對此，眾多初創企業及其支持者都嗅到了巨大的商機。上周，嵌入式視覺聯盟（Embedded Vision Alliance）在硅谷召開了一次會議。據該聯盟創始人Jeff Bier稱，過去三年里，投資者們向新成立的人工智能芯片初創企業一共投入了約15億美元，規模空前。市場研究機構Yole Developpment預測，到2023年，人工智能應用處理器的復合年增長率將從目前的不足20%升至46%，屆時幾乎所有智能手機都將配備人工智能處理器。

不僅初創企業，老牌巨頭們也在加入競賽的隊伍。

就在今天，英特爾展示了它即將推出的冰湖（Ice Lake）芯片，其中囊括了“深度學習支持”(Deep Learning Boost)軟件和圖形處理單元上的其他新人工智能指令。周一早間，Arm也推出了一系列針對人工智能應用的處理器，其中包括智能手機和其他高端設備的處理器。在那幾個小時后，英偉達公司公布了其首個用于人工智能設備的平臺。

IHS Markit首席分析師Tom Hackett表示:“在未來兩年內，幾乎每家處理器廠商都將為人工智能提供某種具備競爭力的平臺。我們現在看到的是全新的機遇。”

這些芯片正在向智能手機以外的更多領域進軍。它們還被用于數以百萬計的“物聯網”設備，如機器人、無人機、汽車、相機和可穿戴設備。約75家開發機器學習芯片的公司中，以以色列的Hailo公司為例，該公司在今年1月進行了一輪2100萬美元的融資。5月中旬，該公司發布了一款專為深度學習設計的處理器。深度學習是機器學習的一個分支，最近在語音和圖像識別方面取得了突破。

新的研究表明，神經網絡的規模可以被縮小10倍，同時，它仍能取得類似的結果。由此可見，更為緊湊和強大的軟件將會為邊緣端的人工智能鋪平道路。現在，一些公司已經在設法壓縮人工智能所需的軟件規模。

例如，谷歌于2017年底推出了面向移動設備的TensorFlow Lite機器學習庫，這使得智能相機能夠在沒有互聯網連接的情況下識別野生動物，或是幫助離線成像設備進行醫學診斷。谷歌員工研究工程師Pete Warden在嵌入式視覺峰會上的主題演講中說，目前大約有20億部移動設備安裝了該機械學習庫。

今年3月，谷歌推出了一款語音識別器，來為谷歌虛擬鍵盤應用程序Gboard的語音輸入功能提供支持。這個語音識別轉錄算法只有不到80兆字節，因此它完全可以在Arm 的A系列芯片上離線運行，且不會有網絡延遲。

與此同時，對云端的隱私的擔憂在迅速上升，這意味著監管部門有理由避免敏感設備間的數據交流過于頻繁。

“幾乎所有的機器學習運算都將在設備端完成，”Bier介紹道。Bier也是伯克利設計技術公司的聯合創始人和總裁，該公司為嵌入式數字信號處理技術提供分析服務。這些設備的數目是巨大的。Warden指出，當今世界上約有2500億個活躍的嵌入式設備，并且這個數字還在以每年20%的速度增長。

但在這樣的設備上進行人工智能運算并非易事，這不僅取決于機器學習算法的大小，算法所需要的電量也格外重要。尤其是對于像智能手機、攝像頭和傳感器等物聯網設備來說。它們不能過于依賴插座甚至電池供電。

云端收發數據的通訊過程能耗巨大，因此通過蜂窩網絡或其他連接進行通信對許多小型廉價設備來說都是一個致命的障礙。Yole development的技術和市場分析師Yohann Tschudi表示:“我們需要一個專門的架構來完成低能耗的通訊。”

為此，還需要開發出一種實際能耗小于1毫瓦的設備，而這大約是智能手機用電量的千分之一。好消息是，越來越多的傳感器甚至微處理器有望做到這一點。

例如，美國能源部與Molex 公司、SkyCentrics建筑公司合作，開發了用于建筑能源管理的低成本無線傳感器。這個還在實驗中的新型圖像傳感器可以利用環境光為自身供電。

而且，即使是計算的主力軍——微處理器，也可以是非常低功耗的。 Warden說:“理論上講，我們沒有理由不能在微瓦或比毫瓦小一千倍的能耗下進行計算。”這在一定程度上是因為，它們可以被編程，例如，只有當一些特定的事情發生時，比如液體濺到地板上，它們才會喚醒與云端的數據交流。

所有這些都表明，機器學習在智能手機、智能相機和工廠監控傳感器等領域有著廣泛的新應用。Warden說道:“確實，我們收到了很多在嵌入式設備上運行機器學習的產品請求。”

這些應用包括:

使用加速度計預測維修，以確定機器是否震動太多或發出噪音。

街燈對行人的自動檢測，只有當有人在附近時，街燈才會打開。

利用分散在農田中的視覺傳感器或微型攝像機進行農業害蟲識別。

使用安裝在樹上的老式太陽能安卓手機檢測鏈鋸的聲音，以防治非法伐木。

Warden甚至預言傳感器可以相互通信，比如在智能家居中，煙霧報警器探測到潛在的火災時，烤面包機回答說：不，那只是燒焦的烤面包。這些只是暫時的猜測，但是谷歌已經在不使用集中訓練數據前提下，研究“聯合學習（federated learning）”來訓練機器學習模型（如下）。

云端將會在機器學習中繼續扮演重要角色。但目前很明顯的是，人工智能的未來與其說是在云端，不如說是在邊緣。