人工智能的發展充滿希望和挑戰，在其“不屈不撓”的前進中面臨一道坎：人工智能應用程序的算法都是龐大而復雜的，需要在強大的云計算和數據中心進行處理，這便限制了在智能手機和其他 “邊緣”設備上的廣泛應用。今年，隨著AI軟件、硬件和有關新能源技術的突飛猛進，這道坎估計也要跨過去了。基于AI的產品和服務將進一步擺脫對云計算服務的依賴，并迅速融入我們生活的每一個部分。未來幾年人工智能服務無處不在，這將撼動整個社會。

很多創業公司和他們的投資方都有很大的機會。2019年5月在硅谷召開發布會的Embedded Vision Alliance (嵌入式視覺聯盟)創始人Jeff Bier(杰夫·比爾)表示，過去三年，投資者向人工智能芯片初創企業投入了約15億美元，超過了對其他所有芯片初創企業的投資。市場研究機構Yole Développement 預測，到2023年，人工智能處理器的復合年增長率將達到46%，屆時幾乎所有的智能手機都將使用AI處理器，而現在的使用率還不到20%。

不僅僅是初創企業有所動作，今年5月，英特爾公司(Intel Corp.)演示了即將推出的“冰湖芯片”(Ice Lake chips)，其中包括“增強深度學習”(Deep Learning Boost)軟件和圖形處理單元上的其他AI指令。Arm Ltd.也推出了一系列針對人工智能應用的處理器，包括智能手機和其他高端設備的處理器。同期，英偉達公司(Nvidia Corp.)宣布了首個連接AI設備的人工智能平臺。

IHS Markit首席分析師Tom Hackett (湯姆?哈克特)在嵌入式視覺聯盟峰會上表示：“未來兩年，幾乎每家芯片廠商都將為人工智能提供某種競爭平臺。

這些芯片廠商正在向智能手機以外的數以百萬計的物聯網設備進軍，如機器人、無人機、汽車、相機和可穿戴設備等。例如，以色列的一家開發機器學習芯片的公司海洛公司(Hailo)，在今年1月進行了一輪2100萬美元的融資。5月中旬，該公司發布了一款專為深度學習設計的處理器。深度學習是機器學習的一個分支，最近該公司在語音和圖像識別方面取得了突破。

新的研究表明，神經網絡相比之前在生成同樣結果的條件下，其規模可以縮小10倍，由此判斷，更緊湊、更強大的軟件可能會為處于邊緣的人工智能鋪平道路。一些公司已經在設法壓縮人工智能所需軟件的規模。

例如，谷歌LLC于2017年底推出了面向移動設備的TensorFlow Lite機器學習庫，這使得智能相機能夠識別野生動物，或者在沒有互聯網連接的情況下進行醫學診斷。谷歌工程師Pete Warden在嵌入式視覺峰會上說，目前大約有20億部手機安裝了TensorFlow Lite。

今年3月，谷歌推出了一款語音識別器，為谷歌的虛擬鍵盤應用程序Gboard提供語音輸入功能。自動語音識別算法只有80兆字節，因此可以在Arm Ltd.上運行。這意味著它可以離線工作，所以沒有網絡延遲。重要的是，人們對穿越云端的數據隱私越來越擔憂，監管部門很有可能禁止將一些數據從設備上轉移至云端。

伯克利設計技術公司的聯合創始人和總裁比爾說：“未來幾乎所有的機器學習運算都將在設備上完成。”該公司為嵌入式數字信號處理技術提供分析和服務。據估計當今世界上已有2500億活躍的嵌入式設備，并且這個數字還在以每年20%的速度增長。

然而在這樣的設備上進行人工智能并非易事。這不僅僅是機器學習算法的大小，而是執行這些算法所需要的能量，尤其是智能手機、攝像頭和各種傳感器這樣的物聯網設備，不能一直依賴墻上插座甚至電池供電。如果我們被迫更換或充電電池，這些設備將無法實現規模化。

向云中發送數據和從云中接收數據所需的無線電也是能耗大戶，因此通過蜂窩網絡或其他連接進行通信對許多小型廉價設備來說都是一個致命的障礙。Yole Développement的技術和市場分析師Yohann Tschudi表示：“我們需要一個專門的架構來做我們想做的事情。”

此外，還需要開發出一種實際功率必須小于1毫瓦的設備，這大約是智能手機用電量的千分之一。好消息是，越來越多的傳感器甚至微處理器有望做到這一點。

例如，美國能源部(U.S. Department of Energy)與建筑自動化公司SkyCentrics Inc.合作，幫助開發了用于建筑能源管理的低成本無線剝棒式傳感器。實驗表明新型傳感器可以利用環境光為自身供電。即使是核心計算的微處理器，也可能是低功耗的，如Ambiq Micro、Eta Compute、Syntiant Corp.、Applied Brain Research、Silicon Laboratories Inc.和GreenWaves Technologies初創企業的新型處理器，可以在微瓦或比毫瓦小一千倍的情況下進行計算。

以上表明，機器學習在智能手機、智能相機和工廠監控傳感器等領域有著廣泛的新應用。這些應用程序包括:

使用加速計預測維修，以確定機器是否震動太多或發出有趣的噪音。街燈的感應檢測，當有人在附近時，街燈才會打開。利用分散在農田中的視覺傳感器或微型攝像機進行農業害蟲識別。使用安裝在樹上的太陽能安卓手機檢測非法伐木。使用傳感器來測量心率、胰島素水平和身體活動。使用視頻進行語音分離。

未來傳感器可以相互通信，比如在智能家居中，煙霧報警器探測到潛在的火災，而烤面包機反饋說，只是烤面包有燒焦的味道而已。

當然，這些并不意味著云就在機器學習中失去重要的地位。這些在設備上運行的機器學習模型，仍然需要在功能強大的計算機集群上進行大量數據的訓練，像谷歌、亞馬遜公司(Amazon.com Inc.)和Arm等公司都從去年開始提供人工智能芯片，其中一些是通過它們的云計算服務提供的。