物聯網 （IoT） 被吹捧為下一次工業革命，它具有普遍的連接性和它可以產生的洞察力，為查看和管理物理世界提供了一個新的數字鏡頭。但除了物聯網預期的切實流程效率和生活質量改善之外，它也是人類歷史上最偉大成就的墊腳石：人工智能 （AI）。

在許多方面，人工智能和物聯網的技術進步是交織在一起的。物聯網將提供推動我們數據驅動型經濟的信息，而人工智能則是消耗它的引擎。盡管這兩種范式仍處于起步階段，但每個范式的成功都取決于另一個：如果沒有自動處理大型異構數據集的機制，物聯網永遠無法發揮其潛力，就像人工智能在沒有大量數據的情況下無法擴展一樣。

然而，與許多其他支持物聯網的技術一樣，人工智能研究和開發在很大程度上僅限于 IT 領域，因為卷積神經網絡 （CNN）、隱馬爾可夫模型 （HMM）、自然語言處理和其他學科的復雜性在機器學習算法和深度神經網絡 （DNN） 的創建需要通常只能在數據中心規模上訪問的存儲和計算資源。同樣，編程方法已針對 IT 開發人員進行了調整， R、Python、SQL、Excel、RapidMiner、Hadoop、Spark 和 Tableau 等工具是AI 領域的數據分析師和計算機科學家最廣泛使用的工具（圖 1 ）。

【圖1 | 2016 年對數據分析師和科學家的民意調查顯示，R、Python 和 SQL 作為機器學習的軟件工具和庫繼續受到關注。圖表由 KDnuggets 提供。］

物理/數字交換中人工智能和數據收集之間的差距是物聯網的常見并發癥，物聯網剛剛開始推動 IT 和運營技術 （OT） 的集成。盡管如此，這是一個必須彌合的鴻溝。

嵌入式物聯網的人工智能

2014 年，隨著NVIDIA Jetson TK1 平臺的發布，AI 最早涉足 OT 領域之一。基于Tegra K1 片上系統 （SoC）及其 192 核 Kepler GPU 和四核 ARM Cortex-A15， Jetson TK1 為計算機視覺、機器人和汽車應用帶來了數據中心級的計算性能，同時也為嵌入式工程師提供了CUDA 深度神經網絡 （cuDNN） 庫的開發平臺。cuDNN 原語支持 DNN 訓練和推理所需的激活函數、前向和后向卷積、歸一化和張量變換等操作，并且該技術與 Jetson TK1 的 10 W 功率包絡相結合意味著深度學習框架，如Caffe和Torch可以在較小的 OT 設備上訪問和執行。

今天，這一基礎工作得到了擴展，作為 Jetson TK1 的繼任者，Jetson TX1 模塊系統 （SoM）包含 256 個 CUDA 內核、一個 ARM Cortex-A57 CPU，并且能夠提供 1 TFLOPS 的性能。機器學習工具和庫也可以通過NVIDIA JetPack 2.3得到更廣泛的使用，它是原始 cuDNN 庫集的演變，通過打包CUDA Toolkit 8開發環境以使用 C 和 C++ 構建基于 GPU 的應用程序，更好地服務于 OT 開發人員；相機和 Video4Linux2 （V4L2） API；TensorRT推理引擎和 cuDNN 5.1，它現在支持循環神經網絡 （RNN） 和長短期記憶 （LSTM） 網絡。如圖 2 所示，NVIDIA 基準測試表明，Jetson TX1 和 JetPack 2.3 中的優化與運行類似深度學習工作負載的 CPU 相比，能效提高了 20 倍，同時在典型負載下仍保持 8-10 W 功耗TX1。

【圖2 | 在運行類似的 GoogleNet 深度學習推理負載時，NVIDIA Jetson TX1 可以提供高達英特爾酷睿 i7 處理器 20 倍的能效。］

從未停止學習

隨著物聯網為人工智能革命產生數據，監控機器學習技術進展的需求也變得很明顯。這不僅可以確保具有學習能力的智能系統正確地追求其教育目標，而且還可以確保人類開發人員正確地改進機器學習所基于的底層框架和庫，以實現預期目標。

審核編輯：郭婷