各位可能都聽過第四次工業革命是來自萬物聯網（Internet of Things，IoT），包括實體、虛擬、與生物體，也一定聽過最近幾年內許多人工智能 （Artificial Intelligence，AI） 的重大突破與各方面的應用，IoT 是從 1999 年就發明的詞，AI 的發展更超過一甲子，然而這兩者的結合才是下個新產業機會的大浪，正要開始。

什么是 AIoT 與邊緣計算

相關用語包括 AIoT 以及邊緣計算 （Edge Computing），我們先看看他們的定義：

IoT – 藉由各處的無線傳輸裝置，通過感測器蒐集各種的數據，再將數據傳輸到閘道或電腦之中，連接到網路上，達到萬物連上網的效果，如何使這些數據產生應用層面更是相當重要的議題。

AI – 基于自我學習為基底，藉由大量的數據作為學習依據，通過建立一層層神經網路架構，進行反覆的學習與修正，并佈署最終訓練完的權重值，去進行預測與判斷。

通過 AI 與 IoT 兩者整合，相輔相成。藉由 AI 從邊緣感測器蒐集的大量數據萃取價值，再控制本地的系統就是 AIoT 的基本概念，例如在工廠產線中，通過視覺感測器收集數據，經由 AI 計算判斷分類，再由機器手臂執行檢選。沒有AI 來處理與利用數據，IoT 是沒有意義的。

AI 與 IoT 兩個領域延續過去投資熱度，今年仍是最熱的標的，遠領先區塊鏈 （Blockchain）。

邊緣計算的必要性

過去這 AI 主要在云端計算，難免受制于帶寬與延遲的限制，現在的趨勢逐漸走向所謂的邊緣計算，根據邊緣計算產業聯盟 （ECC） 與工業互聯網產業聯盟 （AII） 聯合發布的邊緣計算參考架構 2.0（2017）：邊緣計算是在靠近物或數據源頭的網絡邊緣側，融合網絡、計算、存儲、應用核心能力的分布式開放平臺，就近提供邊緣智能服務，滿足行業數字化在敏捷聯接、實時業務、數據優化、應用智能、安全與隱私保護等方面的關鍵需求。

許多應用程序對延遲不敏感，不需要大量的就近計算或存儲資源，因此理論上它們可以在集中式的云中運行，但是對帶寬和計算資源有要求的應用，使用邊緣計算將成為更有效的方法，例如視頻監控、物聯網網關 （Gateways）、使用臉部識別的門禁、車牌識別。而且廠商不需在每個有客戶的區域都要部署服務器。

有些實時應用程序是無法承受超過幾毫秒的延遲，諸如 AR/VR、車聯網、遠程醫療、觸覺互聯網、工業4.0 和智慧城市等。需在應用情境當場形成閉環自動化，來維持高可用性與安全性，靠近用戶的計算和緩存成為了必需品。

還有許多場所網絡連接受限、不可靠或不可預知。這些場所包括交通運輸工具 （飛機、巴士、船舶），采礦作業區 （石油鉆井平臺、管道、礦山），電力基礎設施 （風力發電場、太陽能發電廠），衛星通信，海上船只 （從漁船到油船），這些偏遠和惡劣的環境中，邊緣計算讓位于邊緣的裝置根據實時數據自治，應用在預測性維護上，可避免零件機臺故障造成當機 （有些情形甚至造成死傷），應用在能效管理上，可降低成本與提升可靠性。

AI + IoT 開始成為熱錢追逐標的

結合 AI 的 IoT 新創公司，在去年吸引可觀的資金，從企業與私有基金取得總共 22 億美金，并購活動也十分熱絡，代表產業的新興熱點崛起。

位于芝加哥的 UptakeTechnologies，去年取得總共 2.5 億美金的 C 輪與 D 輪資金，成為獨角獸，服務于工業物聯網-- 石油天然氣產業、采礦、農業、航空、營建、制造、鐵路、貨運車隊、綠色能源與智慧電網。

另一個獨角獸 – C3 IoT –除了部分以上提到的領域外，也著力于智慧城市、公用基礎建設、金融服務、健康管理、零售與通訊。去年拿到一個億美金。

專注于物聯網無線解決方案的Silicon Labs（亦稱“芯科科技”）公司也通過收購 Sigma Designs 的 Z-Wave業務和。

自從 2015年，邊緣計算進入到 Gartner 的 Hype Cycle （技術成熟曲線）。Gartner 預測在 2022 年之前 80% 的企業級 IoT 將配備布署 AI，目前只有 10%。

半導體芯片在 AI 產業的關鍵地位

半導體芯片在使能 AI 產業上處于核心地位，需要處理巨量數據的機器學習 （Machine Learning） 要求極大的算力與特大儲存容量，對應的是對高端處理器與更大更省電的存儲器的需求。目前這兩個關鍵技術，仍以美國居全球領先地位，以中國投入的追趕力道最大。

根據 JP Morgan 預估，AI 芯片市場營收，在 2022 年前將以年均復合增長率 59% 增長，相對于整個半導體市場增長率僅有 5-6% ［1］。自從網絡泡沫以來，風投對半導體業的投資興趣逐漸走低，現在，AI 改變了這個趨勢。

半導體在 AI 運作的主要三個階段都具有關鍵支持地位，三階段分別為：

數據生成與收集：可能通過智慧手機與 IoT 各種終端傳感裝置；

以收集的數據對算法進行訓練：訓練是指通過大量的數據樣本，代入神經網絡模型運算并反復迭代，來獲得各神經元的權重參數的過程。這階段需處理海量數據，最耗計算資源，必需在云端進行，要求盡可能高的算力。大家可能都聽過 Nvidia 靠繪圖處理器 （GPU） 在近幾年大放光芒，它提供的就是訓練芯片，支持深度學習 （Deep Learning） 技術的深度神經網絡 （Deep Neural Network） 建模計算，得力于 GPU 的大型矩陣平行運算助力，讓以前不實際、超過百層的神經網絡計算成為合理可能，所以 AI 訓練芯片表現大大提升。

根據訓練好的算法對新數據進行推斷預測 （inference）：推斷是指借助現有神經網絡模型進行運算，利用新的輸入數據來一次性獲得正確結論的過程。推斷過程對響應速度一般有較高要求，因此會采用 AI 芯片 （搭載訓練完成的神經網絡模型） 進行加速。這階段可能發生在云端或邊緣，然而如同前面所述，為了反應速度或安全性等因素，將推斷放在邊緣終端逐漸成為趨勢，所以大量的各種終端裝置都將會加上推斷芯片來建立智能。邊緣裝置芯片只需內建訓練好的模型算法，可隨時對新收集數據進行反應與自我管理。在連網時，可將邊緣數據傳回云端，持續不斷修正與優化模型，然后再回傳更新的模型給邊緣。

邊緣計算應用落地是硬件與系統商的大機會

根據 CrunchBase 的 2018 AI 市場報告，Amazon、Google、Microsoft 等巨頭推出的 AI as a Service 開發框架，加上有能力自制高端芯片，已經讓機器學習的新創公司難以生存。這種云端企業級 AI 需要數據中心級的大規模投資，提升每單位電力可帶來的計算量，門檻很高。

然而，善長生產硬件、整合終端裝置制造供應鏈的國家，卻有機會將 AI 推斷芯片置入終端，在邊緣計算的各種各樣應用場景好好發揮。相比訓練芯片追求算力，推斷芯片考慮的因素需要整體優化：單位功耗算力，時延，成本等等（大多需極低耗電與低成本），所以垂直合作配合更為重要。難怪鴻海董事長郭臺銘就說：半導體我們自己一定會做。根據 JP Morgan 的預估，邊緣 AI 應用的半導體產值也將以比云端 AI 以更高的年均復合增長率成長。

但是硬件廠商需要提升自己的思維到服務提供者的高度，了解客戶與市場，才能完整掌握應用情境，并以服務導向拉動上下游供應鏈充分合作，整合構建創新的垂直行業解決方案。不僅是硬件廠商延伸成為整體服務提供者，甚至掌握 AI 演算法，以求勝出，軟件廠商為了做好智能終端，也發現必須掌握硬件設計與韌體，軟硬整合為必要。整個開發與除錯戰線比過去長，而且需要跨領域知識。

PC 與 Mobile 時代，產品與技術規格比較一致，產品戰線大概就是分低、中、高階而已，但在接下來興起的 AI 加 IoT 時代 – 有人稱為智聯網，智能終端的應用卻可能非常多樣化，AI 的應用場景碎片化，分散在許多流程環節里，有極大的創新空間，但要考慮的邏輯更復雜，需針對不同應用需求在能耗、性能、或散熱等問題進行優化。相比于互聯網時代，物聯網的通信協議更加多樣，碎片化嚴重。新的游戲規則與新的市場面貌正在成形中。

創新的目的 – 回歸價值創造

ARM 為了 AI 推斷算法優化最前沿的 CPU 與 GPU IP 核，高通、聯發科、谷歌、Rockchip 在其處理器加上 DSP 計算核以強化原有視覺辯視計算與其它AI 計算，蘋果、Intel、NVIDIA 也紛紛推出附神經網絡芯片以加速AI 計算，Lattice、Microsemi、 Intel 則利用 FPGA 處理 AI 計算，包括云端與邊緣。

安控監視系統、汽車自動煞車與駕駛系統、工廠自動化設備與即時示警、家庭智慧音箱……，邊緣計算應用的例子已經不勝凡舉，并從原來視覺與語音辯視計算擴大到其它 AI 計算，例如結合傳感器數據開發新應用。那些垂直市場與那些應用最有商業價值，下回我們來看看 AI + IoT 在各種垂直應用領域與情境的案例研討與價值分析。