回顧近幾年，人工智能不但正在走出實驗室，也正在從云端走向設備端，賦予設備智能，這一趨勢成為了產業鏈各方發力點，所有涉及讓人工智能落地的討論，都離不開邊緣計算和嵌入式人工智能技術上。在近日于清華大學舉辦的嵌入式人工智能大會上，投資人、人工智能企業、科技巨頭坐在了一起，在寒冬的氣氛下，對嵌入式人工智能的發展的討論卻非常火熱。

首先是“機”。可能先是物流，當然也會發生在汽車、工業、物流、家庭，“這些領域的人工智能一定是以硬件方式存在，所以一定會是嵌入式的，一定會在邊緣端發生計算，這是已經在發生的。”然后是“危”：邊緣計算在性能、功耗、安全性、兼容性等方面任然面臨著巨大的挑戰，業內的公司已經在提升AI云端計算上有了很大的進展，允許機器更好地解決問題，但嵌入式人工智能還需要考慮如何更加經濟地解決問題。

那么，嵌入式人工智能的挑戰主要在哪？挑戰在于終端處理平臺碎片化、計算能力有限、應用多樣化需求難以被滿足、性能（準確率、速度）平衡的取舍、生態不成熟、功耗和成本較高這6各方面。

解決這些問題，需要對軟件、硬件進行深度結合的系統化設計。在軟件方面，核心就是降低算法模型的計算量，可通過裁減模型，壓縮網絡、與場景的深度融合和適度優化、共享深度學習模型中的超參數等方法實現。在硬件方面，關鍵在于AI運算加速引擎，在滿足功耗、發熱等限制條件的前提下，實現AI運算加速引擎。當算法集成到設備時，第一件事是先看功耗、發熱、光速。

由此延伸出來的一個很重要的共識是，嵌入式人工智能將是非常長的產業過程，需要芯片、操作系統、算法、硬件、自動控制、材料等方向的技術和人才共同投入。從用戶的角度，市場上各種各樣的客戶都有非常多的需求和痛點，這些需求和痛點背后，客戶們看中的不會是某個具體的技術有什么突破點，而是尋求最完整的一個解決方案，涵蓋包括算法、硬件、云等各個重要元素的有效組合。

從技術的角度來講，萬物互聯實際上需要技術非常多，連接方面除了3G、4G、5G的技術以外，還需要Wifi的技術、藍牙的技術；在算法方面，需要CPU、GPU、NPU，還有DSP。最后，安全如今也變成一個很重要的領域。連接、計算、安全，將構成萬物互聯的幾個重要支撐點。

在上述幾個方面具備豐富知識產權以及技術的公司，將繼續扮演引領者的角色。與之相反的是，留給純算法AI公司的生存空間可能會越來越小，業內人士對DT君表示，這些公司無法提供全產業鏈的解決方案，盈利空間有限，其最好的結果可能是被收購。

AI賦能行業的過程中，客戶其實期望整體解決方案，涵蓋數據獲取、隱私問題、訓練、生產管理系統、私有云署、前后端等方面，而不單單是純算法。客戶衡量AI技術的預算不是根據AI作為高大上的技術來做的，而是根據生產力提升（用戶體驗提升，銷售轉換率等），運行效率優化，及經營業績能承受的預算能力來反推的，這和目前昂貴的AI投入成本是個矛盾。

而接下來的10年到20年走向萬物互聯的階段，除了整體解決方案的競爭、純算法公司的存亡值得關注以外，5G和AI相輔相成也將帶來新的機會。高通全球副總裁孫剛表示，預計2025年AI延伸出來的產業會產生5.1萬億美元的商業場景，到2030年由5G延伸出來的產業為12.3萬億，這兩個產業有非常大的前景。

5G的發展和AI是結合在一起的，因為5G是通訊的標準，而通訊標準的發展會帶來更快的通訊速度，同時也會產生更多的數據，數據則是AI的基礎，更多的數據就會使AI更有效。在這個基礎上，AI的技術會發展，發展過程中對數據有更多的需求，會促進5G的發展，這兩個技術的發展是相輔相成的。