本文轉(zhuǎn)自：邊緣計(jì)算社區(qū)

19位歐美頂尖學(xué)者聯(lián)合撰寫的重磅論文，由邊緣計(jì)算社區(qū)傾力翻譯完成，如有不足之處，敬請(qǐng)指正。本論文首發(fā)于 IEEE Internet Computing：

《Revisiting Edge AI: Opportunities and Challenges》

（重新審視邊緣人工智能：機(jī)遇與挑戰(zhàn)）

發(fā)表日期：2024年7-8月

期刊卷號(hào)：第28卷，第49-59頁(yè)

DOI：10.1109/MIC.2024.3383758

本文深度剖析了邊緣人工智能（Edge AI）的最新發(fā)展動(dòng)態(tài)，全面探討了當(dāng)前的機(jī)遇與挑戰(zhàn)，為產(chǎn)業(yè)界與學(xué)術(shù)界提供了重要的指導(dǎo)性洞見(jiàn)。

以下是翻譯全文，共計(jì) 10280 字。重新審視邊緣人工智能：機(jī)遇與挑戰(zhàn)

邊緣人工智能（Edge AI）是一種創(chuàng)新的計(jì)算范式，旨在將機(jī)器學(xué)習(xí)模型的訓(xùn)練和推理移至網(wǎng)絡(luò)邊緣。該范式帶來(lái)了極大的潛力，可以通過(guò)諸如自動(dòng)駕駛、個(gè)性化健康護(hù)理等新服務(wù)顯著改善我們的日常生活。然而，邊緣智能的實(shí)現(xiàn)面臨諸多挑戰(zhàn)，比如模型架構(gòu)設(shè)計(jì)的約束、已訓(xùn)練模型的安全分發(fā)與執(zhí)行，以及分發(fā)模型和訓(xùn)練數(shù)據(jù)所需的高網(wǎng)絡(luò)負(fù)載。本文總結(jié)了邊緣AI的發(fā)展關(guān)鍵節(jié)點(diǎn)，分析當(dāng)前的挑戰(zhàn)，并探討將人工智能與邊緣計(jì)算結(jié)合的研究機(jī)遇。

邊緣計(jì)算的重要轉(zhuǎn)變

邊緣計(jì)算是一種重要的范式轉(zhuǎn)變，通過(guò)將數(shù)據(jù)處理更靠近數(shù)據(jù)源，正在重塑互聯(lián)網(wǎng)和應(yīng)用的格局。這一戰(zhàn)略性演進(jìn)有望提升效率、響應(yīng)速度，并更好地保護(hù)隱私。從以云為主的解決方案起步，如今越來(lái)越多的應(yīng)用正在沿著計(jì)算連續(xù)體向邊緣設(shè)備靠近。雖然過(guò)去對(duì)邊緣設(shè)備的定義有多種不同解釋，從用戶終端設(shè)備到小型本地化數(shù)據(jù)中心，但邊緣設(shè)備的總體特性是相似的：靠近用戶并在本地處理數(shù)據(jù)。

盡管近年來(lái)邊緣解決方案的普及度有所提高，但其部署速度仍然相較于云市場(chǎng)的增長(zhǎng)顯得相對(duì)較慢。這可以歸因于建設(shè)和管理分布式基礎(chǔ)設(shè)施的高成本，以及相比于僅為云構(gòu)建應(yīng)用，開(kāi)發(fā)邊緣應(yīng)用的相對(duì)復(fù)雜性。

人工智能（AI）的興起及其對(duì)訓(xùn)練數(shù)據(jù)的巨大需求，使得利用邊緣設(shè)備進(jìn)行訓(xùn)練和推理成為一個(gè)顯而易見(jiàn)的后續(xù)發(fā)展趨勢(shì)。機(jī)器學(xué)習(xí)（ML）應(yīng)用對(duì)大量數(shù)據(jù)的需求，確實(shí)使得在邊緣進(jìn)行數(shù)據(jù)訓(xùn)練和推理相比于云為中心的方式更加高效且合理。此外，在靠近邊緣或直接在邊緣對(duì)ML模型進(jìn)行訓(xùn)練和推理，還為終端用戶帶來(lái)了顯著優(yōu)勢(shì)，包括更好的數(shù)據(jù)隱私保護(hù)和更快的響應(yīng)時(shí)間。

然而，將人工智能與邊緣計(jì)算相結(jié)合也帶來(lái)了更多挑戰(zhàn)，尤其是由于邊緣設(shè)備的資源限制和可用性。這些局限性在與穩(wěn)健且無(wú)處不在的云基礎(chǔ)設(shè)施相比時(shí)顯得尤為明顯。然而，像自動(dòng)駕駛這樣的應(yīng)用場(chǎng)景，不僅需要低延遲的響應(yīng)，還要求以極高的速率處理高維數(shù)據(jù)，這鮮明地展示了邊緣智能的必要性。在此類安全關(guān)鍵型應(yīng)用中，哪怕是幾毫秒的延遲都至關(guān)重要，這使得獲取數(shù)據(jù)源和模型決策的最小延遲變得至關(guān)重要。同樣地，將學(xué)習(xí)和推理引入邊緣將催生新的創(chuàng)新型和實(shí)用型應(yīng)用，例如機(jī)器人技術(shù)、沉浸式多用戶應(yīng)用（增強(qiáng)現(xiàn)實(shí)）以及智能醫(yī)療保健，從而徹底變革我們的生活方式。

在探索人工智能（AI）與邊緣計(jì)算協(xié)同發(fā)展的過(guò)程中，解決邊緣計(jì)算與智能融合所帶來(lái)的獨(dú)特挑戰(zhàn)至關(guān)重要。盡管邊緣智能具有巨大的潛力，但其發(fā)展受到資源限制的影響，特別是在計(jì)算和存儲(chǔ)資源方面，這與傳統(tǒng)云基礎(chǔ)設(shè)施的能力形成了顯著對(duì)比。由于這些局限性，保護(hù)數(shù)據(jù)安全和確保快速響應(yīng)時(shí)間仍然是重大挑戰(zhàn)。在許多情況下，當(dāng)前的邊緣計(jì)算解決方案在這些方面仍落后于純云計(jì)算。

邊緣基礎(chǔ)設(shè)施通常部署在物理可訪問(wèn)的地點(diǎn)，無(wú)法受益于云計(jì)算中使用的基于邊界的保護(hù)措施。為了使邊緣計(jì)算真正成為現(xiàn)有純?cè)平鉀Q方案的有力補(bǔ)充，未來(lái)的研究需要聚焦于邊緣智能的安全性、可用性和效率。本文不僅回顧了過(guò)去十年來(lái)邊緣人工智能的發(fā)展歷程，還對(duì)不同利益相關(guān)方的觀點(diǎn)進(jìn)行了批判性分析，并概述了這一領(lǐng)域中的迫切挑戰(zhàn)以及令人興奮的未來(lái)研究方向。

邊緣AI的十年歷程

邊緣智能作為邊緣計(jì)算范式的演化而出現(xiàn)，其根源可以追溯到2000年代，主要是由云計(jì)算在處理本地設(shè)備生成的日益增長(zhǎng)的數(shù)據(jù)方面的局限性所驅(qū)動(dòng)。邊緣計(jì)算分散了數(shù)據(jù)處理，將其推向網(wǎng)絡(luò)邊緣的數(shù)據(jù)源。這種接近性減少了數(shù)據(jù)必須傳輸?shù)木嚯x，從而減少了延遲并節(jié)省了帶寬。此外，邊緣計(jì)算通過(guò)本地處理敏感數(shù)據(jù)，減輕了中央服務(wù)器的數(shù)據(jù)負(fù)載并增強(qiáng)了隱私保護(hù)功能。邊緣計(jì)算與云計(jì)算可以相輔相成，形成所謂的計(jì)算連續(xù)體。邊緣計(jì)算解決即時(shí)的本地化處理需求，而云計(jì)算則在大規(guī)模數(shù)據(jù)存儲(chǔ)和復(fù)雜計(jì)算任務(wù)中不可或缺。

邊緣AI的興起

邊緣智能是邊緣計(jì)算的進(jìn)一步范式轉(zhuǎn)變，通過(guò)整合人工智能（AI）以增強(qiáng)網(wǎng)絡(luò)邊緣的處理能力。這種整合不僅進(jìn)一步降低了延遲，還減輕了中央服務(wù)器的帶寬需求，同時(shí)帶來(lái)了額外優(yōu)勢(shì)，例如通過(guò)聯(lián)邦學(xué)習(xí)等分布式機(jī)器學(xué)習(xí)方法提升隱私保護(hù)，以及通過(guò)本地自治和去中心化控制提高系統(tǒng)韌性。

邊緣智能廣泛應(yīng)用于多個(gè)領(lǐng)域，包括智慧城市、醫(yī)療保健、自動(dòng)駕駛和工業(yè)自動(dòng)化，這些領(lǐng)域?qū)Φ脱舆t和本地?cái)?shù)據(jù)處理有著關(guān)鍵需求。這一趨勢(shì)因5G網(wǎng)絡(luò)的日益普及以及未來(lái)6G網(wǎng)絡(luò)所承諾的高帶寬連接能力而進(jìn)一步加速，這些技術(shù)為邊緣智能應(yīng)用提供了必要的高速連接。圖1展示了人工智能從云端集中式訓(xùn)練和推理模式向邊緣人工智能解決方案轉(zhuǎn)變的過(guò)程，并以兩個(gè)典型用例（自動(dòng)駕駛和互聯(lián)健康解決方案）說(shuō)明了其中的挑戰(zhàn)和機(jī)遇。

圖1.展示了從云端集中式人工智能（左）向邊緣人工智能（右）的轉(zhuǎn)變，以及針對(duì)兩個(gè)典型目標(biāo)應(yīng)用——自動(dòng)駕駛車輛和個(gè)性化醫(yī)療保健——所面臨的相關(guān)挑戰(zhàn)和機(jī)遇。
邊緣AI的現(xiàn)狀

當(dāng)前的邊緣智能研究可以分為兩個(gè)主要子領(lǐng)域：邊緣上的AI（AI on edge）和為邊緣服務(wù)的AI（AI for edge）。前者聚焦于適應(yīng)去中心化、異構(gòu)性以及機(jī)會(huì)性邊緣環(huán)境的人工智能方法；后者則專注于利用這些方法為計(jì)算連續(xù)體帶來(lái)益處。

邊緣上的AI（AI on edge）得益于機(jī)器學(xué)習(xí)算法（尤其是深度學(xué)習(xí)）的進(jìn)步，以及這些算法在資源受限設(shè)備上執(zhí)行的優(yōu)化。輕量級(jí)神經(jīng)網(wǎng)絡(luò)的開(kāi)發(fā)以及模型剪枝和量化等技術(shù)在使復(fù)雜AI模型能夠高效運(yùn)行于邊緣設(shè)備上方面起到了關(guān)鍵作用。在圖1中，邊緣上的AI使得模型的訓(xùn)練和推理能夠直接在邊緣進(jìn)行，這可以通過(guò)邊緣設(shè)備之間的直接交互以協(xié)作形式完成，也可以利用靠近這些設(shè)備的本地邊緣服務(wù)器實(shí)現(xiàn)。

一個(gè)顯著的趨勢(shì)是分布式機(jī)器學(xué)習(xí)技術(shù)的興起，用于在多個(gè)邊緣設(shè)備上訓(xùn)練和推理AI模型，同時(shí)保護(hù)數(shù)據(jù)隱私。例如，聯(lián)邦學(xué)習(xí)允許在無(wú)需集中數(shù)據(jù)的情況下進(jìn)行協(xié)作模型訓(xùn)練，這與邊緣計(jì)算的分布式特性相契合，并回應(yīng)了日益增長(zhǎng)的數(shù)據(jù)安全和隱私問(wèn)題。

為了在邊緣進(jìn)行大規(guī)模AI模型的推理而無(wú)需通過(guò)剪枝或量化來(lái)壓縮模型，可以將這些模型拆分為多個(gè)子模型，從而在多個(gè)可能是異構(gòu)的邊緣設(shè)備上分布式協(xié)作執(zhí)行。另一種方法是探索自適應(yīng)計(jì)算技術(shù)，其中推理成本取決于數(shù)據(jù)的復(fù)雜性。此外，分層推理也被提出，通過(guò)利用大規(guī)模與小規(guī)模神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)之間的協(xié)作，以在基于邊緣的推理場(chǎng)景中平衡準(zhǔn)確性、能效和延遲。

為邊緣服務(wù)的AI（AI for edge）在將人工智能與邊緣計(jì)算架構(gòu)相結(jié)合方面取得了顯著進(jìn)展，提升了邊緣設(shè)備執(zhí)行復(fù)雜數(shù)據(jù)處理和決策任務(wù)的能力，同時(shí)為計(jì)算連續(xù)體中資源的智能編排鋪平了道路，如圖1所示。

事實(shí)上，除了技術(shù)進(jìn)步之外，當(dāng)前邊緣智能的發(fā)展趨勢(shì)還受到對(duì)能源效率和可持續(xù)性的日益關(guān)注的影響。研究人員和從業(yè)者正在積極探索減少邊緣AI系統(tǒng)能源消耗的方法，這對(duì)于邊緣AI的廣泛部署尤為關(guān)鍵，特別是在電力供應(yīng)受限的環(huán)境中。必要的進(jìn)展包括開(kāi)發(fā)能源感知算法以及硬件優(yōu)化等，以減少系統(tǒng)的能耗負(fù)擔(dān)，推動(dòng)邊緣AI的可持續(xù)發(fā)展。

除了對(duì)邊緣上的AI（AI on edge）和為邊緣服務(wù)的AI（AI for edge）的特性描述外，我們還觀察到了不同的提供模式差異。許多邊緣計(jì)算的應(yīng)用是多層架構(gòu)的延伸，這些架構(gòu)將處理任務(wù)沿著從傳感器到執(zhí)行器、應(yīng)用領(lǐng)域的協(xié)調(diào)（例如生產(chǎn)車間）以及云服務(wù)的連續(xù)體進(jìn)行轉(zhuǎn)移。邊緣計(jì)算通過(guò)在這一連續(xù)體上合理布局處理任務(wù)，提供了應(yīng)對(duì)通信負(fù)載和延遲需求的機(jī)會(huì)。因此，我們將邊緣AI視為工業(yè)應(yīng)用中的一種重要現(xiàn)象。

誰(shuí)應(yīng)該關(guān)心？

隨著智能城市和工業(yè)自動(dòng)化等越來(lái)越復(fù)雜和數(shù)據(jù)驅(qū)動(dòng)的應(yīng)用的出現(xiàn)，過(guò)去十年中邊緣計(jì)算和邊緣人工智能的重要性顯著提高。然而，不同的利益相關(guān)者對(duì)這些范式及其相關(guān)技術(shù)有著不同的觀點(diǎn)。在下文中，我們介紹了四個(gè)利益相關(guān)者的視角：社會(huì)和工業(yè)的需求由開(kāi)發(fā)者轉(zhuǎn)化為解決方案，而這些解決方案受到政府設(shè)定的政策和法規(guī)的約束。理解這些利益相關(guān)者的個(gè)體視角，對(duì)于塑造未來(lái)的研究方向并促進(jìn)邊緣AI的穩(wěn)健發(fā)展至關(guān)重要。

圖2 提供了社會(huì)、政府、工業(yè)和開(kāi)發(fā)者對(duì)邊緣AI不同挑戰(zhàn)的關(guān)注點(diǎn)概覽。該圖表被視作為一種整體趨勢(shì)的解讀。

圖2. 社會(huì)、政府、工業(yè)和開(kāi)發(fā)者視角的需求。符號(hào)的深淺程度表示每個(gè)需求對(duì)相應(yīng)利益相關(guān)方視角的重要性（顏色越深表示需求越高）。

社會(huì)視角（人們的日常生活）

從社會(huì)角度來(lái)看，人們對(duì)邊緣 AI 的興趣主要集中在其實(shí)際應(yīng)用上，而非底層技術(shù)創(chuàng)新。邊緣人工智能在自動(dòng)駕駛車輛和智能家居等領(lǐng)域的應(yīng)用更容易引起關(guān)注。盡管普通用戶，特別是沒(méi)有技術(shù)背景的用戶，可能無(wú)法察覺(jué)基于云和基于邊緣執(zhí)行之間的延遲差異，但應(yīng)用的可訪問(wèn)性及其對(duì)日常生活的影響將更加顯著，因?yàn)檫@將實(shí)現(xiàn)更豐富的交互和更復(fù)雜的應(yīng)用。尤其在歐洲，隱私是一個(gè)非常重要的方面，這與邊緣計(jì)算和邊緣AI密切相關(guān)。

工業(yè)視角

從工業(yè)的角度來(lái)看，可以將邊緣 AI 的相關(guān)方分為兩類：邊緣AI的消費(fèi)者和邊緣AI的提供者。

邊緣AI的消費(fèi)者

對(duì)于邊緣AI的消費(fèi)者而言，可靠性和保障性是決定未來(lái)是否使用邊緣智能的關(guān)鍵因素。由于云和邊緣服務(wù)提供商眾多，信任多個(gè)系統(tǒng)和服務(wù)的可靠運(yùn)行變得困難。此外，系統(tǒng)故障的責(zé)任歸屬問(wèn)題變得更加復(fù)雜，難以明確將故障歸因于具體的組件或服務(wù)提供商，從而限制了追責(zé)的可能性。

盡管可以通過(guò)使用諸如AWS Wavelength這樣的云邊結(jié)合提供商來(lái)緩解這一挑戰(zhàn)，但使用單一提供商可能會(huì)顯著影響邊緣計(jì)算的一些優(yōu)勢(shì)，尤其是在系統(tǒng)穩(wěn)健性和數(shù)據(jù)保護(hù)方面。與社會(huì)視角類似，數(shù)據(jù)保護(hù)對(duì)于工業(yè)視角也至關(guān)重要。這包括保護(hù)邊緣處理過(guò)程中的數(shù)據(jù)、確保邊緣網(wǎng)絡(luò)提供商的可信性，以及保護(hù)知識(shí)產(chǎn)權(quán)（即開(kāi)發(fā)的邊緣應(yīng)用和訓(xùn)練的AI模型）。

邊緣AI的提供者

對(duì)于邊緣AI的提供者來(lái)說(shuō)，商業(yè)案例的可行性是決定邊緣AI成功的關(guān)鍵因素。過(guò)去，電信行業(yè)已經(jīng)從語(yǔ)音服務(wù)提供商轉(zhuǎn)型為數(shù)據(jù)服務(wù)提供商，如今，他們可能再次轉(zhuǎn)型成為計(jì)算服務(wù)提供商。特別是在移動(dòng)網(wǎng)絡(luò)領(lǐng)域，電信運(yùn)營(yíng)商是支持將計(jì)算能力靠近用戶并為其提供低延遲AI服務(wù)的自然候選者。然而，如果需要非通用模型，這將導(dǎo)致用戶模型向邊緣的遷移和部署。至今，這是否是一個(gè)可行的商業(yè)案例仍不明確。

潛在應(yīng)用的數(shù)量（例如輔助駕駛、老年人支持、實(shí)時(shí)翻譯服務(wù)等）非常可觀，但需要一個(gè)合理的商業(yè)模式來(lái)證明對(duì)電信基礎(chǔ)設(shè)施進(jìn)行此類擴(kuò)展的必要性。此外，眾多云和邊緣提供商及其相互連接性使得確保消費(fèi)者期望的系統(tǒng)可靠性變得困難。同樣，滿足消費(fèi)者對(duì)數(shù)據(jù)保護(hù)和可信性的需求也是一個(gè)挑戰(zhàn)。

邊緣AI解決方案的提供者還可以利用邊緣AI來(lái)改進(jìn)其服務(wù)，但這可能再次面臨解決方案可靠性的問(wèn)題。其中一個(gè)重要方面是考慮消費(fèi)者應(yīng)用在邊緣上的運(yùn)行，確保用于改進(jìn)操作的功能不會(huì)干擾這些應(yīng)用的正常運(yùn)行。

政府視角

政府對(duì)邊緣AI的看法是多方面的，涵蓋了諸如執(zhí)行道德和負(fù)責(zé)任的使用、保護(hù)公民隱私（呼應(yīng)社會(huì)關(guān)切）、保護(hù)公司知識(shí)產(chǎn)權(quán)、建立必要的基礎(chǔ)設(shè)施、通過(guò)共同標(biāo)準(zhǔn)促進(jìn)互操作性以及通過(guò)合法攔截監(jiān)控?cái)?shù)據(jù)交換等方面。不同政府的優(yōu)先事項(xiàng)排序各不相同。值得注意的是，歐洲國(guó)家已經(jīng)是隱私法規(guī)（如通用數(shù)據(jù)保護(hù)條例GDPR）和安全法規(guī)（如《歐盟網(wǎng)絡(luò)韌性法案》）方面走在前列，這些國(guó)家可能會(huì)更加重視邊緣AI的倫理使用以及隱私和安全的保護(hù)。最后，政府部門可以通過(guò)資金支持和政策法規(guī)推動(dòng)邊緣智能的發(fā)展，從而在各自的國(guó)家內(nèi)實(shí)現(xiàn)新的服務(wù)和應(yīng)用。

開(kāi)發(fā)者視角

從開(kāi)發(fā)者的角度來(lái)看，編程的便捷性對(duì)于采用邊緣人工智能（Edge AI）至關(guān)重要，尤其是在創(chuàng)建分布式應(yīng)用時(shí)。理想情況下，開(kāi)發(fā)者在解決邊緣AI的常見(jiàn)問(wèn)題（如用戶和數(shù)據(jù)的移動(dòng)性、分布式協(xié)調(diào)以及同步）時(shí)應(yīng)付出最小的努力。因此，為了讓開(kāi)發(fā)者更容易使用邊緣AI，有必要提供一個(gè)編程框架，以簡(jiǎn)化邊緣AI應(yīng)用的開(kāi)發(fā)和配置。這包括管理計(jì)算和存儲(chǔ)資源、自動(dòng)化部署模型的水印處理、處理傳感器數(shù)據(jù)的分發(fā)，以及為量子計(jì)算和神經(jīng)形態(tài)計(jì)算等新范式提供編程抽象。

總結(jié)與研究視角

研究視角結(jié)合了上述所有視角，形成了一個(gè)整體性觀點(diǎn)，旨在通過(guò)未來(lái)研究解決當(dāng)今邊緣人工智能（Edge AI）面臨的部分問(wèn)題。諸如Rausch等人和Nastic等人的多項(xiàng)研究已提出了針對(duì)邊緣AI的編程模型，使得訓(xùn)練和推理可以以去中心化的方式進(jìn)行，其中一個(gè)例子是聯(lián)邦學(xué)習(xí)范式。

雖然數(shù)據(jù)的本地化和相應(yīng)的去中心化可以被視為對(duì)數(shù)據(jù)隱私的積極影響，但對(duì)邊緣設(shè)備的信任有時(shí)可能會(huì)受到限制。因此，圍繞數(shù)據(jù)隱私保護(hù)的額外挑戰(zhàn)仍需解決，目前已經(jīng)有多種想法在被研究中。這些研究包括同態(tài)加密的應(yīng)用、在硬件安全執(zhí)行環(huán)境中對(duì)任務(wù)相關(guān)數(shù)據(jù)進(jìn)行設(shè)備端過(guò)濾，以及確保對(duì)邊緣AI解決方案信任的相關(guān)研究。在這些主題上的研究成果可以為政府在邊緣處理系統(tǒng)的監(jiān)管提供寶貴的參考意見(jiàn)。

當(dāng)前研究的挑戰(zhàn)與機(jī)遇

邊緣人工智能（Edge AI）為在本地設(shè)備中嵌入智能提供了一種變革性的方法。然而，它也面臨著資源限制、安全與隱私、可持續(xù)性以及能源危機(jī)等方面的挑戰(zhàn)。同時(shí)，邊緣AI在實(shí)時(shí)數(shù)據(jù)處理、效率提升以及個(gè)性化體驗(yàn)等方面帶來(lái)了顯著的機(jī)遇。

構(gòu)成人工智能的算法正逐步應(yīng)用于越來(lái)越多優(yōu)秀的用戶服務(wù)中。多項(xiàng)已發(fā)表的研究分析了這種應(yīng)用的實(shí)現(xiàn)方式及其技術(shù)潛力。這引發(fā)了一系列關(guān)于理解邊緣AI挑戰(zhàn)和機(jī)遇的問(wèn)題，以下將重點(diǎn)探討當(dāng)前最突出的幾個(gè)方面。

資源限制

邊緣設(shè)備的特點(diǎn)在于其計(jì)算和存儲(chǔ)資源有限。相比云端應(yīng)用可以利用包括CPU、GPU，甚至現(xiàn)場(chǎng)可編程門陣列（FPGA）在內(nèi)的多種計(jì)算設(shè)備，邊緣設(shè)備通常僅配備少量硬件加速器，并且這些加速器往往針對(duì)特定的應(yīng)用或使用場(chǎng)景設(shè)計(jì)。此外，邊緣設(shè)備的計(jì)算能力、內(nèi)存和存儲(chǔ)都受到嚴(yán)格限制，這進(jìn)一步制約了在邊緣設(shè)備上進(jìn)行模型訓(xùn)練和推理的可能性。

這一問(wèn)題在邊緣AI解決方案的應(yīng)用中尤為顯著，因?yàn)闄C(jī)器學(xué)習(xí)模型通常依賴專用硬件，并需要大量?jī)?nèi)存和存儲(chǔ)支持。此外，數(shù)據(jù)交換通常是關(guān)鍵環(huán)節(jié)，但也受限于可用的網(wǎng)絡(luò)帶寬。因此，需要開(kāi)發(fā)機(jī)制來(lái)限制交換信息的數(shù)量，不僅是與中央基礎(chǔ)設(shè)施之間的交換，還包括邊緣設(shè)備之間的數(shù)據(jù)交換，例如通過(guò)信息驅(qū)動(dòng)的優(yōu)先級(jí)排序來(lái)優(yōu)化交換效率。

由于邊緣設(shè)備的推理位置并非總是預(yù)先確定的，從強(qiáng)大的集中式設(shè)備到資源受限的邊緣設(shè)備都有可能，因此需要多個(gè)機(jī)器學(xué)習(xí)模型來(lái)適應(yīng)不同場(chǎng)景的需求。每種部署環(huán)境都有其獨(dú)特的限制和要求，無(wú)論是邊緣設(shè)備上的實(shí)時(shí)處理，還是在強(qiáng)大計(jì)算平臺(tái)上的全面分析。為此，開(kāi)發(fā)者通常需要根據(jù)不同的部署場(chǎng)景調(diào)整和優(yōu)化模型，以確保整個(gè)應(yīng)用場(chǎng)景中的效率和有效性。需要自動(dòng)化機(jī)制來(lái)支持這種適配，使得邊緣AI解決方案能夠無(wú)縫集成到各種場(chǎng)景中，滿足每個(gè)部署環(huán)境的特定需求和限制，同時(shí)盡可能保持最佳性能。

隱私與信任

確保可靠性、安全性、隱私性以及倫理完整性是建立邊緣AI應(yīng)用和連接系統(tǒng)可信度的關(guān)鍵。這一點(diǎn)尤為重要，因?yàn)檫吘壴O(shè)備處理敏感數(shù)據(jù)，若發(fā)生數(shù)據(jù)泄露，后果可能十分嚴(yán)重。

建立信任的關(guān)鍵在于安全的處理與存儲(chǔ)機(jī)制，結(jié)合強(qiáng)大的加密技術(shù)和嚴(yán)格的訪問(wèn)控制。盡管邊緣設(shè)備資源有限，但AI模型必須保持可靠性和準(zhǔn)確性，同時(shí)具備抵御對(duì)抗性攻擊的能力。有時(shí)，使用硬件支持的可信執(zhí)行環(huán)境被認(rèn)為是一種解決方案，但這種方法在性能和集成方面也面臨一系列挑戰(zhàn)。此外，AI決策的透明性和可解釋性在關(guān)鍵應(yīng)用中變得日益重要。遵守如GDPR（通用數(shù)據(jù)保護(hù)條例）之類的法規(guī)，確保數(shù)據(jù)隱私和安全，也是邊緣AI需要解決的關(guān)鍵問(wèn)題。

可持續(xù)性與能源效率

日益增長(zhǎng)的AI應(yīng)用需求凸顯了創(chuàng)建高能效和可持續(xù)的邊緣AI算法的重要性。高級(jí)AI，特別是深度學(xué)習(xí)，消耗了大量能源，這對(duì)可持續(xù)發(fā)展提出了挑戰(zhàn)。在邊緣AI中，平衡性能與能源效率至關(guān)重要。盡管實(shí)現(xiàn)更高的準(zhǔn)確性可能看起來(lái)是最終目標(biāo)，但必須認(rèn)識(shí)到，每一次對(duì)準(zhǔn)確性的微小提升通常都需要顯著增加能源消耗。這種權(quán)衡在某些超高準(zhǔn)確性并非關(guān)鍵的場(chǎng)景中尤為明顯。在這些情況下，為了獲取微不足道的準(zhǔn)確性提升而分配過(guò)多的能源資源可能既低效又對(duì)環(huán)境不可持續(xù)。因此，開(kāi)發(fā)者和研究人員必須謹(jǐn)慎評(píng)估提升準(zhǔn)確性所需的必要性及其帶來(lái)的能源消耗。

另一個(gè)重要方面是可再生能源對(duì)能源網(wǎng)的重要性不斷提升。由于大多數(shù)可再生能源依賴于環(huán)境條件（例如太陽(yáng)能電池需要陽(yáng)光），因此在某些時(shí)候，例如在一個(gè)陽(yáng)光充足且風(fēng)力強(qiáng)勁的炎熱夏日，電力會(huì)變得充裕。在這種情況下，盡管節(jié)約能源仍是邊緣AI面臨的一個(gè)重要挑戰(zhàn)，但另一個(gè)關(guān)鍵挑戰(zhàn)是利用能量過(guò)剩時(shí)段執(zhí)行一些非時(shí)間關(guān)鍵的計(jì)算（如模型訓(xùn)練）。在能源過(guò)剩時(shí)進(jìn)行這些計(jì)算有助于平衡能量生產(chǎn)高峰，并彌補(bǔ)大多數(shù)可再生能源波動(dòng)性帶來(lái)的問(wèn)題。此外，地理分布式的能源需求可以緩解某些地區(qū)（如美國(guó)北弗吉尼亞和荷蘭阿姆斯特丹）大型數(shù)據(jù)中心集中的供給問(wèn)題。由于當(dāng)前的能源儲(chǔ)存能力有限且效率低下，這種方式可以大大提高電網(wǎng)和邊緣設(shè)備的效率。

在關(guān)注運(yùn)行期間的能源消耗的同時(shí)，部署邊緣設(shè)備的生產(chǎn)和生命周期也同樣是一個(gè)重要挑戰(zhàn)。設(shè)計(jì)更耐用、可升級(jí)和可回收的設(shè)備對(duì)改善邊緣AI解決方案的環(huán)境足跡至關(guān)重要。此外，實(shí)施鼓勵(lì)節(jié)能AI的政策以及對(duì)設(shè)備制造和處置的環(huán)境影響進(jìn)行監(jiān)管也是不可或缺的。

可編程性與互操作性

邊緣AI涉及多種設(shè)備，如智能手機(jī)、物聯(lián)網(wǎng)設(shè)備和工業(yè)機(jī)械，每種設(shè)備都有獨(dú)特的限制。由于需要在各種硬件上高效協(xié)調(diào)服務(wù)，為邊緣AI創(chuàng)建可編程框架是一項(xiàng)挑戰(zhàn)。開(kāi)發(fā)人員需要面對(duì)設(shè)備能力的復(fù)雜性，如CPU性能、GPU可用性、內(nèi)存和能耗等方面的差異。這種復(fù)雜性使得在大規(guī)模場(chǎng)景（如智慧城市）中部署服務(wù)成為一項(xiàng)重大且持續(xù)的挑戰(zhàn)。缺乏標(biāo)準(zhǔn)化工具進(jìn)一步增加了開(kāi)發(fā)難度，開(kāi)發(fā)者往往需要使用不兼容的工具和平臺(tái)，從而導(dǎo)致開(kāi)發(fā)時(shí)間延長(zhǎng)和集成問(wèn)題。

邊緣AI的可編程性挑戰(zhàn)因互操作性的需求而進(jìn)一步加劇，即需要在多種設(shè)備和系統(tǒng)（如傳感器、智能手機(jī)和工業(yè)機(jī)械）上組合操作。這些設(shè)備盡管在操作系統(tǒng)、軟件和硬件上存在差異，也需要無(wú)縫協(xié)作。一個(gè)關(guān)鍵問(wèn)題是缺乏標(biāo)準(zhǔn)化的協(xié)議和數(shù)據(jù)格式，因此開(kāi)發(fā)通用標(biāo)準(zhǔn)以實(shí)現(xiàn)高效通信變得至關(guān)重要。將邊緣AI與現(xiàn)有系統(tǒng)集成時(shí)，往往會(huì)遇到不受支持的軟件和硬件組件帶來(lái)的問(wèn)題。隨著互聯(lián)設(shè)備數(shù)量的增長(zhǎng)，設(shè)備的可擴(kuò)展性以及新設(shè)備的輕松集成變得既重要又困難。在實(shí)時(shí)處理場(chǎng)景（如環(huán)境監(jiān)測(cè)、自動(dòng)駕駛和工業(yè)4.0）中，減少互操作性造成的延遲至關(guān)重要。然而，在這種互聯(lián)環(huán)境中高效管理資源，同時(shí)考慮整個(gè)系統(tǒng)中的可用資源，也是需要解決的關(guān)鍵挑戰(zhàn)。

總之，統(tǒng)一的可編程框架對(duì)于高效部署邊緣AI算法至關(guān)重要，能夠確保服務(wù)協(xié)調(diào)、資源管理以及設(shè)備間的互操作性在整個(gè)系統(tǒng)中的有效運(yùn)行。

可靠性與彈性

可靠性關(guān)注運(yùn)行在邊緣計(jì)算設(shè)備上的AI系統(tǒng)在進(jìn)行AI決策時(shí)的可靠性、安全性和穩(wěn)健性。這包括確保這些系統(tǒng)即使在充滿挑戰(zhàn)或不可預(yù)測(cè)的環(huán)境中，也能始終如一地表現(xiàn)出色且準(zhǔn)確。這些系統(tǒng)在醫(yī)療保健和工業(yè)自動(dòng)化等關(guān)鍵的網(wǎng)絡(luò)領(lǐng)域中尤為重要，必須具備強(qiáng)大的設(shè)計(jì)和有效的故障切換策略以確保始終正常運(yùn)行。開(kāi)發(fā)的系統(tǒng)必須能夠保護(hù)數(shù)據(jù)和AI模型的完整性，抵御各種威脅，具備處理更多數(shù)據(jù)的能力，并能夠容納更多設(shè)備或覆蓋更廣的地理區(qū)域。這些系統(tǒng)需要具備自主檢測(cè)和解決故障的能力，并能適應(yīng)不斷變化的條件和新興的威脅，從而實(shí)現(xiàn)可靠的運(yùn)行。

除了可靠性，邊緣AI的彈性對(duì)其始終可操作性也至關(guān)重要。彈性指的是在各種條件下，系統(tǒng)對(duì)安全攻擊和中斷保持可靠運(yùn)行的能力。邊緣設(shè)備需要對(duì)諸如極端溫度和機(jī)械沖擊等物理挑戰(zhàn)保持穩(wěn)健，同時(shí)維護(hù)數(shù)據(jù)的完整性和安全性。即使在網(wǎng)絡(luò)條件較差的情況下，邊緣系統(tǒng)也應(yīng)能夠通過(guò)替代通信技術(shù)或穩(wěn)健的協(xié)議提供可靠的連接，或者在離線狀態(tài)下繼續(xù)運(yùn)行，直到連接恢復(fù)。此外，這些系統(tǒng)需要具備容錯(cuò)能力，并可能需要備份解決方案。AI模型應(yīng)能夠適應(yīng)不斷變化的數(shù)據(jù)模式，而無(wú)需進(jìn)行大規(guī)模的重新訓(xùn)練。隨著邊緣AI網(wǎng)絡(luò)的擴(kuò)展，可擴(kuò)展性和可管理性變得尤為重要，同時(shí)還需高效的資源管理以應(yīng)對(duì)整個(gè)系統(tǒng)中變化的工作負(fù)載。

可測(cè)量性

由于云-邊緣連續(xù)體的獨(dú)特特性（如分布式的訓(xùn)練和推理、共享資源）和不同邊緣AI應(yīng)用及連接系統(tǒng)的約束條件（如資源限制、實(shí)時(shí)性需求），定義通用的性能評(píng)估指標(biāo)是一項(xiàng)挑戰(zhàn)。特別是對(duì)于前文提到的那些當(dāng)前難以測(cè)量和量化的挑戰(zhàn)而言，定義準(zhǔn)確的衡量指標(biāo)對(duì)于相關(guān)領(lǐng)域的研究至關(guān)重要。

此外，邊緣AI的一個(gè)重要挑戰(zhàn)是如何在準(zhǔn)確性、延遲、資源使用和隱私之間平衡這些權(quán)衡。這種平衡在整個(gè)連續(xù)體中尤為復(fù)雜。盡管仿真或模擬可以預(yù)測(cè)某些場(chǎng)景下方法的性能，但驗(yàn)證這些方法在真實(shí)環(huán)境中的有效性同樣重要。在真實(shí)場(chǎng)景中開(kāi)發(fā)基準(zhǔn)評(píng)估框架并結(jié)合實(shí)際使用案例，仍然是一項(xiàng)未解決的挑戰(zhàn)。這些基準(zhǔn)必須依賴于通用的指標(biāo)，以精確衡量和評(píng)估邊緣AI的獨(dú)特特性。

未來(lái)研究方向

在本節(jié)中，我們確定了一些最具前景的研究方向：將大型語(yǔ)言模型（LLMs）集成到邊緣AI應(yīng)用中、自主車輛的低延遲推理、聚焦于社會(huì)中的能源和隱私問(wèn)題、增強(qiáng)邊緣互操作性，以及推動(dòng)邊緣AI系統(tǒng)的信任與安全的進(jìn)步。接下來(lái)，我們將詳細(xì)闡述每個(gè)研究方向。

將大型語(yǔ)言模型集成到邊緣AI中

將大型語(yǔ)言模型（LLMs）集成到邊緣設(shè)備上的應(yīng)用中代表了未來(lái)研究的一個(gè)激動(dòng)人心的方向。傳統(tǒng)上，LLMs因推理計(jì)算需求過(guò)高而主要局限于基于云的推理。然而，在邊緣設(shè)備上運(yùn)行LLMs則引入了一種全新的范式。如今，越來(lái)越多的邊緣設(shè)備配備了節(jié)能的加速器。例如，蘋果神經(jīng)引擎（ANE）已被集成到iPhone中，谷歌的邊緣張量處理單元（TPU）也作為嵌入設(shè)備的子模塊提供支持。在這些邊緣加速器上運(yùn)行LLMs，為這些公司提供了推理“零成本”的優(yōu)勢(shì)，因?yàn)椤俺杀尽保ㄖ饕改芎模┈F(xiàn)在發(fā)生在終端用戶的設(shè)備上。這種方法可能有利于對(duì)延遲要求較低的應(yīng)用程序，例如社交媒體平臺(tái)，在這些場(chǎng)景下即時(shí)響應(yīng)并非關(guān)鍵需求。

然而，挑戰(zhàn)在于如何將這些計(jì)算密集型模型調(diào)整到邊緣設(shè)備的限制條件下，包括有限的處理能力和能耗效率。傳統(tǒng)的學(xué)習(xí)技術(shù)，例如蒸餾、神經(jīng)架構(gòu)搜索，以及系統(tǒng)技術(shù)如量化和稀疏化，都是潛在的解決方案，但它們的有效性尚未被完全驗(yàn)證。評(píng)估LLMs的難度進(jìn)一步增加了復(fù)雜性。因此，未來(lái)研究不僅應(yīng)該專注于優(yōu)化LLMs以適應(yīng)邊緣環(huán)境，還可以推動(dòng)定制化硬件的創(chuàng)新，開(kāi)發(fā)滿足邊緣設(shè)備功耗要求的解決方案。邊緣計(jì)算在自主代理中的應(yīng)用

自主代理對(duì)我們的社會(huì)正變得越來(lái)越重要，包括智能工廠中的自主機(jī)器人和自動(dòng)駕駛車輛等。盡管首批自動(dòng)駕駛汽車和自主機(jī)器人已被部署，這些代理目前僅能在持續(xù)的網(wǎng)絡(luò)連接、特定區(qū)域或特定條件下運(yùn)行。然而，即使在今天，大量的傳感器（包括外部和車載傳感器）已經(jīng)生成了海量數(shù)據(jù)，這些數(shù)據(jù)可能會(huì)壓垮傳統(tǒng)的互聯(lián)網(wǎng)基礎(chǔ)設(shè)施。如果這些數(shù)據(jù)能夠以低延遲共享，可以改善其他代理的行為，從而實(shí)現(xiàn)更高水平的自動(dòng)化。

邊緣計(jì)算可以對(duì)數(shù)據(jù)進(jìn)行本地處理，減少需要通過(guò)網(wǎng)絡(luò)傳輸?shù)拇罅繑?shù)據(jù)。這不僅提高了響應(yīng)速度和操作效率，還支持在“網(wǎng)絡(luò)盲點(diǎn)”進(jìn)行實(shí)時(shí)決策，這對(duì)于代理的可靠運(yùn)行至關(guān)重要。這不僅僅是一個(gè)“可有可無(wú)”的功能，而是必不可少的。多傳感器輸入、不同時(shí)間和環(huán)境下的感知、各種天氣條件以及社會(huì)元素等因素不僅支持以邊緣為中心的解決方案，還為邊緣設(shè)備上的訓(xùn)練和推理方面的研究開(kāi)辟了新的途徑

聚焦社會(huì)中的能源效率與隱私

社會(huì)對(duì)能源消耗和隱私問(wèn)題日益關(guān)注，這為邊緣AI提供了獨(dú)特的機(jī)遇。在邊緣設(shè)備上進(jìn)行本地處理可以通過(guò)將敏感信息留在設(shè)備內(nèi)來(lái)確保數(shù)據(jù)隱私，從而實(shí)現(xiàn)隱私保護(hù)。此外，在邊緣使用的線性功耗系統(tǒng)（如深度嵌入式部署中），通信成本（如Wi-Fi、藍(lán)牙等）往往高于計(jì)算成本。因此，迫切需要開(kāi)展研究以開(kāi)發(fā)能夠平衡通信開(kāi)銷與計(jì)算效率的節(jié)能邊緣AI解決方案。這需要探索能量感知算法、可持續(xù)硬件設(shè)計(jì)，以及優(yōu)化網(wǎng)絡(luò)協(xié)議以實(shí)現(xiàn)能源節(jié)約。

低功耗廣域網(wǎng)絡(luò)（LPWAN）是一種有前景的方向，其通過(guò)降低吞吐量來(lái)?yè)Q取功耗的減少。盡管這是一種在廣泛的帕累托曲線中的設(shè)計(jì)選擇，但如何開(kāi)發(fā)既能降低生產(chǎn)成本的通用性解決方案，同時(shí)又能針對(duì)特定應(yīng)用需求進(jìn)行定制化，仍然是一個(gè)尚未解決的研究問(wèn)題。

增強(qiáng)邊緣AI的互操作性

隨著邊緣AI系統(tǒng)的普及，確保其可擴(kuò)展性和互操作性成為一個(gè)新的且尚未充分探索的領(lǐng)域。一個(gè)懸而未決的問(wèn)題是，不同的AI支持的邊緣設(shè)備應(yīng)如何進(jìn)行互相通信。除了長(zhǎng)期存在的去中心化與中心化、星型結(jié)構(gòu)與環(huán)形結(jié)構(gòu)的爭(zhēng)論之外，一個(gè)令人振奮的研究方向是開(kāi)發(fā)標(biāo)準(zhǔn)化協(xié)議和框架，以實(shí)現(xiàn)多樣化邊緣設(shè)備和系統(tǒng)的無(wú)縫集成。這包括創(chuàng)建通用數(shù)據(jù)格式和通信標(biāo)準(zhǔn)，以促進(jìn)不同類型邊緣設(shè)備（如傳感器、可穿戴設(shè)備、智能手機(jī)、工業(yè)設(shè)備、自動(dòng)駕駛車輛等）之間的高效交互，更重要的是實(shí)現(xiàn)設(shè)備間的自動(dòng)發(fā)現(xiàn)。

邊緣AI的演進(jìn)還帶來(lái)了與新興的非馮·諾依曼架構(gòu)（如量子計(jì)算和類腦計(jì)算）實(shí)現(xiàn)互操作性的需求。開(kāi)發(fā)能夠與傳統(tǒng)計(jì)算系統(tǒng)有效通信和協(xié)作的協(xié)議和標(biāo)準(zhǔn)至關(guān)重要。這不僅涉及數(shù)據(jù)格式和通信協(xié)議的轉(zhuǎn)換，還需要理解和協(xié)調(diào)不同非馮·諾依曼架構(gòu)在處理和解釋數(shù)據(jù)方式上的根本差異。例如，類腦計(jì)算系統(tǒng)通過(guò)模擬人腦神經(jīng)結(jié)構(gòu)實(shí)現(xiàn)極端并行性和能效，但其基于事件驅(qū)動(dòng)且處理模擬數(shù)據(jù)（脈沖）。彌合這一差距對(duì)于創(chuàng)建真正互聯(lián)的邊緣AI生態(tài)系統(tǒng)至關(guān)重要，在該生態(tài)系統(tǒng)中，設(shè)備能夠利用當(dāng)前和未來(lái)計(jì)算范式的獨(dú)特優(yōu)勢(shì)。推進(jìn)邊緣AI系統(tǒng)的信任與安全確保邊緣AI系統(tǒng)的可信性和安全性至關(guān)重要，尤其是在它們逐漸成為關(guān)鍵基礎(chǔ)設(shè)施和個(gè)人設(shè)備的重要組成部分時(shí)。未來(lái)的研究應(yīng)重點(diǎn)開(kāi)發(fā)強(qiáng)大的安全協(xié)議和加密方法，以保護(hù)邊緣設(shè)備上處理的敏感數(shù)據(jù)。這包括增強(qiáng)邊緣AI系統(tǒng)抵御網(wǎng)絡(luò)威脅的彈性，并確保AI決策過(guò)程透明、可解釋且符合GDPR等法規(guī)標(biāo)準(zhǔn)。然而，這帶來(lái)了挑戰(zhàn)，因?yàn)檫吘壴O(shè)備有時(shí)缺乏可信環(huán)境，而可信環(huán)境對(duì)于保護(hù)隱私敏感數(shù)據(jù)至關(guān)重要。解決這些問(wèn)題不僅可以提高邊緣AI系統(tǒng)的安全性和可靠性，還能增強(qiáng)公眾對(duì)其部署和使用的信任感。

結(jié)論

在本文中，我們回顧了邊緣AI解決方案的歷史和現(xiàn)狀，從其作為邊緣計(jì)算與AI相結(jié)合的起源，到其當(dāng)前在資源受限的邊緣設(shè)備上實(shí)現(xiàn)去中心化推理與訓(xùn)練的發(fā)展?fàn)顟B(tài)。我們重點(diǎn)探討了當(dāng)今邊緣AI所面臨的各種挑戰(zhàn)和研究機(jī)遇，包括相關(guān)利益相關(guān)者在邊緣AI領(lǐng)域的觀點(diǎn)。最后，我們展望了該領(lǐng)域研究者未來(lái)的研究方向。