國際數據公司（IDC）邊緣人工智能（AI）處理器的首次預測顯示，2019年全球用于邊緣系統的人工智能優化處理器的出貨量將達到3.401億臺，比2018年增長170.0%。IDC預計，到2023年，市場出貨量將達到15億臺，五年復合年增長率（CAGR）高達64.9%。

人工智能的出現正在顛覆微處理器市場。雖然通用處理器和圖形處理單元（GPU）的發展為越來越小、移動性越來越強的終端系統帶來了巨大的計算能力，但它們依然不是推理解決方案的理想平臺。人工智能優化處理器，無論是離散加速器還是集成了神經網絡加速器的主機處理器，都顯著優于通用架構處理器。每個主要供應商都在通過開發新的解決方案來適應新的計算模式，包括剛剛進入處理器市場的由風投公司支持的運營新IP和加速卡的初創公司也是如此。

隨著人工智能解決方案在網絡邊緣的擴展，以及人工智能工作負載的不斷提升，人工智能優化處理器的市場機會將會增加。2018年，只有5.1%的邊緣系統運行了人工智能優化處理器。預計到2023年，占比將達到40.5%，邊緣系統人工智能優化處理器的市場規模將達到404億美元，復合年增長率達到86.4%。

在本預測中，邊緣系統包括主要客戶端，如PC、手機和平板；邊緣基礎架構網關和服務器；以及部署在企業、政府和家庭網絡邊緣的終端和物聯網設備。邊緣人工智能處理器的一些關鍵應用領域包括汽車高級駕駛輔助系統（ADAS）、游戲系統、智能家居和視頻監控。其他主要市場包括工業自動化、醫療設備、AR/VR設備、機器人和無人機。

IDC半導體研究團隊的研究總監Michael J. Palma表示： “人工智能的成功在于部署到邊緣的系統，在邊緣系統中，神經網絡做出的即時決策實際上可以創造價值，不受延遲和連接問題的約束——而這些問題對云解決方案來說是個挑戰。但人工智能在邊緣領域的前景取決于高效計算處理元素的開發，這些元素針對人工智能工作負載進行了優化，支持大多數邊緣系統的功率受限特性。目前，離散加速器提供了最佳性能，但增加了BOM成本。最終的成功很可能需要將人工智能優化處理元素集成到主機處理器中。”