AI 正在向邊緣遷移

從聊天機器人、內(nèi)容生成到高級數(shù)據(jù)分析，AI 已無處不在。過去，大多數(shù) AI 處理都在云端完成。然而，隨著模型功能日益強大以及對實時洞察的需求持續(xù)增長，AI 正在向邊緣轉(zhuǎn)移。智能攝像頭和傳感器中的卷積神經(jīng)網(wǎng)絡(luò) (CNN) 已印證這一趨勢。 但面對大語言模型 (LLM) 等新一代 AI 技術(shù)，時延、功耗和成本受到嚴(yán)格限制的嵌入式環(huán)境能否運行如此復(fù)雜的工作負(fù)載？簡而言之：可以，但這需要新型硬件的支持。

為何邊緣 AI 需要新方法

在邊緣部署 AI 并非只是將云端模型移植到小型設(shè)備，而是需要重新審視系統(tǒng)架構(gòu)，以滿足以下關(guān)鍵需求：

更低時延（如機器人、自主系統(tǒng)、智能制造和醫(yī)療影像）；

嚴(yán)苛的功耗和散熱限制（如電池供電設(shè)備和無風(fēng)扇外殼）；

安全性和數(shù)據(jù)主權(quán)（如本地處理敏感數(shù)據(jù)）；

更長的產(chǎn)品生命周期和現(xiàn)場更新（如工業(yè)及汽車領(lǐng)域的部署，以及更高效的新模型和算法開發(fā)）。

盡管傳統(tǒng) GPU 架構(gòu)專為滿足數(shù)據(jù)中心的計算密集型需求而設(shè)計，但在功耗受限型和時延敏感型嵌入式環(huán)境中，其表現(xiàn)往往不盡如人意。 憑借可定制的硬件管線和高效的并行處理能力，FPGA 能夠在不產(chǎn)生額外開銷的情況下，提供邊緣系統(tǒng)所需的出色性能表現(xiàn)。FPGA 固有的高適應(yīng)性更能讓開發(fā)人員針對特定工作負(fù)載進行優(yōu)化，在邊緣實現(xiàn)能效更高的實時 AI，從而使其成為更具戰(zhàn)略意義的選擇。這正是現(xiàn)場可編程門陣列 (FPGA) 的用武之地。

FPGA 和 AI：強強聯(lián)合

憑借其可重新編程邏輯架構(gòu)、嵌入式 AI 張量模塊以及多樣化的內(nèi)存架構(gòu)選擇，Altera 的 Agilex FPGA 和 SoC 產(chǎn)品組合為邊緣 AI 提供了更具競爭力的解決方案：

定制化硬件加速，無需設(shè)計 ASIC；

低時延推理，可滿足時間關(guān)鍵型應(yīng)用需求；

適應(yīng)性更強的 AI 管線，可隨模型和標(biāo)準(zhǔn)變化而動態(tài)調(diào)整；

能效表現(xiàn)更出色，尤其適合中低端 AI 部署場景。

然而，僅有可編程性還不夠。要真正加速邊緣 AI，工具鏈還須簡化從模型到硬件的全流程。

從框架到 FPGA：實現(xiàn)部署路徑的自動化

Altera 的一項關(guān)鍵創(chuàng)新在于彌合 AI 開發(fā)框架（如 TensorFlow 或 PyTorch）與 FPGA 硬件部署之間的鴻溝。 借助 Altera 的FPGA AI 套件和QuartusPrime 設(shè)計軟件，結(jié)合開源的 OpenVINO 工具套件，開發(fā)人員現(xiàn)在能夠：

直接導(dǎo)入主流框架的預(yù)訓(xùn)練 AI 模型；

自動優(yōu)化并量化模型以適應(yīng)邊緣硬件；

生成 RTL 并集成到更廣泛的嵌入式系統(tǒng)中；

利用 IP、參考設(shè)計和開發(fā)套件加速產(chǎn)品上市。

這種端到端流程讓工程師能夠?qū)Ｗ⒂趧?chuàng)新，而非重新構(gòu)建基礎(chǔ)設(shè)施。

真實世界中的影響力：從高性能到低功耗

FPGA 正在各行各業(yè)推動新一代 AI 解決方案落地：

工業(yè)自動化：缺陷檢測、預(yù)測性維護和自適應(yīng)控制；

汽車領(lǐng)域：高級駕駛輔助和傳感器融合；

醫(yī)療領(lǐng)域：便攜式診斷和 AI 輔助成像；

智慧城市和視覺系統(tǒng)：具備端側(cè)分析能力的智能攝像頭。

視頻編碼和流媒體公司Vitec 采用 Altera FPGA 將 AI 功能直接嵌入硬件，在不增加功耗和系統(tǒng)復(fù)雜性的前提下，加快了上市速度并實現(xiàn)了全新功能。

展望未來

隨著 AI 的持續(xù)發(fā)展，相關(guān)支持硬件也必須隨之演進。Altera 相信，未來的嵌入式智能將更具靈活性、可擴展性和可編程性。FPGA 為實現(xiàn)這一愿景奠定了堅實基礎(chǔ)。 無論是構(gòu)建低功耗傳感器中樞，還是高性能工業(yè)邊緣系統(tǒng)，Altera 都能提供更出色的硬件、工具、IP 和生態(tài)系統(tǒng)，在多樣化邊緣場景中助力 AI 落地。