隨著人工智能技術的不斷發展,邊緣計算(Edge Computing)已成為企業創新與數字化轉型的重要引擎。如何在有限的計算資源下,實現高速且精確的 AI 推理任務,是企業面臨的主要挑戰之一。Axelera AI 憑借其卓越的 AI 加速解決方案,致力于協助企業快速部署高性能、低功耗的邊緣計算平臺,廣泛應用于智慧城市、智慧交通及工業檢測等領域。接下來說明 Axelera AI 產品特色與技術重點(Key Features and Technologies)。
Axelera AI 提供的 AI 加速產品具有以下特色與技術優勢:
Voyager SDK 的易用性和集成性:支持 ONNX,這是一種為機器學習設計的開放式文件格式,用于存儲訓練好的模型。可以讓不同的人工智能框架,例如 Pytorch、MXNet,采用相同的格式存儲模型數據并進行交互使用,從而實現易于集成和快速部署。
高性能AI模型推理加速:通過獨有的軟硬件協同優化技術,大幅提升推理效率并降低功耗。Metis AIPU 支持在 INT8 精度下高達 214 TOPS,ResNet-50 推理速度可達3,200幀每秒,遠超同級加速器,并且根據 Axelera 公布的基準測試結果,結合其 Voyager SDK,Metis 的平均推理速度超越主要競品。它的速度比 Hailo-8(26 TOPs)快約10倍,比高通的驍龍X(Snapdragon X 45 TOPs)快約4倍,在某些情況下甚至可以媲美 NVIDIA Jetson Orin AGX,性價比也令人印象深刻。在 M.2規格的開發版中,競爭對手寥寥無幾,主要包括 Hailo、Google Coral、Kneron、DeepX 和 Sima.ai。就原始性能而言,Metis M.2 是目前最快的選擇之一。
軟硬件協同加速:Voyager SDK 可自動處理量化、模型優化、前后處理并行執行(推理在 AIPU 上進行,其他處理可在 CPU/GPU 上并行執行),進一步縮短從圖像輸入到結果輸出的整體延遲。
Axelera Voyager SDK
多核可以同時處理多個模型:Metis AIPU 可選擇將四核心并發運行于單一大型模型,或獨立執行多個輕量模型,支持多流、多任務 AI pipeline,用于復雜圖像分析,例如多攝像頭或多階段處理。
功耗表現卓越:Axelera AI提供的產品,在邊緣設備中實現了高性能與低功耗的理想平衡。高效能達到15 TOPS/W,其推理計算與功耗比極具競爭力,典型運行功耗僅為8–15 W。Metis PCIe 模塊的實測功耗范圍在8到15瓦之間,而M.2卡的功耗更低,可低至3.5 W,峰值不超過9 W,非常適合用于功耗敏感的嵌入式或無風扇系統,適用于功耗嚴格限制的嵌入式與邊緣設備。
支持動態頻率調整(降頻):可根據實際運行需求調整時鐘,以進一步降低功耗并優化性能/能耗比。Metis AIPU內置降頻功能,能夠根據實際運行場景動態調整運算時鐘,靈活降低功耗。同時通過Voyager SDK智能配置,保持高效的fps/W,更適合在不同使用場景下實現功耗優化與性能兼顧。
D-IMC 架構優化能量使用:利用數字內存計算(Digital In-Memory Computing)減少數據搬移,避免能源浪費,是高性能結合低功耗的核心。
完整的開發生態圈:通過開源的GitHub平臺,提供詳盡的SDK安裝指南、模型轉換流程以及豐富的部署示例,簡化開發過程。
Axelera Github:https://github.com/axelera-ai-hub/voyager-sdk/blob/release/v1.3/README.md
再來說到應用案例分析,Axelera AI 已在實際應用案例中展現了顯著的性能提升,以下是幾個案例分析:
1. 智慧交通 - 實時 AI 推理性能:使用 Metis AIPU 配合 Voyager SDK 處理視頻流的性能可超過 780 FPS,彰顯其具備超高吞吐能力,非常適用于交通監控與車輛檢測等實時應用場景。以交通流量為例,將獲取的原始數據或采用實時的攝像頭來截取車流數據,可以計算特定時段的車流量數據,用于智慧交通的規劃。

2. 工業自動化與質量檢測:在工業制造領域,Axelera 強調 Metis AIPU 能在不損失準確度的前提下,提供GPU水平卻更低功耗的機器視覺性能,說明其能夠在生產線上實時完成缺陷檢測與分揀,相較人工具備更高的速度與精確度。以水果工廠為例,可在流水線上實時完成缺陷檢測與分揀,從而節省人工篩選的時間成本。

圖片出處:Axelera
3. 倉儲自動化多串流實時識別:也有企業導入 Metis M.2 卡,進行倉儲訂單核對系統,使用四路 1080p 高清影像進行實時手部與物體檢測,以高兼容性和低功耗成功取代傳統工業電腦。
Axelera AI邊緣計算加速方案憑借其卓越的性能、極佳的功耗效率以及簡便的部署流程,能夠有效幫助企業提升運營效率并降低整體成本。建議各行業的企業引入該方案,以有效增強產品和服務質量,推動企業智慧創新的發展。
?場景應用圖

?產品實體圖

?展示板照片

?方案方塊圖

?核心技術優勢
1. Metis AIPU芯片:INT8量化高達214 TOPS,提供卓越的推理性能和低功耗表現。
2. 數字記憶體內運算(Digital In-Memory Computing, D-IMC):顯著減少數據搬移需求,大幅提升能量效率。
3. Voyager SDK軟硬協同優化技術:自動化模型量化、編譯及部署,實現性能最大化和易用性提升。
4. 多核彈性運用:支持多串流推理、單一大型模型并行處理,靈活適應復雜應用場景。
5. 低功耗設計(Low-Power Design):PCIe模塊功耗為8–15W,M.2模塊功耗僅為3.5–9W,專為邊緣部署設計。
6. Downclock技術(動態時鐘調整):動態平衡功耗與性能,可根據不同實際需求靈活調整。
?方案規格
1. 推理性能:高達 214 TOPS (INT8 精度)
2. 模型支持 ONNX
3. 典型推理 FPS:ResNet-50 模型 3,200 FPS 以上
4. PCIe 版本功耗:典型 8–15W
5. M.2 版本功耗:典型 3.5–9W
6. 軟硬件接口支持:PCIe Gen3 x4, M.2 接口 (2280 規格)
7. SDK:Voyager SDK (量化、優化、自動部署)
登錄大大通網站,查看方案原文,了解更多詳情!
原文鏈接:https://www.wpgdadatong.com.cn/reurl/jMnMne
-
AI
+關注
關注
88文章
35136瀏覽量
279772 -
機器學習
+關注
關注
66文章
8503瀏覽量
134601 -
邊緣計算
+關注
關注
22文章
3326瀏覽量
50908
發布評論請先 登錄
軟通動力攜手華為云推出AI知識引擎與數據工程融合創新解決方案
華為AI UBB解決方案加速網絡邁向高階智能
移遠通信攜手高通舉辦“2025 高通邊緣智能創新應用大賽”,助力開發者探索AI創新潛能

英特爾借助開放生態系統,加速邊緣AI創新

Banana Pi 發布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 計算與嵌入式開發
Banana Pi 與瑞薩電子攜手共同推動開源創新:BPI-AI2N
MWC 2025 | 廣和通AIoT創新解決方案再“爆料”,以「AI For X」定義AI加速度

FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預測......
是德科技亮相DesignCon 2025,展示AI創新加速解決方案
LoRaWAN網絡在智慧水務中的創新解決方案

智能邊緣放大招!英特爾舉辦2024網絡與邊緣計算行業大會,邊緣AI創新助力多元化應用

評論