電子發燒友網報道（文/李彎彎）過去幾年，隨著英偉達推出Jetson系列開始，搭載各種AI算力芯片的邊緣設備相繼問世。因為外觀形似盒子，具備算法推理能力，為區分一般傳統工控機，行業多稱之為邊緣盒子，AI Box，算法盒子等。

隨著算法的豐富和多樣，邊緣盒子已廣泛應用于連鎖門店，加油站、化工廠、工地、廠區、電力系統、電信機房、智能安防、智慧社區、校園、景區、園區等場景，快速實現對檢測、分類、分割和特征提取等視覺算法的支持。

AI邊緣計算盒子搭配哪些算力芯片

AI邊緣計算盒子通常可以搭配多種AI算力芯片，具體取決于其設計目標、應用場景以及性能需求。如GPU，雖然GPU最初是為圖形渲染而設計的，但它們現在也被廣泛用于深度學習和其他AI任務。GPU具有大量的并行處理單元，可以高效地執行矩陣運算，這對于神經網絡訓練和推理非常有用。

如NPU，NPU專門設計用于執行神經網絡計算，特別是深度學習任務。它們通常具有高并行度、低功耗和優化的浮點運算能力，非常適合在邊緣計算設備上部署和運行復雜的AI模型。

還有ASIC、FPGA、CPU等，ASIC是為特定應用定制的芯片，對于某些特定的AI任務，ASIC可以提供極高的性能和能效比。FPGA是一種可編程的芯片，用戶可以根據需要配置其邏輯功能。CPU雖然不是專門為AI任務設計的，但它們仍然是邊緣計算設備中的關鍵組件。現代的CPU通常包含一些用于加速AI任務的指令集和特性。

具體到某個AI邊緣計算盒子，它可能搭載上述的一種或多種芯片。例如，某些盒子可能采用高性能的NPU和GPU的組合，以提供強大的AI計算能力。

目前市面上眾多AI邊緣計算盒子采用英偉達Jetson系列。AI邊緣計算盒子搭配英偉達的Jetson系列是一個強大的組合，能夠將深度學習和計算機視覺的能力直接帶到邊緣設備，實現實時的數據處理和分析。

英偉達的Jetson系列包括多種模塊和平臺，如Jetson Xavier NX、Jetson Orin NX、Jetson AGX Orin等，它們都具有高性能的GPU和專用的AI加速核心，可以快速處理圖像和視頻數據，為邊緣計算提供強大的算力支持。

如，研智科技基于英偉達Jetson Xavier NX系統開發了邊緣智能AI-BOX產品WES-WNX00-3220系列。這款產品適合嵌入式和邊緣系統中的高性能計算和AI應用，是并行運行多個現代神經網絡、同時處理來自多個傳感器的高分辨率數據的首選平臺。

圖為科技提供基于Jetson AGX Orin的TW-T906智盒，AI算力高達200TOPS，專為低速自動駕駛而生，可廣泛應用于無人配送車、無人環衛車、智能駕駛商務車、無人清掃船等場景。

華頡科技推出的英偉達Jetson Orin邊緣計算AI盒子是基于NVIDIA? Jetson? Orin NX/Orin Nano核心模塊的產品。這款邊緣計算AI盒子面向工業應用領域，具有優異的計算性能、高效率被動散熱、工業標準設計等特點，可以在邊緣環境廣泛部署，適用于智慧電力等多個場景。

研華科技基于英偉達Jetson系列的AI邊緣計算盒子，可以為工業應用提供智能化的解決方案。深圳市智仕達智能技術有限公司基于英偉達Jetson系列的邊緣計算盒子，能有效滿足了智慧交通、AMR、智慧安防、智能制造等多個領域的智能邊緣端算力升級需求。

國產AI邊緣盒子算力芯片有哪些

目前也有不少廠商采用國產芯片，如圖為邊緣計算機T1206，則是基于瑞芯微RK3588處理器芯片設計。該產品內嵌的NPU支持INT4/INT8/INT16/FP16混合運算，完整的外設接口，具備超長MTBF穩定運行能力，可應用于機器人、無人配送車、低空防御、智能巡檢、智慧樓宇等自主化機器，是邊緣端部署AI算力進行深度學習的理想載體。

定昌電子基于瑞芯微RK3588研發的邊緣盒子，具備6TOPS AI算力，可用作商顯人臉識別主機，流媒體服務器，工控視覺運算，人形識別，物體識別，汽體識別，AI監控，視頻圖像過濾，智能物流貨品識別等多種AI算法應用場景。

該公司還研發了基于瑞芯微RK3568的邊緣計算盒子，內嵌NPU具有1TOPS算力，可做輕量級AI項目，適用智慧商顯廣告機，數據采集，視頻播放，邊緣AI計算，智能O2O零售終端機，工控主機等行業領域。

瑞芯微長期深耕AIoT領域，形成了各種算力、各種場景的AIoT SoC系列芯片平臺，并深入布局視覺、音頻、視頻等AI算法，同時高效支持主流模型架構，滿足小模型在邊緣側、端側部署的需求，賦能邊緣側、端側的各種AIoT智能硬件產品，為百行百業的智能化升級和數字化轉型提供了強力支持。

其RK3568/RK3588芯片可以用來做邊緣計算盒子開發，這兩款芯片NPU算力有所不同，RK3568具備1TOPS算力，RK3588具備6TOPS算力。因此，小型AI計算或視覺分析等項目，一般采用RK3568方案，中大型AI計算視覺分析等項目可以采用RK3588方案。

此外，2023年瑞芯微完成了新一代中高端AIoT處理器RK3576的研發設計工作并流片。RK3576 采用先進制程設計，搭載公司自研的6TOPs算力的最新一代NPU，支持Transformer 模型架構相關算子，人工智能計算效率顯著提升，可以支持各類 AI 算法高效運行。

據稱，百度最新發布的磐玉AI邊緣計算盒產品-磐玉-AIBOX-L01，就基于瑞芯微這款新的RK3576芯片打造。磐玉AI邊緣計算盒內置80余種跨行業真實場景的算法適配，能夠有效滿足客戶的本地模型計算需求。

也有廠商采用寒武紀的AI芯片，風潮互動官網有一款其合作品牌的C16邊緣計算盒，搭載的就是寒武紀純國產AI推理加速芯片MLU220，INT8等效算力高達16Tops。該產品具有超強計算性能、大容量存儲、配置靈活、體積小、支持溫度范圍寬、環境適應性強、易于維護管理等特點。集成風潮互動自主研發的N-PIPE+UNN視覺推導平臺，支持市面上常見視覺AI模型。該產品支持各類邊緣、智慧園區/安防/商業/交通等多領域多場景靈活部署。

華頡科技有一款邊緣計算盒子HE10C，也采用了寒武紀的MLU220芯片，不過同時它也采用了瑞芯微RK3568芯片。整機擁有32 TOPS INT8算力，支持TensorFlow、Caffe、PyTorch等主流深度學習框架，該設備面向工業應用領域，具有優異計算性能、高效率被動散熱、工業標準設計等特點，可以在邊緣環境廣泛部署，適用于智慧電力、智慧工廠、智慧園區、智慧安防、智慧工地等場景。

MLU220是寒武紀2019年推出的邊緣AI系列產品，這也是寒武紀首款面向邊緣智能計算領域的AI芯片。思元220芯片是一款專門用于深度學習的SOC邊緣加速芯片，采用TSMC 16nm工藝，它具有高算力，低功耗和豐富的I/O接口。它采用了寒武紀在處理器架構領域的一系列創新性技術，其架構為寒武紀最新一代智能處理器MLUv02，實現最大32TOPS（INT4）算力，而功耗僅10瓦。

此外，還有一些邊緣計算盒子采用算能的芯片，如華頡科技，其之前基于算能BM1684高性能芯片開發邊緣計算AI BOX，整機擁有17.6 TOPS INT8算力，支持TensorFlow、Caffe、PyTorch等主流深度學習框架，面向工業應用領域，具有優異計算性能、高效率被動散熱、工業標準設計等特點，可以在邊緣環境廣泛部署，適用于智慧電力、智慧工廠、智慧園區、智慧安防、智慧工地等場景。

此外，還有英碼科技，該公司基于算能第四代AI處理器BM1684X開發的邊緣計算盒子—IVP03X智能工作站，具有高算力、編解碼能力強、超低功耗等特點。相較上一代BM1684系列的邊緣計算盒子，整機性能有很大的提升。英碼IVP03X智能工作站可廣泛應用于智慧城市、智慧安防、智慧社區以及智慧交通等領域的AI智能視頻分析和輕量級的模型訓練。

寫在最后

就如人工智能的實現離不開算力、算法，AI邊緣計算盒子也是算力和算法的集合體。在算力層面，AI邊緣計算盒子離不開AI算力芯片的支持，如上述提到的英偉達的Jetson系列，瑞芯微的RK3568/RK3588芯片，寒武紀的MLU220，以及算能的BM1684/BM1684X等。當然除了這些企業之外，還有不少企業都能夠提供這樣的芯片支持，包括云天勵飛、鯤云科技等。