隨著物聯(lián)網(wǎng)開發(fā)人員解決在邊緣部署設(shè)備所面臨的連接性、可管理性和安全性挑戰(zhàn),現(xiàn)在的需求轉(zhuǎn)向使這些系統(tǒng)更智能。工程師現(xiàn)在的任務(wù)是將人工智能 (AI) 集成到網(wǎng)絡(luò)遠端的嵌入式系統(tǒng)中,這必須最大限度地減少功耗、通信延遲和成本,同時還要變得更加智能。
不幸的是,許多可用于嵌入式 AI 的處理解決方案太耗電,太難編程,或者對于邊緣應(yīng)用來說太昂貴。
為了在更高的性能、功耗、成本和易用性之間取得平衡,無晶圓廠 SoC 供應(yīng)商 Eta Compute 的 Tensai 芯片在 55 nm ULP 中結(jié)合了異步 Arm Cortex-M3 CPU、NXP CoolFlux DSP16 內(nèi)核和低功耗模擬模塊過程(圖 1)。Tensai 解決方案還包含一個神經(jīng)網(wǎng)絡(luò)軟件堆棧,用于實現(xiàn)在 DSP 的雙 16x16 MAC 上本地執(zhí)行的卷積神經(jīng)網(wǎng)絡(luò) (CNN) 和尖峰神經(jīng)網(wǎng)絡(luò) (SNN)。
圖 1. Tensai 架構(gòu)提供超低功耗和確定性以及 AI 邊緣計算所需的性能。
《 2mW 的邊緣 AI
Tensai 架構(gòu)采用多個穩(wěn)壓器來支持以小于 2 mW 的超低功耗、始終在線的處理,適用于紐扣電池或太陽能電池供電的 AI 系統(tǒng)。其中包括一個用于芯片實時時鐘和復(fù)位電路的專用穩(wěn)壓器,另一個用于存儲塊,第三個用于 MCU 和 DSP 內(nèi)核。
該設(shè)備僅消耗 600 納安電流,只需開啟常開模塊即可。在內(nèi)存塊通電的睡眠模式下,這個數(shù)字增加到 10 微安。
然而,Tensai 的超低功耗配置并沒有限制 SoC 在 AI 工作負載中的應(yīng)用。CoolFlux DSP16 內(nèi)核的運行頻率高達 100 MHz,每秒可提供 2 億個 16 位 MAC 的性能。Tensai 對來自 CIFAR-10 數(shù)據(jù)集的 32x32 像素圖像進行推理,每秒可以處理 5 張圖像,每張圖像消耗 0.4 毫焦耳。
對于非 DSP 工程師,Tensai 的神經(jīng)網(wǎng)絡(luò)軟件堆棧允許開發(fā)人員通過 Cortex-M3 上的解釋器傳遞量化的 TensorFlow Lite 模型,從而抽象出硬件編程的復(fù)雜性。然后 Cortex-M3 生成代碼,這些代碼被翻譯成可以在 DSP 上執(zhí)行的功能。
四通道 DMA 引擎在 I/O 和 32 KB PRAM 以及為 DSP 保留的 64 KB 聯(lián)合 XRAM 和 YRAM 之間傳輸數(shù)據(jù)。除了 16 位分辨率外,CoolFlux 內(nèi)核還可以處理兩個 8x8 MAC。
在人工智能的邊緣
超低功耗和易于編程將有助于將人工智能帶入普通嵌入式和物聯(lián)網(wǎng)工程師,因為他們將智能添加到邊緣。嵌入式和物聯(lián)網(wǎng)開發(fā)人員熟悉的 Tensai 芯片的其他高級特性包括:
512 KB 閃存(足夠約 450,000 個神經(jīng)網(wǎng)絡(luò)權(quán)重)
Cortex-M3 和 DSP 共享 128 KB SRAM
4 個 ADC 通道(12 位 ADC 在 200,000 個樣本/秒時消耗 uW)
4x PWM 通道
審核編輯:郭婷
-
dsp
+關(guān)注
關(guān)注
556文章
8155瀏覽量
357240 -
芯片
+關(guān)注
關(guān)注
459文章
52469瀏覽量
440372 -
嵌入式
+關(guān)注
關(guān)注
5149文章
19654瀏覽量
317269
發(fā)布評論請先 登錄
研華重返臺北電腦展,引領(lǐng)全球 AI 邊緣計算新浪潮

Deepseek海思SD3403邊緣計算AI產(chǎn)品系統(tǒng)
6TOPS算力NPU加持!RK3588如何重塑8K顯示的邊緣計算新邊界
什么是邊緣計算網(wǎng)關(guān)?深度解析邊緣計算網(wǎng)關(guān)的核心技術(shù)與應(yīng)用場景

FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預(yù)測......
DeepSeek賦能AI邊緣計算網(wǎng)關(guān),開啟智能新時代!

AI賦能邊緣網(wǎng)關(guān):開啟智能時代的新藍海
【新品體驗】幸狐Omni3576邊緣計算套件免費試用
研華科技邊緣AI平臺榮獲2024年IoT邊緣計算卓越獎
Orin芯片與邊緣計算結(jié)合
邊緣計算對網(wǎng)絡(luò)延遲的影響
邊緣計算的未來發(fā)展趨勢
邊緣計算架構(gòu)設(shè)計最佳實踐
邊緣計算AI算法盒子在停放充電區(qū)域AI智慧監(jiān)控的應(yīng)用

評論