隨著人工智能 (AI) 和深度學習應用在越來越多的行業中變得越來越普遍,對更好的性能、更大的深度神經網絡 (DNN) 模型容量和更低功耗的需求變得越來越重要。
與此同時,DNN 模型正在以指數級的速度增長。對于這些型號,傳統數字處理器難以以足夠低的功耗和足夠的內存資源提供必要的性能,特別是對于在邊緣運行的大型型號。這就是模擬計算的用武之地,使公司能夠以更低的功耗和更小的外形獲得更高的性能,而且具有成本效益。
模擬計算已經研究了幾十年,并提供了兩個主要優勢。首先,它的效率驚人;通過利用存儲元件進行神經網絡權重存儲和計算,它消除了數據移動。其次,它具有高性能和低延遲,使其適用于計算向量操作期間并行發生的數十萬個乘法累加運算。鑒于這兩個因素,模擬計算是滿足最新邊緣 AI 計算需求的理想選擇。
與數字相比,模擬的計算速度和功率效率長期以來一直很有希望。但是,除了開發這項技術的難以置信的困難之外,模擬計算的最大歷史障礙之一是其尺寸,模擬芯片和系統太大且成本太高。如今,將閃存和模擬計算相結合可以解決這些挑戰,并且您獲得的總和遠遠大于單個部分 - 模擬內存計算。這是Mythic花了數年時間完善并展示的獨特技術,它為未來幾十年的AI計算奠定了基礎。
最低級別的模擬內存計算(或模擬計算)的功耗優勢在于能夠使用存儲在閃存陣列內的參數執行大規模并行矢量矩陣乘法。微小的電流通過存儲可重新編程的神經網絡權重的閃存陣列進行引導,并通過模數轉換器(ADC)捕獲結果。
通過將模擬計算用于絕大多數推理操作,模數和數模能量開銷可以作為整體功率預算的一小部分進行維護,并且可以實現計算能力的大幅下降。還有許多二階系統級效應會導致功率大幅下降;例如,當芯片上的數據移動量低幾個數量級時,系統時鐘速度可以保持比競爭系統低10倍,并且控制處理器的設計要簡單得多。
對于許多不同用例,將模擬計算處理器用于邊緣 AI 應用是一個很好的選擇。例如,配備用于計算機視覺 (CV) 應用的高清攝像頭的無人機需要在本地運行復雜的 DNN 模型,以便向控制站提供即時的相關信息。使用模擬計算的處理器可以提供強大的AI處理,并且非常節能,因此公司可以在無人機上部署這些網絡,用于各種CV應用。這些應用包括監測農業產量,檢查關鍵基礎設施,如電力線、手機信號塔、橋梁和風電場,檢查火災損壞以及檢查海岸線侵蝕情況。模擬計算非常適合的另一種應用類型是低延遲人體姿勢估計,可用于智能健身、游戲和協作機器人設備。
模擬計算是 AI 處理的理想方法,因為它能夠以更高的速度和更快的幀速率使用更少的功率運行。模擬計算技術的極高能效將使產品設計人員能夠在小型邊緣設備中解鎖令人難以置信的強大新功能,并有助于降低成本和企業AI應用中的大量能源浪費。利用模擬計算能力與閃存相結合,OEM 可以重新思考 AI 的可能性。試想一下,如果沒有邊緣 AI 應用程序功耗、成本和性能的現有限制,我們將看到哪些令人興奮的創新。
審核編輯:郭婷
-
人工智能
+關注
關注
1806文章
48996瀏覽量
249196 -
深度學習
+關注
關注
73文章
5561瀏覽量
122771
發布評論請先 登錄
電機選型計算公式與知識點匯總
電機泥泵軸系系統扭振設計計算
步進電機選型時必須要了解什么?
有MES系統還需要上MOM系統嗎?這些不同點你需要了解!

飛凌嵌入式-ELFBOARD-ELF 2硬件分享之前言
不只是前端,后端、產品和測試也需要了解的瀏覽器知識(二)

評論