加利福尼亞州洛斯阿爾托斯,2020年11月19日– Deep Vision退出隱身模式,并啟動其ARA-1推理處理器,以支持在邊緣創建新的世界AI視覺應用程序。處理器以緊湊的外形尺寸實現了計算,內存,能效(典型值2W)和超低延遲之間的最佳平衡,使其成為端點(如相機,傳感器以及具有高計算能力的邊緣服務器)的最終選擇需求,模型靈活性和能源效率至關重要。
Deep Vision首席執行官Ravi Annavajjhala說:“當今復雜的AI工作負載不僅需要低功耗,而且還需要低延遲才能在邊緣交付實時智能。” “不再需要在性能和效率之間進行權衡。開發人員現在可以在一個處理器上獲得更高準確性的結果和豐富的數據見解。”
突破性的高效架構
深度學習模型的復雜性不斷增長,并在邊緣推動了對AI的計算需求的增長。Deep Vision ARA-1處理器基于獲得專利的多態數據流架構,能夠處理各種數據流,以最大程度地減少片上數據移動。該架構支持每個神經網絡模型內的指令,從而可以在深度學習模型內最佳地映射任何數據流模式。將數據保持在靠近計算引擎的位置可以最大程度地減少數據移動,從而確保高推理吞吐量,低延遲和更高的電源效率。編譯器自動為神經網絡中的每一層評估多個數據流模式,并選擇性能最高和功耗最低的模式。
通過同時進行多模型處理,Deep Vision ARA-1處理器還可以有效地運行多個模型,而不會影響性能,從而更快,更準確地生成結果。Deep Vision ARA-1處理器以比Edge TPU和Movidius MyriadX低的系統功耗運行深度學習模型,例如Resnet-50,其延遲比Edge TPU高6倍,而延遲比MyriadX高4倍。
以軟件為中心的方法打破了復雜性障礙
Deep Vision的軟件開發套件(SDK)和硬件緊密結合在一起,可以無縫地協同工作,
以最低的功耗確保最佳的模型精度。借助內置的量化器,模擬器和事件探查器,開發人員擁有支持計算復雜的推理應用程序設計和執行所需的所有工具。從歷史上講,在不進行大量代碼開發的情況下將模型遷移到生產的過程一直具有挑戰性。Deep Vision的SDK還支持無摩擦的工作流程,從而實現了從培訓模型到生產應用程序的低代碼,自動化,無縫遷移過程。該SDK通過顯著提高生產率并縮短整體上市時間,從而減少了昂貴的開發時間。
責任編輯:lq
-
處理器
+關注
關注
68文章
19886瀏覽量
235087 -
神經網絡
+關注
關注
42文章
4814瀏覽量
103564 -
AI
+關注
關注
88文章
35096瀏覽量
279538
發布評論請先 登錄
異形拼接處理器可以實現的效果

英偉達GTC25亮點:NVIDIA Dynamo開源庫加速并擴展AI推理模型
RK3562J 處理器 M 核啟動實操
Arm技術助力Google Axion處理器加速AI工作負載推理

量子處理器的作用_量子處理器的優缺點
EE-345:SHARC處理器的啟動內核定制和固件可升級性

EE-336: ADSP-BF54x Blackfin處理器的啟動

EE-308:估算和優化Blackfin處理器的啟動時間

NPU與傳統處理器的區別是什么
開箱即用,AISBench測試展示英特爾至強處理器的卓越推理性能


評論