新型處理器樹立性能效率新標桿,面積縮減 30%,功耗降低 20%
楷登電子(美國 Cadence 公司,Nasdaq:CDNS)近日宣布推出 CadenceTensilicaNeuroEdge 130 AI 協處理器(AICP)。這是一款新型處理器,專為補充現有神經處理單元(NPU)而設計,可在先進的汽車、消費電子、工業和移動系統級芯片上實現最新代理式和物理 AI 網絡的端到端執行。NeuroEdge 130 AICP 基于廣受歡迎的 Tensilica Vision DSP 系列的成熟架構,能夠在不影響性能的情況下,將面積縮減超過 30%,并將動態功耗和能耗降低超過 20%。此外,該處理器還利用相同的軟件、AI 編譯器、庫和框架,加快產品上市進程。目前已有多家客戶表達強烈興趣,相關合作正在積極洽談中。
“隨著 AI 處理在自動駕駛汽車、機器人、無人機、工業自動化和醫療保健等物理 AI 應用中的迅速普及,NPUs 正發揮著日益關鍵的作用。”Cambrian AI Research 創始人兼首席分析師 Karl Freund說道。“目前,NPUs 負責處理大部分計算密集型 AI/ML 工作負載,但大量非 MAC 層包括預處理和后處理任務,這些任務更適合卸載到專用處理器。然而,現有的 CPU、GPU 和 DSP 解決方案都存在一定的權衡取舍,業界需要一種高性能、低功耗的解決方案,且這個解決方案需針對協同處理進行優化,能夠滿足快速發展的 AI 處理需求。”
Tensilica NeuroEdge 130 AICP 采用可擴展設計,可與自研 NPUs、Cadence NeoNPUs 和第三方 NPU IP 無縫兼容,在執行卸載任務時不僅具備更高的性能,且相較于前代 DSP 產品,效率也有顯著提升。NeuroEdge 130 AICP 將 Tensilica DSPs 原有的功耗、性能和面積(PPA)優勢提升至全新水平,在 AI 整個網絡推理和運行 AI 部分過程中的表現來看,其面積縮減超過 30%,動態功耗和能耗降低超過 20%,同時保持與 Tensilica Vision DSPs 相當的性能。其他優勢包括:
●基于 VLIW 的 SIMD 架構具有可配置選項,可實現高性能和低功耗。
●作為控制處理器向 NPU 發出指令和命令。
●優化的 ISA 和指令可運行非 NPU 優化任務,如 ReLU、sigmoid、tanh 等。
●為 AI 子系統提供可編程性、靈活性和未來適應性,能夠端到端執行當前未知以及未來的 AI 工作負載。
“Cadence 已利用 Tensilica DSPs 驗證了 AI 協處理器的場景。隨著 AI 工作負載的演變及其對領域依賴性的降低,我們的 AI SoC 和系統客戶一直在尋求一種小巧高效、以 AI 為中心的協處理器,旨在提升 PPA,并具備面向未來的適應性。”Cadence 高級副總裁兼芯片解決方案事業部總經理 Boyd Phelps說道。“我們延續在 IP 創新方面的記錄,專門打造了一款新型處理器。Tensilica NeuroEdge 130 AICP 作為 NPU 的配套產品,以卓越性能效率滿足客戶多樣化的 AI 應用需求。”
“AI 和計算機視覺在日益廣泛的嵌入式應用中發揮著重要作用。”Edge AI and Vision Alliance 創始人 Jeff Bier談及到。“但 AI 模型及其相關的預處理和后處理步驟正在迅速演進;例如,如今許多開發者正轉向基于 transformer 的多模態模型和基于 LLM 的 AI 代理。我們高度認可 Cadence 在靈活高效處理器方面的持續創新,因為這是實現邊緣 AI 和視覺廣泛部署的關鍵。”
Tensilica NeuroEdge 130 AICP 由 Cadence NeuroWeaveSoftware Development Kit(SDK)支持,該工具包適用于 Cadence 的所有 AI IP。NeuroWeave SDK 利用了 Tensor Virtual Machine(TVM)堆棧,便于架構師對其自己的 AI 模型進行調整,優化并部署到 Cadence 的 AI IP 上。Tensilica NeuroEdge 130 AICP 還配備了輕量級的獨立 AI 庫,用戶能夠直接在新處理器上對 AI 的一個層進行編程 ,有效規避某些編譯器框架可能產生的潛在開銷。
客戶和合作伙伴評價
“作為面向汽車市場的 SoC 解決方案領導者,indie 致力于通過 SoC 架構創新,實現高性能、小尺寸和低功耗。為此,我們將處理單元集成至 SoC 中,以實現特定計算功能,確保我們的解決方案能夠滿足 ADAS 系統在計算機視覺、雷達和傳感器融合方面的需求。indie 已在多款量產 ADAS SoC 中成功部署 Tensilica DSPs。我們很高興地看到 Cadence 在其 IP 產品組合中新增 NeuroEdge AICP 及配套工具、軟件庫和生態系統,可滿足不斷演進的 AI 驅動汽車應用需求。”——Hervé Brelayindie 軟件工程副總裁
“MulticoreWare 與 Cadence 建立了長期合作伙伴關系,因此我們能夠支持 OEM 和一級合作伙伴在汽車和其他邊緣環境中部署 AI 工作負載。通過這些合作,我們意識到 NPUs 作為完整、獨立的 AI 部署解決方案仍存有不足。憑借 Cadence 在 DSP 技術領域的領先優勢,全新 NeuroEdge AICP 硬件和 SDK 恰到好處地彌補了這一空白。圍繞 NeuroEdge AICP 構建的 AI SoC 模塊不僅為當前主流模型提供卓越性能,還具備出色的靈活性,能夠從容應對未來 AI 創新發展。”——John Stratton 博士MulticoreWare 首席技術官
“Neuchips 正在引領針對數據中心和服務器群的邊緣 SoC 設計,從而滿足大語言模型和 transformer 網絡的巨大計算需求。由于 SoC AI 子系統經常面臨支持前處理和后處理階段的挑戰,因此我們很高興能看到 NeuroEdge AICP 被設計用于處理這些任務。Cadence 提供成熟的 Tensilica 工具鏈和軟件基礎設施,有助于將這種新 IP 輕松集成到復雜的 SoC 設計中。”——Ken LauNeuchips 首席執行官
可用性
Tensilica NeuroEdge 130 AICP 現已全面上市,該協處理器符合 ISO 26262 標準,適用于汽車市場。如需了解更多信息,請點擊“閱讀原文”訪問 Cadence Tensilica NeuroEdge 130 AICP 頁面。
關于 Cadence
Cadence 是 AI 和數字孿生領域的市場領導者,率先使用計算軟件加速從硅片到系統的工程設計創新。我們的設計解決方案基于 Cadence 的 Intelligent System Design戰略,可幫助全球領先的半導體和系統公司構建下一代產品(從芯片到全機電系統),服務超大規模計算、移動通信、汽車、航空航天、工業、生命科學和機器人等領域。2024 年,Cadence 榮登《華爾街日報》評選的“全球最佳管理成效公司 100 強”榜單。Cadence 解決方案提供無限機會。
-
Cadence
+關注
關注
67文章
964瀏覽量
143830 -
AI
+關注
關注
87文章
34205瀏覽量
275367 -
協處理器
+關注
關注
0文章
83瀏覽量
18470
原文標題:Cadence 利用 Tensilica NeuroEdge 130 AI 協處理器為物理式 AI 應用加速
文章出處:【微信號:gh_fca7f1c2678a,微信公眾號:Cadence楷登】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
請問NICE協處理器與傳統ocb外設相比的優勢有什么?
NICE協處理器與傳統ocb外設相比的優勢有什么?
DS2476 DeepCover安全協處理器技術手冊

光子 AI 處理器的核心原理及突破性進展
Cadence推出Conformal AI Studio
端側 AI 音頻處理器:集成音頻處理與 AI 計算能力的創新芯片
Cadence與加特蘭攜手提升汽車雷達系統性能
大聯大推出基于MediaTek Genio 130與ChatGPT的AI語音助理方案
使用TMS320C6416協處理器:Turbo協處理器(TCP)

使用TMS320C6416協處理器:Viterbi協處理器(VCP)

AMD推出全新銳龍AI 300系列處理器


評論