女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

如何優化AI SoC及其上面運行的軟件

半導體芯科技SiSC ? 來源:半導體芯科技SiSC ? 作者:半導體芯科技SiS ? 2022-06-15 14:35 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

人工智能機器學習應用數據處理的強勁需求下,大規模并行計算迅速興起,導致芯片復雜性呈現爆炸式增長。這種復雜性體現在 Cerebras 晶圓級引擎等設計中,該設計是一種平鋪多核、多晶片設計,將晶體管數量增加至數萬億個,擁有近百萬個計算內核。

人工智能 (AI) SoC 的市場持續增長,競爭也日趨激烈。半導體公司根據性能、成本和靈活性,來找到自己的定位,并不斷自我優化,從而導致了新型多核架構的爆發式增長。系統架構師正在嘗試不同的方法,希望可以將這種復雜性轉化為競爭優勢。

在所有復雜性來源中,有一個在多核 AI SoC 中非常重要的來源:即當有多個線程在共享數據上并行運行時,會出現功能錯誤和性能降低問題。過去,設計人員可以使用經典的 CPU 運行控制來調試問題,但這種方法對多核架構并無效果。導致軟件問題的根本原因錯綜復雜,包括往返時延、內核數量、控制和數據并行、多層層次結構和互相依賴的進程,設計人員從中找出真正根源的機會渺茫。

另外,設計人員還需要考慮軟硬件協同優化,這需要大量的功能分析。為了在 SoC 上部署 AI 應用,設計人員必須編譯源代碼,以充分利用多核架構。這通常需要充分了解 SoC 架構的定制工具鏈。這個過程包括一個硬件和軟件優化及測試周期,從 SOC 仿真開始,一直貫穿至第一次投片和后續器件迭代。

通過這一功能分析周期,團隊能夠了解以下內容:

· 數據共享的效率;

· 片上網絡 (NoC) 是否超載或不平衡;

· 如何在不影響代碼執行的情況下評估應用性能;

· 如何優化內存控制器配置文件以提升數據處理能力;

· 如何關聯整個 SoC 中的事件;

要做到這一點,我們需要一種全新的方法來優化 AI SoC 及其上面運行的軟件。要將高質量的 AI SoC 及時推向市場并在完成部署后保持性能,必須要進行系統范圍的功能分析。系統范圍功能分析的部分功能包括:

· 深入洞察子系統或組件 ;

· 對整個系統從啟動開始的準確、連貫的全景圖;

· 事物感知(Transaction-aware) 的互連監控和統計信息;

· 傳統的處理器運行控制和追蹤;

· 支持所有常見的指令集和互連協議;

· 提供選擇或更改重要子系統的靈活性;

· 用于產生數據可見性的靈活強大的工具;

用于監控和分析 IP 的片上基礎架構和軟件提供了所有這些功能,覆蓋范圍可從仿真到部署。下圖即顯示了 SoC 功能監控和分析的典型架構。

接下來的圖中展示的示例是一個多核芯片配備片上網絡 (NoC) 監視器,可跟蹤所有 NoC 事務到循環緩沖器。由于 NoC 監視器具有事務感知功能,可將其配置為檢測特定總線條件,例如導致事務持續時間超過特定閾值(按周期數計算)的死鎖。當超過閾值時,NoC 監視器可以輸出死鎖事務以及之前事務的詳細信息,以便對問題進行診斷。

同一個 NoC 監視器也可配置為在檢測到相同死鎖條件時——例如通過跟蹤硬件加速器行為的狀態監視器模塊——使用嵌入式分析消息基礎設施的交叉觸發功能,在系統中的其他位置觸發跟蹤。

了解實施有效的系統驗證和優化環境時涉及的問題,是成功交付多核 SoC 的關鍵,與該領域內的專業供應商合作可實現事半功倍的效果。

審核編輯:湯梓紅
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • soc
    soc
    +關注

    關注

    38

    文章

    4395

    瀏覽量

    222882
  • AI
    AI
    +關注

    關注

    88

    文章

    35212

    瀏覽量

    280357
  • 人工智能
    +關注

    關注

    1807

    文章

    49036

    瀏覽量

    249818
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    大家都在用什么AI軟件?有沒有好用的免費的AI軟件推薦一下?

    大家都在用什么AI軟件?有沒有好用的免費的AI軟件推薦一下?直接發個安裝包,謝謝。比如deepseek、Chatgpt、豆包、阿里AI、百度
    發表于 07-09 18:30

    Nordic收購 Neuton.AI 關于產品技術的分析

    與 Nordic 的 nRF54 系列超低功耗無線 SoC 結合,使得即使是資源極為有限的設備也能高效運行邊緣 AI。Nordic 目前正在將 Neuton 深度集成到自身開發生態中,未來會提供更多工具、固件
    發表于 06-28 14:18

    AI SoC #BK7258 AI能力和技術參數深度解讀

    BK7258芯片AI能力深度解讀 BK7258是博通集成推出的一款高集成度Wi-Fi 6+藍牙5.4低功耗音視頻SoC芯片,其AI能力通過硬件加速、算法優化及生態整合實現,覆蓋邊緣計算
    的頭像 發表于 06-20 09:44 ?2335次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>SoC</b> #BK7258 <b class='flag-5'>AI</b>能力和技術參數深度解讀

    RISC-V架構下AI融合算力及其軟件棧實踐

    面對未來大模型(LLM)、AIGC等智能化浪潮的挑戰,進迭時空在RISC-V方向全面布局,通過精心設計的RISC-VDSA架構以及軟硬一體的優化策略,將全力為未來打造高效且易用的AI算力解決方案
    的頭像 發表于 06-06 17:04 ?470次閱讀
    RISC-V架構下<b class='flag-5'>AI</b>融合算力<b class='flag-5'>及其</b><b class='flag-5'>軟件</b>棧實踐

    AI眼鏡的未來:SoC芯片與SD NAND的協同優化

    AI眼鏡正以驚人的速度從概念走向現實。據行業預測,全球AI眼鏡出貨量將在2026年突破1000萬副,2030年更將飆升至8000萬副,市場規模超百億美元。這一變革的背后,是兩大核心技術——MK米客方德SD NAND存儲芯片與紳聚高性能S
    的頭像 發表于 04-08 09:00 ?739次閱讀
    <b class='flag-5'>AI</b>眼鏡的未來:<b class='flag-5'>SoC</b>芯片與SD NAND的協同<b class='flag-5'>優化</b>

    AI SoC # Apollo330 Plus 邊緣設備實時AI處理的創新解決方案

    閾值功率優化技術 (SPOT)? 構建,為能效設定了新標準,使設備能夠比以往任何時候都運行更多的 AI作。這款先進的 SoC 具有運行頻率高
    的頭像 發表于 03-13 15:14 ?1436次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>SoC</b> # Apollo330 Plus 邊緣設備實時<b class='flag-5'>AI</b>處理的創新解決方案

    AI智能制造軟件作用有哪些

    提升生產效率AI智能制造軟件能夠通過智能算法對生產流程進行優化。在傳統制造過程中,生產環節的安排往往依賴經驗,容易出現資源分配不合理的情況。而AI
    的頭像 發表于 02-27 10:00 ?568次閱讀
    <b class='flag-5'>AI</b>智能制造<b class='flag-5'>軟件</b>作用有哪些

    BLDC SOC 技術中第三代半導體(GaN)及 AI 協同控制的深度洞察解析

    高速行駛時,優化電機的控制策略,提高車輛動力性能。故障診斷與預測性維護利用 AI 強大的數據分析能力,BLDC SoC 可實現對電機的故障診斷和預測性維護。通過對電機運行過程中的大量數
    的頭像 發表于 02-26 18:04 ?2547次閱讀

    如何優化汽輪機運行性能

    優化汽輪機運行性能是一個綜合性的任務,涉及多個方面的改進和調整。以下是一些關鍵的優化措施: 一、改進汽輪機的運行操作 優化啟動過程 :傳統的
    的頭像 發表于 02-06 16:37 ?807次閱讀

    Rockchip SoC 賦能 AI 與視覺創新:推動智能設備的未來發展

    隨著人工智能(AI)和計算機視覺技術不斷推動各行各業的創新,Rockchip 已成為提供強大系統級芯片(SoC)解決方案的領先廠商。該公司已開發出多款集成 AI 功能并支持先進多媒體與視覺技術
    的頭像 發表于 11-05 18:02 ?1107次閱讀
    Rockchip <b class='flag-5'>SoC</b> 賦能 <b class='flag-5'>AI</b> 與視覺創新:推動智能設備的未來發展

    如何優化SOC芯片性能

    優化SOC(System on Chip,系統級芯片)芯片性能是一個復雜而多維的任務,涉及多個方面的優化策略。以下是一些關鍵的優化措施: 一、架構設計
    的頭像 發表于 10-31 15:50 ?1758次閱讀

    如何優化智能系統的運行效率

    硬件性能 :處理器速度、內存容量和存儲性能是影響智能系統運行效率的硬件因素。 軟件架構 :軟件的設計和架構直接影響系統的響應時間和處理能力。 算法效率 :算法的復雜度和效率決定了智能系統在執行任務時的速度。 數據管
    的頭像 發表于 10-29 10:02 ?1147次閱讀

    英飛凌與采埃孚合作優化自動駕駛軟件

    英飛凌科技股份公司與采埃孚集團攜手參與了EEmotion項目,共同開發并實施了創新的AI算法,以優化自動駕駛軟件和控制單元。
    的頭像 發表于 10-12 16:17 ?805次閱讀

    TI TDA2x SoC上基于GPU的環視優化

    電子發燒友網站提供《TI TDA2x SoC上基于GPU的環視優化.pdf》資料免費下載
    發表于 10-10 09:14 ?0次下載
    TI TDA2x <b class='flag-5'>SoC</b>上基于GPU的環視<b class='flag-5'>優化</b>

    如何在STM32上運行AI應用

    一些基本使用案例的應用程序示例。X-LINUX-AI中提供的示例包括一系列用于圖像分類、對象檢測、語義分割和人體姿勢估計的優化模型。X-LINUX-AI中作為預構建
    的頭像 發表于 09-30 08:00 ?3365次閱讀
    如何在STM32上<b class='flag-5'>運行</b><b class='flag-5'>AI</b>應用