女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

存算一體化與邊緣計算:重新定義智能計算的未來

穎脈Imgtec ? 2024-11-12 01:05 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

來源:邊緣計算社區


隨著數據量爆炸式增長和智能化應用的普及,計算與存儲的高效整合逐漸成為科技行業關注的重點。數據存儲和處理需求的快速增長推動了對計算架構的重新設計,“存算一體化”技術應運而生。同時,隨著物聯網5G網絡、人工智能AI)等技術的發展,數據量的分布性、實時性需求增加,邊緣計算也逐漸從概念走向落地。本文將介紹存算一體化與邊緣計算的核心思想及其發展趨勢,探討兩者在智能計算模式中的應用前景。


從“馮·諾依曼架構”說起:傳統計算模式的困境

上世紀40年代,著名數學家馮·諾依曼提出了一個開創性的計算架構,被稱為“馮·諾依曼架構”。它提出了計算機系統的五大基本組成部分:輸入單元、輸出單元、存儲單元、控制單元和運算單元,并定義了它們之間的交互方式。馮·諾依曼架構的核心思想是將計算和存儲分離,數據和指令通過統一的總線在中央處理單元(CPU)和內存之間傳輸。該架構的經典特征為存儲程序概念,即程序和數據同樣存儲在內存中,由CPU讀取并執行。

328bd964-a04f-11ef-8084-92fbcf53809c.png

盡管結構簡單、通用性強,適用于多種計算任務,但在今天,它的局限性越來越明顯。1. 數據傳輸瓶頸:在馮·諾依曼架構中,數據頻繁在內存和CPU之間搬運。這一過程帶來顯著的延遲,系統難以高效處理數據,尤其在大數據和AI模型的應用場景中表現尤為突出。

2. 高能耗:頻繁的數據傳輸不僅增加了電力消耗,還帶來了硬件的發熱和散熱成本,在能源要求越來越高的計算任務中成為一大限制。

3. 資源利用率低:CPU和內存之間常常互相等待,尤其在密集計算任務中,導致系統資源的利用效率低下。

這種“馮·諾依曼瓶頸”直接制約了當今的人工智能、大數據分析等計算任務的發展。存算一體化和邊緣計算被視為解決這一瓶頸的有力方案。


存算一體化:突破馮·諾依曼瓶頸的創新

存算一體化(Processing-In-Memory,PIM)打破了“存儲-計算分離”的模式,直接在存儲單元內部集成計算單元,實現了數據的“就地處理”。這一創新從根本上優化了計算結構,帶來了巨大的性能提升。存算一體化的三大優勢:

顯著降低延遲:數據在存儲器內直接處理,無需頻繁搬運,大大減少了延遲。

降低能耗:減少數據搬運所需的電力消耗,延長設備續航,提高系統能效。

提升并行計算效率:特別適用于大規模并發計算任務,如深度學習和大數據分析。

根據計算單元與存儲單元的距離,存算一體化主要分為三類:近存計算(PNM)、存內處理(PIM)和存內計算(CIM)。

1. 近存計算(PNM):近存計算是一種較為成熟的技術路徑,采用先進的封裝技術,將計算邏輯芯片和存儲器封裝在一起,縮短內存和處理單元之間的路徑,以實現更高的I/O密度,帶來高帶寬和低訪問開銷。該方案主要依托2.5D、3D堆疊等技術,廣泛應用于CPU和GPU等高性能處理器中,是實現存算一體化的首選方案之一。

2. 存內處理(PIM):存內處理旨在盡可能多地將計算過程嵌入到存儲器內部,減少處理器對存儲器的訪問頻率。通過在存儲器中直接完成大部分計算任務,這一技術有效降低了數據搬運需求,有助于緩解馮·諾依曼瓶頸帶來的限制。這種方案在內存密集型任務上具有顯著的性能優勢,被認為是未來智能計算的重要實現路徑。

3. 存內計算(CIM):存內計算也稱為國內一些公司推崇的“存算一體”。它通過對存儲器結構進行改進,使其直接具備計算能力。存內計算有兩種實現思路:

  • 電路革新:通過改動SRAM或MRAM等存儲器,使其具備計算功能,這種方法能效比高,但計算精度可能受限。
  • 集成計算單元:在存儲器(如DRAM)中集成額外計算單元,以支持高精度計算。然而,由于DRAM工藝對計算邏輯電路的適應性差,這一方式面臨較大的工藝挑戰。

不同公司在存算一體化領域有各自的技術策略。部分企業聚焦于優化存儲與計算的協同效率,提升大數據處理的性能;另一些公司則注重架構的靈活性和可擴展性,以應對動態的市場需求。此外,存算一體化的存儲介質也日趨多元,包括以SRAM、DRAM為代表的易失性存儲器和以Flash為代表的非易失性存儲器等。


邊緣計算:讓數據在源頭處理的高效模式

邊緣計算(Edge Computing)則是一種將數據處理資源部署在網絡邊緣的計算模式,使得數據可以直接在靠近源頭的位置處理。與云計算相比,邊緣計算能滿足低延遲和實時響應的需求,尤其適用于自動駕駛、智能制造等場景。邊緣計算的三大優勢:

低延遲:數據在靠近源頭的位置處理,無需傳輸至云端,響應時間顯著降低。

減輕網絡負擔:邊緣計算設備完成初步數據處理,僅上傳關鍵信息至云端,減少了網絡流量壓力。

提升數據隱私保護:在本地處理敏感數據,無需頻繁上傳至云端,有助于保護用戶隱私。邊緣計算在智能家居、智能交通、工業自動化等領域已經取得了顯著成果。隨著物聯網設備的普及,邊緣計算需求將不斷增加,并與云計算形成相輔相成的架構。


存算一體化與邊緣計算的結合:智能計算的加速器

存算一體化和邊緣計算的結合,正逐步催生出一套更加高效的智能計算模式。由于邊緣設備往往體積小、功耗低、算力有限,難以承擔復雜的計算任務,而存算一體化能顯著增強邊緣設備的處理能力,使其更加高效、低能耗。以下是存算一體化與邊緣計算的結合應用:

·物聯網設備的數據處理

物聯網設備大多部署在網絡邊緣位置,用于實時監測環境數據。采用存算一體化技術的邊緣設備能夠在本地完成數據處理,減少不必要的上傳。例如,搭載存算一體化芯片的智能攝像頭可以直接分析視頻數據,僅傳輸關鍵事件至云端,大大降低網絡流量。

·邊緣AI推理

邊緣計算在AI推理中的應用越來越廣泛,如自動駕駛、智能醫療等場景。邊緣AI推理通常需要處理大量實時數據,而存算一體化技術能夠提高推理速度。比如,自動駕駛車輛可以在攝像頭數據中直接完成識別和決策,確保快速響應。

·工業實時控制

在工業場景中,設備需實時監控和控制。例如機械臂的控制、工廠設備的狀態監測等。存算一體化使邊緣設備具備實時數據處理能力,保障系統的快速響應,提升了工廠的自動化和智能化水平。

·數據隱私保護

邊緣設備常處理敏感數據,直接上傳至云端會帶來隱私風險。存算一體化在本地完成數據處理,減少上傳需求,有助于提升數據隱私性和安全性。


技術趨勢與挑戰

雖然存算一體化和邊緣計算結合前景廣闊,但在技術落地過程中仍面臨挑戰:

硬件研發復雜:存算一體化技術涉及復雜的芯片設計和制造,如何在存儲芯片內部高效集成計算單元仍是關鍵難題。芯片的工藝和計算精度也需要進一步提升。

設備多樣性與適配難題:邊緣設備種類繁多、資源配置差異較大,如何提供通用的存算一體化解決方案是技術難點。未來需設計低成本、高通用性的存算一體化邊緣芯片。

軟件生態支持:存算一體化架構需要完整的軟件支持,例如優化的編譯器、計算框架和編程工具鏈,開發者需針對硬件架構優化算法和模型。

  1. 隱私和安全保障:邊緣計算設備處理大量數據,如何保障數據加密和隱私安全也是技術發展的重點。

展望:智能計算的未來

隨著存算一體化和邊緣計算技術的成熟,智能計算將迎來低延遲、低能耗、高效率的新階段。我們可以預見以下趨勢:

邊緣AI應用普及:存算一體化和邊緣計算的結合使得邊緣AI計算變得高效,更多智能應用將在邊緣設備上實現。

智能終端設備的自主化:存算一體化提升了邊緣設備的計算能力,減少對云端依賴,使設備更具自主性。

  • 低能耗的分布式計算模式:存算一體化減少數據傳輸能耗,邊緣計算的分布式架構能降低云端負荷,使得網絡資源更高效。

未來,存算一體化與邊緣計算的融合將推動智能計算從集中化向分布式發展、從高能耗走向低能耗。它們將成為構建智能社會的重要基石,使我們身邊的智能設備更高效、更安全,朝著真正的“萬物互聯”時代邁進。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 一體化
    +關注

    關注

    0

    文章

    291

    瀏覽量

    14723
  • 智能計算
    +關注

    關注

    0

    文章

    191

    瀏覽量

    16716
  • 邊緣計算
    +關注

    關注

    22

    文章

    3324

    瀏覽量

    50891
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    緩解高性能一體芯片IR-drop問題的軟硬件協同設計

    在高性能計算與AI芯片領域,基于SRAM的一體(Processing-In-Memory, PIM)架構因兼具計算密度、能效和精度優勢成
    的頭像 發表于 07-11 15:11 ?114次閱讀
    緩解高性能<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>芯片IR-drop問題的軟硬件協同設計

    智領邊緣計算新時代:物聯網一體屏WiFi版重塑工業智能邊界

    當工業物聯網的浪潮席卷而來設備的智能化、集成化與高效化成為破局關鍵。USR-SH800物聯網一體屏WiFi版以“硬核配置+柔性應用”的雙重基因重新定義邊緣
    的頭像 發表于 06-16 09:29 ?186次閱讀
    智領<b class='flag-5'>邊緣</b><b class='flag-5'>計算</b>新時代:物聯網<b class='flag-5'>一體</b>屏WiFi版重塑工業<b class='flag-5'>智能</b>邊界

    蘋芯科技 N300 一體 NPU,開啟端側 AI 新征程

    憑借低功耗、高帶寬,以及相對的通用性能,正在成為賦能智能終端、物聯網設備以及邊緣計算場景的核心動力。科技創新企業蘋芯科技深耕
    的頭像 發表于 05-06 17:01 ?449次閱讀
    蘋芯科技 N300 <b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b> NPU,開啟端側 AI 新征程

    邊緣計算 vs. 云計算,誰才是工業物聯網的未來

    在物聯網的浪潮中,邊緣計算正以超低延遲、高效網絡和增強安全性,重新定義數據處理方式。無論是工業控制還是商業應用,邊緣計算都是邁向
    的頭像 發表于 03-26 11:13 ?285次閱讀
    <b class='flag-5'>邊緣</b><b class='flag-5'>計算</b> vs. 云<b class='flag-5'>計算</b>,誰才是工業物聯網的<b class='flag-5'>未來</b>?

    重新定義智能安防邊界——SSD2351如何讓邊緣計算更高效

    4K級可視結果。此外,安全引擎支持國密算法SM2/SM4,確保數據全鏈路加密,滿足金融、政務等高安全場景需求。 26mm×26mm的緊湊尺寸與Linux系統支持,讓開發者可快速適配無人機巡檢、智能門禁等設備,重新定義
    發表于 02-27 16:14

    濟南市中區一體化中心上線DeepSeek

    濟南市中未來產業發展有限公司(簡稱“市中產發”)聯合華為、北京昇騰和清昴智能基于市中區一體化
    的頭像 發表于 02-19 10:38 ?700次閱讀

    一體行業2024年回顧與2025年展望

    2024年,大模型技術的迅猛發展成為人工智能領域的核心驅動力,其對硬件力和存儲效率的極致需求,促使一體技術在全球范圍內迎來前所未有的關
    的頭像 發表于 01-23 11:24 ?1062次閱讀

    邊緣計算AI一體機常見應用場景有哪些?

    在數字轉型的浪潮中,邊緣計算AI一體機以其強大的實時數據處理與分析能力,正逐步滲透到社會經濟的各個角落,成為推動智能化管理與決策的重要力量
    的頭像 發表于 01-09 14:29 ?1017次閱讀
    <b class='flag-5'>邊緣</b><b class='flag-5'>計算</b>AI<b class='flag-5'>一體</b>機常見應用場景有哪些?

    開源芯片系列講座第24期:基于SRAM的高效計算架構

    種先進的計算架構技術,以克服傳統馮諾依曼架構中計算單元與存儲單元分離導致的“內存墻”問題。基于SRAM的一體技術在
    的頭像 發表于 11-27 01:05 ?846次閱讀
    開源芯片系列講座第24期:基于SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b>的高效<b class='flag-5'>計算</b>架構

    直播預約 |開源芯片系列講座第24期:SRAM一體:賦能高能效RISC-V計算

    鷺島論壇開源芯片系列講座第24期「SRAM一體:賦能高能效RISC-V計算」11月27日(周三)20:00精彩開播期待與您云相聚,共襄學術盛宴!|直播信息報告題目SRAM
    的頭像 發表于 11-16 01:10 ?705次閱讀
    直播預約 |開源芯片系列講座第24期:SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>:賦能高能效RISC-V<b class='flag-5'>計算</b>

    一體架構創新助力國產大力AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計算(HPC)應用論壇》上,億鑄科技高級副總裁徐芳發表了題為《一體架構創新助力國產大
    的頭像 發表于 10-23 14:48 ?858次閱讀

    中偉視界:AI邊端云一體化平臺的智能化全流程解析

    AI邊端云一體化管控平臺通過將邊緣計算與云端服務整合,實現了從數據采集到決策的全流程智能化管理,提升了效率與安全性。平臺支持多種設備的靈活集成及自動
    的頭像 發表于 09-19 11:41 ?667次閱讀

    ARMxy ARM物聯網邊緣計算網關支持Node-RED用于云邊端一體化

    隨著工業物聯網(IIoT)的蓬勃發展,邊緣計算網關成為實現數據采集、處理與轉發的關鍵設備。ARMxy ARM物聯網邊緣計算網關憑借其強大的處理能力和靈活的軟件配置選項,成為實現云邊端
    的頭像 發表于 08-19 16:05 ?1027次閱讀
    ARMxy ARM物聯網<b class='flag-5'>邊緣</b><b class='flag-5'>計算</b>網關支持Node-RED用于云邊端<b class='flag-5'>一體化</b>

    蘋芯科技引領存一體技術革新 PIMCHIP系列芯片重塑AI計算新格局

    智能芯片國產再傳利好,8月8日,國際領先的一體芯片開拓者——蘋芯科技在北京召開 “
    發表于 08-08 17:21 ?399次閱讀
    蘋芯科技引領存<b class='flag-5'>算</b><b class='flag-5'>一體</b>技術革新   PIMCHIP系列芯片重塑AI<b class='flag-5'>計算</b>新格局

    云邊一體化物聯網平臺如何實現?有什么功能

    云邊一體化物聯網平臺(CloudEdge Integration IoT Platform)是種結合了云計算邊緣計算優勢的物聯網解決方案
    的頭像 發表于 07-29 14:34 ?801次閱讀