女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

關于內存大家都知道,但什么是內存內計算

獨愛72H ? 來源:至頂網 ? 作者:至頂網 ? 2019-12-24 15:37 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

(文章來源:至頂網)

在過去的幾十年中,計算性能的提高是通過更快、更精確地處理更大數量的數據來實現的。內存和存儲空間現在是以千兆字節和兆字節來衡量的,而不是以千字節和兆字節。處理器操作64位而不是8位數據塊。然而,半導體行業創造和收集高質量數據的能力比分析數據的能力增長得更快。

隨著人工智能的不斷發展,逐漸衍生出了一個新興技術,那就是“內存內計算”。而近來,內存內計算也一度成了熱門的關鍵詞。早些時候,IBM就發布了基于相變內存(PCM)的內存內計算,在此之后基于Flash內存內計算的初創公司也獲得高額融資;而在中國,初創公司也開始在做內存內計算方面的嘗試。然而“內存內計算”倒是什么東西?這種新技術的誕生,還要從馮 · 諾依曼體系和人工智能講起。

自從計算機誕生的那天開始,馮 · 諾依曼架構的體系就占據著主導的地位。這種運行計算方式是先把數據存入主存儲器,再按照順序從主存儲器中取出指令,然后一條一條地執行。我們都知道,如果內存的通訊速度跟不上CPU的性能,就會導致計算能力受到限制,這就是內存墻了。同時在效能方面,馮 · 諾依曼體系也存在明顯的缺點,它讀寫一次內存數據的能量,要比計算一次數據的能量多消耗了足足幾百倍。

而在現在人工智能的技術中,隨著數據量越來越多,計算量越來越大,原始的馮 · 諾依曼結構正承受著越來越多的挑戰。硬件架構不能指望計算量一大,就擴展CPU。因為存儲量一變大,就馬上采用增大內存來存儲的方式是對過去架構的嚴重依賴,并且這種方式也非常不適合AI。當容量大到一定程度,只能說明某些技術需要革新。從生物角度來講,大腦存儲了大量的知識,并且能夠快速訪問并提取,而大腦的內存和計算是相容的。未來的計算機不是基于計算的memory,而是基于memory的計算。

關于內存大家都知道,但什么是內存內計算

同時,目前最主流的人工智能,也是對計算能力有著極高的要求。如果想讓人工智能用在移動端和嵌入式設備中,還有能耗大,發熱降頻等問題。這樣一來,內存和效能就變成了馮 · 諾依曼計算機體系的一個瓶頸。為了解決這一系列的問題,于是就衍生出了傳說中的內存內計算。顧名思義就是把計算單元嵌入到內存里面,這樣的話內存既是一個存儲器,也是一個計算機,它并不需要從內存中讀取數據,數據是直接進出CPU的。不但不受內存的性能限制,而且還提高了效能比(能源轉換的效率之比)。

人工智能專用的NPU(嵌入式神經網絡處理器)SPR2801S就使用了內存內計算,這種技術還搭建了人工智能專用的APIM構架,它的全稱是AI Processing In Memory。采用了APIM構架的計算機不需要指令,也不需要總線和DDR(雙倍速率同步動態隨機存儲器),大數據就可以直接進出CPU,極大地提高了效能比。此外,它還把算力提高到了5.6T ops,高效能比高達9.2T ops每瓦。Firefly基于這款SPR2801S則推出了人工智能開源主板AIO-3399EC,以及NCC S1 神經網絡計算卡和USB神經網絡計算棒,還搭配了模型訓練工具PLAI。可以說,這些都加速了人工智能項目的落實。

雖然內存內計算現在還處于探索階段,但是人們在十余年之前就認識到了“內存墻”的問題,但是為什么內存內計算直到現在才被人們關注呢?小編認為主要有兩點,第一個就是基于神經網絡的AI的興起,尤其是人們都希望AI能普及到移動端和嵌入式設備中。而神經網絡的其中1個特點就是對于計算精度的誤差有著比較高的容忍度,所以內存內計算的中引入的誤差一般都可以被神經網絡所接受。內存內計算和人工智能,尤其是嵌入式人工智能,可以說是完美的結合。

第二個則是新存儲器分發展。對于內存內計算來說,存儲器的特性決定了它的效率,所以每當帶有新特性的存儲器出現時,都會帶動內存內計算的發展。此外,從存儲器推廣的角度,新存儲器的誕生也愿意搭上人工智能的風潮,這樣一來新存儲器的廠商也樂于看到有人做基于自家存儲器的內存內計算去加速人工智能,也會幫助一起推廣內存內計算。

內存內計算利用存儲器的特點,減少了人工智能在計算中的讀寫和操作,也正是因為內存內計算的精度受到了模擬計算的限制,所以它也是目前為止,最適合追求能效比以及能接受一定精確度損失的嵌入式人工智能的應用。
(責任編輯:fqj)

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 內存
    +關注

    關注

    8

    文章

    3123

    瀏覽量

    75261
  • 內存計算
    +關注

    關注

    1

    文章

    15

    瀏覽量

    12240
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    hyper 內存,Hyper內存:如何監控與優化hyper-v虛擬機的內存使用

    在日常工作中,我們常常需要處理大量的文件和數據,這些重復性任務不僅耗時耗力,還容易因疲勞而導致錯誤。幸運的是,批量管理工具的出現為這一問題提供了高效的解決方案。今天就為大家介紹Hyper內存
    的頭像 發表于 01-24 14:15 ?1092次閱讀
    hyper <b class='flag-5'>內存</b>,Hyper<b class='flag-5'>內存</b>:如何監控與優化hyper-v虛擬機的<b class='flag-5'>內存</b>使用

    虛擬內存和云計算的關系

    在現代計算機科學中,虛擬內存和云計算是兩個關鍵的技術概念。虛擬內存是一種內存管理技術,它允許計算
    的頭像 發表于 12-04 09:50 ?510次閱讀

    虛擬內存計算機性能的影響

    在現代計算機系統中,內存管理是確保系統高效運行的關鍵因素之一。虛擬內存技術作為內存管理的核心組成部分,對于提升計算機性能和用戶體驗起著至關重
    的頭像 發表于 12-04 09:17 ?3476次閱讀

    虛擬內存不足如何解決 虛擬內存和物理內存的區別

    虛擬內存不足的解決方案 虛擬內存不足是計算機用戶經常遇到的問題,尤其是在運行大型軟件或多任務處理時。以下是一些解決虛擬內存不足問題的方法: 增加物理
    的頭像 發表于 12-04 09:14 ?1477次閱讀

    虛擬內存的作用和原理 如何調整虛擬內存設置

    虛擬內存,也稱為虛擬內存管理或頁面文件,是計算機操作系統中的一種內存管理技術。它允許系統使用硬盤空間作為額外的RAM(隨機存取存儲器),以彌補物理
    的頭像 發表于 12-04 09:13 ?2478次閱讀

    DDR內存超頻技巧與注意事項

    隨著計算機硬件技術的快速發展,內存的性能越來越受到重視。DDR內存作為計算機運行不可或缺的一部分,其性能直接影響到計算機的響應速度和數據處理
    的頭像 發表于 11-20 14:27 ?2463次閱讀

    RAM內存頻率對性能的影響

    計算機系統中,RAM(隨機存取存儲器)是至關重要的組件之一,它直接影響著系統的響應速度和處理能力。內存頻率,即內存的運行速度,是衡量RAM性能的一個重要指標。 1. 內存頻率的定義
    的頭像 發表于 11-11 09:52 ?6210次閱讀

    內存模組n/a怎么解決?

    一、內存模組n/a問題概述 1.1 內存模組的定義 內存模組,又稱為RAM(Random Access Memory),是計算機系統中用于存儲數據的硬件設備。它允許處理器快速訪問和處理
    的頭像 發表于 10-14 10:44 ?2415次閱讀

    邏輯內存和物理內存的區別

    邏輯內存和物理內存計算機系統中兩個重要的概念,它們在計算機的運行和數據處理中起著至關重要的作用。 1. 物理內存(Physical Mem
    的頭像 發表于 09-27 15:38 ?1770次閱讀

    內存緩沖區和內存的關系

    內存緩沖區和內存之間的關系是計算機體系結構中一個至關重要的方面,它們共同協作以提高數據處理的效率和系統的整體性能。
    的頭像 發表于 09-10 14:38 ?1228次閱讀

    內存管理的硬件結構

    常見的內存分配函數有malloc,mmap等,大家有沒有想過,這些函數在內核中是怎么實現的?換句話說,Linux內核的內存管理是怎么實現的?
    的頭像 發表于 09-04 14:28 ?658次閱讀
    <b class='flag-5'>內存</b>管理的硬件結構

    內存控制器概述和工作原理

    內存控制器是計算機系統內部控制內存并負責內存與CPU之間數據交換的重要組成部分。它不僅是連接CPU與內存的橋梁,還決定了
    的頭像 發表于 09-04 14:19 ?1911次閱讀

    內存時鐘是什么意思

    內存時鐘是內存模塊中一個至關重要的參數,它直接關聯到內存模塊能夠工作的最高頻率。以下是對內存時鐘的詳細解析,包括其定義、作用、與內存頻率的關
    的頭像 發表于 09-04 11:45 ?2384次閱讀

    內存與主板接觸不良,怎么解決

    內存與主板接觸不良是計算機常見的故障之一,可能導致計算機無法啟動、頻繁死機、藍屏等問題。 一、內存與主板接觸不良的原因 內存條質量問題
    的頭像 發表于 09-02 14:35 ?4183次閱讀

    堆棧和內存的基本知識

    本文主要聊聊關于堆棧的內容。包括堆棧和內存的基本知識。常見和堆棧相關的 bug,如棧溢出,內存泄漏,堆內存分配失敗等。后面介紹軟件中堆棧統計的重要性,以及如何使用工具工具軟件中堆棧使用
    的頭像 發表于 08-29 14:10 ?1044次閱讀
    堆棧和<b class='flag-5'>內存</b>的基本知識