一、前言

隨著當(dāng)今數(shù)據(jù)迅速增長，傳統(tǒng)的馮諾依曼架構(gòu)內(nèi)存墻正在成為計(jì)算性能進(jìn)一步提升的阻礙。新一代的存內(nèi)計(jì)算（IMC）和近存計(jì)算（NMC）架構(gòu)有望突破這一瓶頸，顯著提升計(jì)算能力和能源效率。本文將探討存算一體芯片的發(fā)展歷程、當(dāng)前研究狀態(tài)，以及基于多種存儲(chǔ)介質(zhì)（例如傳統(tǒng)的DRAM、SRAM和Flash，以及新型的非易失性存儲(chǔ)器如ReRAM、PCM、MRAM、FeFET等）的存內(nèi)計(jì)算基本原理、優(yōu)勢(shì)與面臨的挑戰(zhàn)。通過對(duì)知存科技WTM2101量產(chǎn)芯片的深入解析與評(píng)測，重點(diǎn)展示存內(nèi)計(jì)算芯片的電路結(jié)構(gòu)及其應(yīng)用現(xiàn)狀。最后，將對(duì)存算一體芯片未來的發(fā)展前景和挑戰(zhàn)進(jìn)行詳細(xì)分析。

二、深入了解存算一體技術(shù)

2.1 什么是存算一體

存算一體是指在計(jì)算機(jī)體系結(jié)構(gòu)中將存儲(chǔ)和計(jì)算功能整合到一起的概念。這種結(jié)合旨在減少數(shù)據(jù)在處理器和存儲(chǔ)單元之間的頻繁傳輸，從而提高數(shù)據(jù)處理速度和效率。

存算一體的兩個(gè)主要形式是近存計(jì)算和存內(nèi)計(jì)算：

近存計(jì)算：在近存計(jì)算中，計(jì)算單元與高速存儲(chǔ)單元（如高速緩存）緊密集成。這意味著處理器和高速存儲(chǔ)單元之間的距離很近，可以快速訪問數(shù)據(jù)并進(jìn)行計(jì)算，減少了數(shù)據(jù)從內(nèi)存?zhèn)鬏數(shù)教幚砥鞯臅r(shí)間。

存內(nèi)計(jì)算：存內(nèi)計(jì)算是將計(jì)算功能直接放置在存儲(chǔ)單元內(nèi)部的概念。這意味著存儲(chǔ)單元本身具有一定的計(jì)算能力，可以在存儲(chǔ)位置進(jìn)行部分計(jì)算任務(wù)，避免了數(shù)據(jù)在存儲(chǔ)和處理單元之間的頻繁移動(dòng)。存內(nèi)計(jì)算的核心理念是在存儲(chǔ)單元內(nèi)部完成部分計(jì)算任務(wù)，避免頻繁的數(shù)據(jù)傳輸，從而提高效率。這種方式允許處理器直接訪問存儲(chǔ)單元，將計(jì)算任務(wù)和數(shù)據(jù)處理在存儲(chǔ)內(nèi)部進(jìn)行，而不是在傳統(tǒng)的分離存儲(chǔ)和處理的架構(gòu)中進(jìn)行。通過存內(nèi)計(jì)算，數(shù)據(jù)不必在存儲(chǔ)和處理單元之間頻繁傳輸，減少了數(shù)據(jù)移動(dòng)的時(shí)間和能耗。這種方式對(duì)于處理大規(guī)模數(shù)據(jù)和計(jì)算密集型任務(wù)特別有利，能夠提高計(jì)算效率和響應(yīng)速度。在人工智能、機(jī)器學(xué)習(xí)等領(lǐng)域，存內(nèi)計(jì)算技術(shù)能夠加速模型訓(xùn)練和推理過程。研究一些資料后博主自己總結(jié)：存內(nèi)計(jì)算技術(shù)的發(fā)展對(duì)于提高計(jì)算設(shè)備的整體性能、降低能耗并改善數(shù)據(jù)處理效率具有重要意義。值得一提的是，我國知存科技推出的 WTM2101 芯片即采用存內(nèi)計(jì)算這種方式。

近存計(jì)算和存內(nèi)計(jì)算都是存算一體架構(gòu)的重要組成部分，目的是在硬件層面上優(yōu)化數(shù)據(jù)處理流程，使得計(jì)算機(jī)系統(tǒng)能夠更快速、更有效地處理大規(guī)模數(shù)據(jù)和計(jì)算密集型任務(wù)。這些技術(shù)的發(fā)展對(duì)于越發(fā)火熱的人工智能、大數(shù)據(jù)處理等領(lǐng)域的發(fā)展具有重要意義。

2.2 存算一體技術(shù)發(fā)展歷程

個(gè)人查閱了相關(guān)的很多資料，大致總結(jié)出來下面的存算一體技術(shù)發(fā)展歷程，方便我們更加深入的了解存算一體技術(shù)的發(fā)展

1969年： 存算一體的概念最早提出。

1997年： 展示了智能內(nèi)存(Intelligent RAM)方案，將處理器和DRAM集成在單顆芯片上，算力達(dá)到Cray T-90的5倍。

1999年： 提出了靈活內(nèi)存(FlexRAM)方案，仿真結(jié)果表明該芯片架構(gòu)可使計(jì)算性能提升25～40倍。但由于缺少大數(shù)據(jù)處理需求、昂貴的制造成本和復(fù)雜的設(shè)計(jì)，技術(shù)仍然停留在研究階段。

2015年以后： 隨著摩爾定律逐漸失效和馮諾依曼架構(gòu)的局限性明顯，大數(shù)據(jù)應(yīng)用的驅(qū)動(dòng)，工藝水平不斷提高，存算一體技術(shù)重新受到關(guān)注。

2016年，郭昕婕博士（知存科技聯(lián)合創(chuàng)始人及首席科學(xué)家）終于研發(fā)出全球第一個(gè)3層神經(jīng)網(wǎng)絡(luò)的浮柵存內(nèi)計(jì)算深度學(xué)習(xí)芯片（PRIME架構(gòu)），首次驗(yàn)證了基于浮柵晶體管的存內(nèi)計(jì)算在深度學(xué)習(xí)應(yīng)用中的效用。相較于傳統(tǒng)馮諾伊曼架構(gòu)的傳統(tǒng)方案，PRIME可以實(shí)現(xiàn)功耗降低約20倍、速度提升約50倍，引起產(chǎn)業(yè)界廣泛關(guān)注。隨著人工智能等大數(shù)據(jù)應(yīng)用的興起，存算一體技術(shù)得到國內(nèi)外學(xué)術(shù)界與產(chǎn)業(yè)界的廣泛研究與應(yīng)用。

2017年： 微處理器頂級(jí)年會(huì)(Micro2017)上，多所高校和企業(yè)推出了存算一體芯片或系統(tǒng)原型，包括蘇黎世聯(lián)邦理工學(xué)院、加利福尼亞大學(xué)圣巴巴拉分校、英偉達(dá)、英特爾、微軟、三星等。當(dāng)提及圣巴巴拉分校時(shí)，值得關(guān)注的是他們?cè)诨?RRAM 的存內(nèi)計(jì)算領(lǐng)域的突破。這種新型存儲(chǔ)技術(shù)具有高密度、低功耗和快速讀寫等優(yōu)勢(shì)，非常適合存內(nèi)計(jì)算需求。研究團(tuán)隊(duì)專注于將RRAM與計(jì)算過程結(jié)合，實(shí)現(xiàn)內(nèi)部存儲(chǔ)和計(jì)算的融合。這項(xiàng)技術(shù)有望提高人工智能和其他計(jì)算密集型應(yīng)用的效率，通過在芯片內(nèi)部集成存儲(chǔ)和計(jì)算功能，加速數(shù)據(jù)處理速度、降低能耗，并提供更快速、更靈活的計(jì)算解決方案。他們的研究成果可能為未來計(jì)算設(shè)備和系統(tǒng)帶來革命性變革，使其更加智能、高效和可靠。

這些年里，基于不同存儲(chǔ)介質(zhì)的存算一體芯片研究不斷涌現(xiàn)，包括 SRAM、DRAM、Flash、ReRAM、PCM、FeFET、MRAM 等各類存儲(chǔ)介質(zhì)。國內(nèi)外企業(yè)積極研發(fā)，其中臺(tái)積電、Mythic 和知存科技最接近產(chǎn)業(yè)化，已經(jīng)推出了一系列基于不同存儲(chǔ)介質(zhì)的存算一體芯片研究成果。

2.3 基于不同存儲(chǔ)介質(zhì)的存內(nèi)計(jì)算芯片性能比較

目前，用于存算一體的成熟存儲(chǔ)器類型包括 NOR FLASH、SRAM、DRAM、RRAM 和 MRAM 等 NVRAM。

廣泛使用的 FLASH 是一種非易失性存儲(chǔ)介質(zhì)，具有低成本和高可靠性的優(yōu)勢(shì)，但其工藝制程方面存在明顯的瓶頸。

SRAM 在速度和能效方面具有優(yōu)勢(shì)，尤其在存內(nèi)邏輯技術(shù)發(fā)展之后，展現(xiàn)出了高能效和高精度的特點(diǎn)。

DRAM 具有低成本和大容量的優(yōu)點(diǎn)，但速度較慢，并且需要持續(xù)供電進(jìn)行刷新。

新型適用于存算一體的存儲(chǔ)器類型包括 PCAM、MRAM、RRAM 和 FRAM 等。其中，憶阻器 RRAM 在神經(jīng)網(wǎng)絡(luò)計(jì)算中具有特殊優(yōu)勢(shì)，被視為除了 SRAM 存算一體之外的下一代主流研究方向。盡管 RRAM 目前仍需 2-5 年的工藝成熟期，而且材料穩(wěn)定性尚不確定，但其高速和簡單結(jié)構(gòu)的特點(diǎn)，使其有望成為未來發(fā)展速度最快的新型存儲(chǔ)器。

從工業(yè)界的研發(fā)趨勢(shì)來看，SRAM 和 RRAM 均被認(rèn)為是未來主流存算一體的存儲(chǔ)介質(zhì)，下面基于不同存儲(chǔ)介質(zhì)的存內(nèi)計(jì)算芯片性能進(jìn)行一個(gè)比較，方便大家更加了解內(nèi)存芯片的性能。

三、國產(chǎn)存算一體，重大進(jìn)展

國產(chǎn)存算一體技術(shù)的重大進(jìn)展已在新一輪算力攻堅(jiān)賽中得到彰顯。存算一體架構(gòu)的突破傳統(tǒng)馮·諾依曼架構(gòu)的范式探索成為重要趨勢(shì)。這種架構(gòu)改變了存算分離的局面，類似于“在家辦公”一樣，消除了數(shù)據(jù)“往返通勤”的能量消耗和時(shí)間延遲，大大提高了AI算力的能效比。近期，清華大學(xué)團(tuán)隊(duì)研制的全球首款支持高效片上學(xué)習(xí)的憶阻器存算一體芯片引發(fā)關(guān)注。這一突破展示了存算一體技術(shù)的能效潛力和算力潛力，并為本地?cái)?shù)據(jù)處理和動(dòng)態(tài)更新帶來可能，減少了對(duì)云端算力和網(wǎng)絡(luò)帶寬的依賴。

在存算一體領(lǐng)域，全球參與者可分為國際巨頭和新興企業(yè)兩大陣營。國際巨頭如英特爾、IBM、特斯拉等早已布局存算技術(shù)，并推出代表未來趨勢(shì)的產(chǎn)品。而新興企業(yè)則更靈活選擇存內(nèi)計(jì)算路線，如國內(nèi)的知存科技、九天睿芯等，希望實(shí)現(xiàn)更高性能、更通用的算力場景。

這些公司在三個(gè)主要差異上有所體現(xiàn)：

技術(shù)路徑： 近存計(jì)算和存內(nèi)計(jì)算是兩種主要路徑。前者保留了經(jīng)典馮·諾依曼架構(gòu)的數(shù)據(jù)處理特點(diǎn)，而后者通過存儲(chǔ)器件參與計(jì)算操作，實(shí)現(xiàn)存算真正融合。

存儲(chǔ)介質(zhì)： 不同存儲(chǔ)介質(zhì)如SRAM、DRAM等各有優(yōu)缺點(diǎn)，影響著算力的性能和成本。目前，多數(shù)公司選擇成熟的SRAM以及Flash設(shè)計(jì)存算一體芯片，但也在投入新興存儲(chǔ)介質(zhì)的研發(fā)，如MRAM、RRAM等，以期獲得更大競爭優(yōu)勢(shì)。

數(shù)字或模擬： 存算一體的計(jì)算可分為數(shù)字存算和模擬存算。數(shù)字存算更靈活適用于通用性場景，而模擬存算在能量效率方面具有優(yōu)勢(shì)，但其擴(kuò)展性相對(duì)不足；模擬存算的優(yōu)勢(shì)在于其能夠更有效地處理大規(guī)模、復(fù)雜的問題，尤其是涉及到實(shí)時(shí)數(shù)據(jù)處理和復(fù)雜模型的情況。相比傳統(tǒng)的計(jì)算方式，模擬存算能夠更快速地進(jìn)行計(jì)算并解決問題，因?yàn)樗M了物理系統(tǒng)的行為，能夠并行處理數(shù)據(jù)和任務(wù)。知存科技采用模擬存算的方法可能意味著他們更有可能處理復(fù)雜的任務(wù)并加快問題解決的速度。這種方法可能在處理大規(guī)模數(shù)據(jù)、復(fù)雜模型和實(shí)時(shí)計(jì)算方面有很大的優(yōu)勢(shì)。值得一提的是，我們國內(nèi)知存科技目前用的是模擬存算。

這些技術(shù)突破正迎合市場需求，使存算一體技術(shù)迎來了產(chǎn)業(yè)化的拐點(diǎn)。新興企業(yè)在探索新技術(shù)應(yīng)用和大算力布局方面更具前瞻性。隨著技術(shù)和應(yīng)用的不斷成熟，這些企業(yè)勢(shì)必在存算一體領(lǐng)域發(fā)揮重要作用。

3.1 知存科技：我國存算一體領(lǐng)域的研發(fā)領(lǐng)導(dǎo)者

存算一體技術(shù)作為解決馮諾依曼架構(gòu)下存儲(chǔ)墻問題的重要方案，吸引了國內(nèi)外眾多企業(yè)的研發(fā)投入，其中知存科技成為這一領(lǐng)域的引領(lǐng)者之一。

在全球范圍內(nèi)，存算一體技術(shù)的研究和實(shí)踐正由傳統(tǒng)芯片巨頭如三星電子、SK海力士、臺(tái)積電、美光、IBM、英特爾等主導(dǎo)。SK海力士也展示了其基于GDDR的存內(nèi)計(jì)算產(chǎn)品，大幅提高了計(jì)算速度并降低了功耗。其他如臺(tái)積電、美光、IBM、英特爾等也都在存內(nèi)計(jì)算領(lǐng)域取得了積極進(jìn)展，探索將存儲(chǔ)與計(jì)算緊密結(jié)合的創(chuàng)新方案。

在國內(nèi)，新興AI和存儲(chǔ)企業(yè)的蓬勃發(fā)展也為存算一體技術(shù)注入了新的活力。知存科技作為其中一員，在存內(nèi)計(jì)算芯片的研發(fā)和推廣方面處于領(lǐng)先地位。他們的WTM2101基于nor flash存儲(chǔ)介質(zhì)，40nm的制程實(shí)現(xiàn)了超低功耗以及高算力。特別適用于智能語音和智能健康等領(lǐng)域。該公司不僅在技術(shù)上取得了突破，2023年1月還獲得了2億元的B2輪融資，顯示了市場對(duì)其發(fā)展的認(rèn)可和期待。

知存科技的成就不僅在于技術(shù)上的創(chuàng)新，更在于其成功將存算一體技術(shù)落地并投入量產(chǎn)。這種領(lǐng)先地位使得知存科技成為國內(nèi)存算一體領(lǐng)域的重要代表之一，為未來的技術(shù)發(fā)展和產(chǎn)業(yè)進(jìn)步貢獻(xiàn)著不可或缺的力量。

國產(chǎn)存算一體進(jìn)展統(tǒng)計(jì)（收集自企業(yè)官網(wǎng)、新聞報(bào)道等公開信息，僅供參考）

四、知存科技新型 WTM2101 SOC 評(píng)估板使用評(píng)測

非常有幸能夠體驗(yàn)使用知存科技 WTM2101 SOC 評(píng)估板 WTMDK2101-ZT1，下面我會(huì)對(duì)該評(píng)估板進(jìn)行詳細(xì)的評(píng)測。

4.1 WTMDK2101-ZT1 實(shí)驗(yàn)評(píng)測目標(biāo)概述

我們主要是使用WTMDK2101-ZT1 評(píng)估板，在準(zhǔn)備安裝好后，我們會(huì)在測試環(huán)境模擬正常人說話聲音大小的聲音（20-30分貝）連接耳機(jī)完成后，會(huì)出現(xiàn)高分貝的雜音嘯叫（30分貝左右）；當(dāng)板子被啟用后，這些雜音立即消失（時(shí)間延遲<1ms），這展示了ZT1開發(fā)板成功抑制嘯叫的效果。

4.2 WTMDK2101-ZT1 評(píng)估板介紹與安裝

4.2.1 WTMDK2101-ZT1 評(píng)估板介紹

收到評(píng)估板后，馬上開箱打開，我們可以看下圖來仔細(xì)看一下 WTMDK2101-ZT1 評(píng)估板實(shí)物：

可以看到中心區(qū)域就是我們的 WTM2101 芯片，在兩測分別有 IO 接口，其中右側(cè)包括：兩個(gè) Flash，一個(gè) I2S接口和 J Tag 接口，還有一個(gè)音頻模塊的耳機(jī)接口；在測試板的下方的 IO 接口中包括 3個(gè)按鍵，兩排 LED，一級(jí)一組主控芯片接口。

我們接下來的實(shí)驗(yàn)中就會(huì)用到音頻模塊的耳機(jī)接口。

為了方便我們了解開發(fā)板構(gòu)造，我們可以詳細(xì)參看下面的開發(fā)板系統(tǒng)框圖：

4.2.2 評(píng)估板組件安裝

這里測試的 WTMDK2101-ZT1 評(píng)估板有3個(gè)組件

含有 WTMDK2101 芯片的主測試版

嘯叫測試耳機(jī)

測試子板（用于測試版燒錄時(shí)使用）

測試主板圖以及接口說明參照如下：

測試耳機(jī)，可以按照上圖標(biāo)注部分進(jìn)行連接耳機(jī)。

測試子板，可以看到我們測試子板有六根連接線，并且不同線有其不同標(biāo)注，如果需要鏈接測試主板，需要依據(jù)線類型進(jìn)行鏈接。

4.3 評(píng)估板調(diào)試

我們依次將評(píng)估板耳機(jī)與子板鏈接到測試主板，并且接通USB電源到 Windows操作系統(tǒng)的電腦中。這里可以注意，我們使用的是USB接入電源連接在電腦中，你也可以是用其他的電源接入即可。

如下圖所示，將拔碼開關(guān)打開到USB一側(cè)，代表使用USB連接供電，當(dāng)然如果我們直接使用電池供電，則需要將拔碼開關(guān)撥到右側(cè)。當(dāng)我們成功供電后，會(huì)看到LED3的燈已經(jīng)亮起。

4.4 嘯叫音識(shí)別測試

我們先進(jìn)行第一個(gè)測試，使用開發(fā)板來識(shí)別嘯叫音

我們?cè)谀M測試環(huán)境后，在播放音樂進(jìn)行耳機(jī)監(jiān)聽測試的時(shí)候，耳機(jī)會(huì)傳出聲音迅速被放大的識(shí)別后雜音被抑制，這個(gè)時(shí)間非常短暫。

首先是我們模擬環(huán)境，我們找到了同事的電腦，直接播放一個(gè)大約和人聲分貝大小的一段音樂，之后我們的麥克風(fēng)進(jìn)行識(shí)別，這樣的時(shí)候我們的開發(fā)板回對(duì)嘯叫音進(jìn)行識(shí)別。

當(dāng)我們播放音樂后，使用音頻頻譜檢測軟件進(jìn)行監(jiān)聽嘯叫的聲音一段時(shí)間，經(jīng)過測試后從下面測試圖中可以明顯看到，當(dāng)出現(xiàn)嘯叫音的時(shí)候，我們的開發(fā)主板能夠精準(zhǔn)的檢測出來。這個(gè)測試給我個(gè)人的感受是知存科技的 WTMDK2101的強(qiáng)大之處是精準(zhǔn)識(shí)別出嘯叫，并且能夠無聲處理，精準(zhǔn)度非常高且速度快。

4.5 嘯叫音抑制測試

接下來我們驗(yàn)證嘯音抑制功能，不知道你是否有在 KTV 唱歌或者參加會(huì)議拿著話筒講話的經(jīng)歷，如果有的話，你一定會(huì)遇到過你講話的時(shí)候突然出現(xiàn)了嘯音，那種特別鳴的聲音，下面我們使用WTMDK2101-ZT1 評(píng)估板來測試一下知存科技產(chǎn)品的嘯音抑制功能。

我們首先在一臺(tái)電腦中準(zhǔn)備好知存科技助聽控制臺(tái)程序，該程序可以打開或者關(guān)閉降噪（NR）功能，這樣方便我們進(jìn)行對(duì)比。

首先我們準(zhǔn)備嘯音進(jìn)行檢測，我們的做法是先將助聽器測試控制臺(tái)的算法開關(guān)處于關(guān)閉狀態(tài)。

調(diào)整好，來檢測耳機(jī)中的測試音，顯示的圖譜如圖所示：

因?yàn)闇y試環(huán)境的原因，中間可能有部分的干擾音，如果小伙伴們進(jìn)行測試的時(shí)候建議清晨或者晚上比較安靜的地方進(jìn)行測試。

之后我們將開發(fā)板的算法開關(guān)相應(yīng)的開關(guān)打開，之后在進(jìn)行監(jiān)聽耳機(jī)音頻，并輸出音頻圖譜。

注意：其中的 NR 開關(guān)就包括了抑制嘯音的算法功能。

開發(fā)板開啟嘯音抑制功能后的音頻圖譜。

從我們前后嘯音抑制后的圖譜對(duì)比中可以看出，在開啟降噪（嘯音抑制）功能前，從圖譜中可以看到嘯音明顯，并且其平均的聲音分貝是：42.2分貝；當(dāng)我們開啟開發(fā)板的嘯音抑制功能后，嘯音得到明顯的抑制，并且平均分貝為：38.9分貝。可以分析得出知存科技的對(duì)嘯音抑制功能非常顯著。

五、文末總結(jié)

我回顧調(diào)查資料以及動(dòng)手進(jìn)行實(shí)驗(yàn)的過程中，深刻的感受到存內(nèi)計(jì)算對(duì)數(shù)據(jù)處理的強(qiáng)大,也期待下次可以加入知存的線下實(shí)操訓(xùn)練營，更深度的體驗(yàn)存內(nèi)計(jì)算技術(shù)。知存科技的成就代表著存算一體技術(shù)邁向產(chǎn)業(yè)化的重要一步。然而，技術(shù)和市場仍需面對(duì)挑戰(zhàn)，需要更多創(chuàng)新和探索。整體來看，存算一體技術(shù)發(fā)展前景廣闊，但仍需持續(xù)關(guān)注并推動(dòng)其朝著更高效、智能的方向發(fā)展。

審核編輯 黃宇