存儲器的未來是巨大的、多樣的，并且與處理緊密結合。這是最近在舊金山舉行的國際電子設備會議上的一個受邀演講所傳達的信息。斯坦福大學電氣工程師、臺積電前研究副總裁、目前仍是臺積電科學顧問的Philip Wong告訴與會的工程師們，現在是時候以新的方式思考內存和計算架構了。

當今計算問題的需求——尤其是AI——正迅速超過現有存儲系統和架構的能力。今天的軟件假定可以隨機訪問任何給定的內存位。將所有這些數據從內存來回移動到處理器會消耗大量的時間和能量。并不是所有的數據都是平等的，有些需要經常訪問，有些不需要。Wong認為，這個“內存墻”問題需要關注。

不幸的是，工程師們繼續關注的問題是，哪種新興技術將取代目前由SRAM、DRAM和Flash構成的傳統存儲器。每一種技術——以及它們潛在的替代品——都有利弊。有些提供更快的數據讀取；有些提供更快的寫入；有些更耐用；其它的則有較低的功耗。Wong認為，尋找一種新的存儲技術來統治所有這些技術是錯誤的做法。

“你找不到完美的存儲。”

相反，工程師應該看看他們的系統需求，然后挑選哪些組件組合將工作得最好。Wong主張從特定類型的軟件用例的需求開始。他說，選擇正確的存儲組合是“一個多維優化問題”。

一種存儲不能滿足所有的需求

Wong表示，試圖讓一種存儲器在所有方面都做到最好——快速讀取、快速寫入、可靠性、保持時間、密度、能效等等——這讓工程師們“工作得太辛苦了”，并展示了一張幻燈片，上面是一名電氣工程師像西西弗斯一樣推著齒輪上山。“我們在不知道一項技術將被用于什么的情況下，孤立地看待數字。這些數字可能無關緊要。”

例如，當設計一個需要頻繁地、可預測地讀取內存和不頻繁地寫入內存的系統時，MRAM、PCM和RRAM是不錯的選擇。對于將流式處理大量數據的系統，系統需要頻繁的寫入，很少的讀取，并且只需要較短的數據生命周期。因此，工程師可以在速度、密度和能耗之間進行權衡，選擇增益單元或FeRAM。

關于啟動核電站為AI數據中心提供燃料的討論，很明顯，該行業已經意識到自己的能源問題。

靈活性可以帶來很大的好處。作為一個例子，Wong指出了他在混合增益單元上的工作，它類似于DRAM，但每個存儲單元使用兩個晶體管，而不是一個晶體管和一個電容器。一個晶體管是硅的，提供快速讀出；另一種存儲數據而不需要刷新，并且基于氧化物半導體。當這些混合增益單元與RRAM結合用于AI/機器學習訓練和推理時，與傳統存儲系統相比，它們提供了9倍的能源使用優勢。

Wong說，至關重要的是，這些不同的存儲器需要與計算更緊密地結合在一起。他主張將多個芯片集成在一個“系統”中，每個芯片都有自己的局部記憶，將每個芯片視為一個更大系統的一部分。在10月份發表的一篇論文中，Wong和其合作者提出了一種計算系統，該系統以硅CMOS芯片為基礎，分層使用由STT-MRAM組成的快速訪問致密存儲器，用于非易失性存儲器的金屬氧化物RRAM層，以及高速高密度增益單元層。他們稱之為MOSAIC（MOnolithic, Stacked, and Assembled IC）。為了節省能源，數據可以存儲在需要處理的地方附近，而堆棧中的芯片可以在不需要時關閉。

在提問環節，觀眾中的一名工程師表示，他喜歡這個想法，但他指出，所有這些不同的部件都是由不同的公司制造的，不能一起工作。Wong回答說，這就是為什么像IEDM這樣將所有人聚集在一起的會議很重要。關于啟動核電站為AI數據中心提供燃料的討論，很明顯，該行業已經意識到自己的能源問題。“需求是發明之母。”他補充說。

原文鏈接：

https://spectrum.ieee.org/memory-ai-energy