人工智能（AI）無疑是近幾年最火的技術(shù)。從開發(fā)到部署AI技術(shù)主要可分為兩大步驟，即AI訓(xùn)練和AI推理。

AI訓(xùn)練主要是為AI模型提供數(shù)據(jù)，使其掌握了解將要分析的數(shù)據(jù)類型所需的一切信息的過程；而AI推理則是通過經(jīng)過訓(xùn)練的AI模型運(yùn)行新的實(shí)時(shí)數(shù)據(jù)，從而作出預(yù)測并產(chǎn)生可執(zhí)行結(jié)果的過程。

在這兩個(gè)過程中，它們對于計(jì)算的需求不同，AI訓(xùn)練的計(jì)算周期長，需要大量優(yōu)質(zhì)數(shù)據(jù)，是一次性的投資。AI推理則是短時(shí)間的算力需求激增，需要快速、高效能的計(jì)算，是一個(gè)長期投資。

尤其對于AI訓(xùn)練，隨著AI大模型的復(fù)雜度不斷提升，AI訓(xùn)練所需的數(shù)據(jù)也在持續(xù)增長。根據(jù)OpenAI的數(shù)據(jù)，自2012年以來，最大規(guī)模的AI訓(xùn)練所使用的計(jì)算量以每年10倍的速度增長。以O(shè)penAI的ChatGPT為例，2022年11月發(fā)布的GPT-3當(dāng)時(shí)使用了1750億個(gè)參數(shù)構(gòu)建，而到2023年3月發(fā)布的GPT-4時(shí)，使用的參數(shù)數(shù)量已經(jīng)超過1.5萬億個(gè)。這一數(shù)據(jù)還在持續(xù)增長中。

如此大規(guī)模的數(shù)據(jù)總量對于內(nèi)存提出了較高要求，如高帶寬、高容量、高性能等，傳統(tǒng)的內(nèi)存產(chǎn)品已經(jīng)無法滿足AI訓(xùn)練的需求。而HBM似乎是為AI訓(xùn)練量身定做的存儲器產(chǎn)品。

HBM（High Bandwidth Memory，高帶寬存儲器）最先是AMD和SK海力士發(fā)起的一種基于3D堆棧工藝的高性能DRAM，它包含了中介層、處理器以及內(nèi)存堆棧。這意味著HBM可以提供非常高的帶寬，而且還具有非常高的能效及低延遲。目前，HBM內(nèi)存已經(jīng)演進(jìn)了了幾代，最新一代為HBM3E，英偉達(dá)即將發(fā)布的H200將是首款提供HBM3E的GPU產(chǎn)品。

人工智能技術(shù)的發(fā)展也帶動了HBM市場的不斷發(fā)展，在今年內(nèi)存市場普遍低迷的情況下，HBM需求井噴，未來幾年的增幅也將擴(kuò)大。據(jù)咨詢機(jī)構(gòu)TrendForce預(yù)測，2024年全球HBM的位元供給有望增長105%。到2024年，HBM的市場規(guī)模有望達(dá)到89億美元，同比增長127%，2025年預(yù)計(jì)將突破100億美元。

在此情況下，作為內(nèi)存控制器IP的主要提供商之一，Rambus也積極布局HBM內(nèi)存市場，近期推出了數(shù)據(jù)傳輸速率高達(dá)9.6Gb/s的HBM3內(nèi)存控制器IP，可幫助大幅提高AI性能。據(jù)Rambus接口IP產(chǎn)品管理和營銷副總裁Joe Salvador先生介紹，Rambus的這一內(nèi)存控制器IP產(chǎn)品是經(jīng)過驗(yàn)證的，可支持所有HBM3產(chǎn)品，也包括最新的HBM3E內(nèi)存設(shè)備。

Rambus HBM3控制器模塊圖

Joe Salvador強(qiáng)調(diào)：“Rambus HBM3控制器不僅僅是一個(gè)獨(dú)立產(chǎn)品，我們還能提供一整套完整的經(jīng)過驗(yàn)證的解決方案，能夠和市面上目前比較常見的HBM3以及相關(guān)的內(nèi)存模組進(jìn)行匹配，如SK海力士、美光和三星的產(chǎn)品，我們都已經(jīng)完成了一整套的測試。另外，我們也經(jīng)過了第三方來自西門子Avery的驗(yàn)證IP，也可以完整地支持相應(yīng)的功能。”

目前，隨著AI技術(shù)的不斷發(fā)展，對于算力和內(nèi)存的需求也將不斷增長。Rambus大中華區(qū)總經(jīng)理蘇雷先生表示：“AI技術(shù)發(fā)展面臨的挑戰(zhàn)將更多集中于存儲墻問題，而算力的演進(jìn)將不會面臨太多的挑戰(zhàn)。目前的內(nèi)存和帶寬的發(fā)展還是太慢，無法跟上AI技術(shù)的發(fā)展腳步。作為存儲方面的專家，Rambus可以預(yù)見，伴隨著AI的新成長和驅(qū)動，我們會在這一輪的科技浪潮中發(fā)揮越來越重要的作用，助力AI的發(fā)展。”

另外，數(shù)據(jù)安全也是在AI技術(shù)發(fā)展中不可忽視的問題。蘇雷表示：“我們也提供安全I(xiàn)P方面的全套方案，讓數(shù)據(jù)傳輸更快、更安全。”

AI時(shí)代的來臨，帶來了很多挑戰(zhàn)和機(jī)遇。而對于存儲器市場來說，則是一次很好的發(fā)展機(jī)會。作為存儲行業(yè)的老兵，Rambus未來也大有可為。

審核編輯：劉清