存儲三強的競爭更加激烈了。

美光（Micron）宣布開始量產HBM3E高帶寬內存。美光稱，其HBM3E的功耗將比競爭對手的產品低30％。

據悉，美光的HBM3E將應用于英偉達下一代AI芯片H200 Tensor Core GPU。之前英偉達的HBM由SK海力士獨家供應，如今美光、三星都將加入。

HBM（High Bandwidth Memory）即高帶寬存儲器，屬于圖形DDR內存的一種，通過使用先進的封裝方法（如TSV硅通孔技術）垂直堆疊多個DRAM，與GPU通過中介層互聯封裝在一起。HBM的優點在于打破了內存帶寬及功耗瓶頸。CPU處理的任務類型更多，且更具隨機性，對速率及延遲更為敏感，HBM特性更適合搭配GPU進行密集數據的處理運算，英偉達新一代AI芯片，均搭載HBM內存。

HBM產品問世至今，HBM技術已經發展至第四代，分別為HBM、HBM2、HBM2E、HBM3，第五代HBM3E目前已量產，HBM被認為是人工智能時代的新一代DRAM。

HBM方案作為近存計算的典型技術，可以改善存算分離導致的“存儲墻”問題，即存儲單元的帶寬問題、存儲單元與計算單元數據傳輸的能效問題，并且，HBM中Die裸片的垂直堆疊也增大了容量。因此，在存算一體真正落地之前，HBM技術是契合當前GPU對更多內存、更高帶寬需求的最佳方案。

HBM的特點是大容量、高帶寬（帶寬用于衡量DRAM傳輸數據的速率，是核心技術指標），它將多個DDR裸片堆疊在一起后和GPU封裝在一起，實現大容量、高位寬的DDR組合陣列。

2013年，SK海力士率先推出HBM1，HBM1每個堆棧的帶寬為128GB/s、支持4個DRAM堆棧集成，容量為每堆棧4GB。2017年，SK海力士推出了HBM2，它的帶寬和容量與HBM1相比實現翻倍增長。2018年，JEDEC推出了HBM2e規范，HBM2e可以實現每堆棧461GB/s的帶寬。SK海力士于2022上半年開始量產HBM3，帶寬達到819.2 GB/s，支持12個DRAM堆棧集成，容量達每堆棧24GB。2023年，主流市場需求從HBM2e轉向HBM3，HBM3需求占比提升至39%，隨著使用HBM3的加速芯片陸續放量，預計2024年HBM3的市場需求占比將達到60%。

2023年底，英偉達發布了DGX GH200，進一步推升了AI服務器對內存性能的需求，DGX GH200共鏈接了256個Grace Hopper超級芯片，具有144TB的共享內存，GH200單卡配備了480GB LPDDR5內存和96GB的HBM顯存，而在上一代DGX H100服務器中，平均單個H100芯片對應256GB內存和80GB的HBM。二者對比，GH200方案的內存容量有顯著提升。

TrendForce認為，英偉達正在規劃更多HBM供應商，美光、SK海力士、三星都已于2023年陸續提供了8hi（24GB）樣品，三星的HBM3（24GB）已經在2023年底完成驗證。

由于HBM的驗證過程繁瑣，預計耗時兩個季度，以上三大內存原廠都預計于2024年第一季完成驗證。各原廠的HBM3e驗證結果，也將決定英偉達2024年HBM供應商的采購權重分配。

英偉達2023年的高端AI芯片（采用HBM的）的既有產品為A100、A800和H100、H800，2024年，除了上述型號外，該公司還將推出使用6個HBM3e的H200和8個HBM3e的B100，并同步整合自家基于Arm架構的 CPU，推出GH200和GB200。

2024年，AMD將重點出貨MI300系列，采用HBM3，下一代MI350將采用HBM3e，將在2024下半年開始進行HBM驗證，預計大規模量產時間將出現在2025年第一季度。

英特爾方面，2022下半年推出了Habana Gaudi 2，采用6個HBM2e，預計2024年新型號Gaudi 3將繼續采取HBM2e，但用量將升級至8個。

1月下旬，SK海力士公布了HBM發展路線圖，該公司副總裁Kim Chun-hwan透露，計劃在2024上半年量產HBM3e，并向客戶交付8層堆疊樣品，在6層堆棧HBM3e配置中，每層堆?？商峁?.2 TB/s的通信帶寬，8層堆疊將進一步提升HBM內存的帶寬。

Kim Chun-hwan表示，在不斷升級的客戶期望的推動下，存儲行業正在面臨激烈的生存競爭。隨著制程工藝節點的縮小接近極限，存儲器廠商越來越關注新一代存儲架構和工藝，以給客戶應用系統提供更高的性能。為此，SK海力士已經啟動了HBM4的開發，計劃于2025年提供樣品，并于次年量產。

根據美光提供的信息，與前幾代HBM相比，HBM4每層堆棧的理論峰值帶寬將超過1.5 TB/s。為了實現這樣的帶寬，在保持合理功耗的同時，HBM4的目標是實現大約6GT/s的數據傳輸速率。

三星也有發展HBM4的時間表，計劃于2025年提供樣品，并于2026年量產。據三星高管Jaejune Kim透露，該公司HBM產量的一半以上是定制化產品，未來，定制HBM方案的市場規模將進一步擴大。通過邏輯集成，量身定制的HBM對于滿足客戶個性化需求至關重要。

一些市場觀察人士表示，三星在HBM芯片開發方面落后于SK海力士，為了在新接口標準CXL開發中占據優勢地位，三星加快了技術研發和產品布局。

審核編輯：劉清