電子發燒友網報道（文/黃晶晶）近幾年，數據中心、云服務以及物聯網設備保持需求的高速增長。在大數據的處理方面，人工智能和機器學習（AI/ML）的使用率也將日益提升，預計到2025年，超過25%的服務器出貨將會專供于人工智能領域。在AI/ML當中，內存和I/O帶寬是影響系統性能至關重要的因素，這又促進業界不斷提供最新的技術，去滿足內存和I/O的帶寬性能需求。

在英偉達、AMD的GPU/CPU芯片封裝中，已經應用到了HBM內存技術，通過在一個2.5D封裝中將GPU/CPU與HBM內存進行整合能夠提升內存帶寬、加速數據存儲的速度，從而應對神經網絡、AI訓練等的內存帶寬需求。據了解，燧原科技也在其GPU芯片中使用了HBM2技術，由Rambus提供IP支持。

現在，Rambus公司率先在業界推出支持HBM3的內存子系統，速率可達8.4Gbps，能夠提供超過1TB/s的內存帶寬，它的參數指標較HBM2實現了大幅的提升。

日前，Rambus IP核產品營銷高級總監Frank Ferro，以及Rambus大中華區總經理蘇雷接受包括電子發燒友網在內的媒體采訪時，詳解了Rambus HBM3-Ready內存子系統的亮點和市場。

Rambus于2016年進入HBM的市場，得益于之前在行業領域長期的專業知識累積，提供包括高速接口、芯片以及2.5D等復雜IP，從而在HBM市場保持領先。

Rambus HBM3的數據傳輸速率高達8.4Gbps/pin，帶寬超過1TB/s，采用標準的16通道設置，可以達到1024位寬接口。能夠支持市面上所有主流的供應商所提供的DRAM，并大幅提高整個產品的密度。除了針對AI/ML訓練的市場之外，HBM3還可用于高性能計算及其他數據中心相關的主要應用場景、圖形應用程序和具體網絡應用。

HBM3達到8.4Gbps，提供更寬的設計裕度

從HBM性能的歷史演進來看，最開始的HBM1，數據傳輸速率大概可以達到1Gbps左右；2016年的HBM2，最高數據傳輸速率可以達到2Gbps；接下來是2018年的HBM2E，最高數據傳輸速率可以達到3.6Gbps。



今年海力士發布了HBM3產品，公開的最高數據傳輸速率達到5.2Gbps。盡管JEDEC尚未發布HBM3相關的標準，但是Rambus也推出了HBM3產品，并將最高的數據傳輸速率提升到8.4Gbps。

Frank Ferro表示，Rambus與美光、海力士、三星等廠商有著非常密切的合作，為這些DRAM廠商提供HBM PHY以及其他相關方面的支持。我們推出HBM3產品，目前為止在數據傳輸速率上比海力士更高，8.4Gbps的速率選擇是出于未來產品規劃的考量，同時也可以為客戶和設計師提供更高的設計裕度，為未來的產品開發做好后續準備。

HBM3內存子系統的主要架構

如下圖所示，最上面有4塊DRAM內存條，通過TSV堆疊的方式疊加在一起，下面是SoC，再往下是中介層，在中介層下面就是綠色的封裝。這些部分組成了整個2.5D的系統架構。



作為一個完整的內存子系統產品，Rambus提供的并不僅僅是IP，同時也提供泛IP，以及整個系統的具體設計，包括經過驗證的PHY以及數字控制器。此外，還會在中介層和封裝上給客戶提供更好的參考設計支持和框架，因為這些也是整個內存子系統領域非常重要的環節。

Frank Ferro表示，得益于在HBM領域多年的經驗和專業知識，Rambus在市場份額上排名第一，同時已經贏得了超過50個設計訂單，這些訂單來自數據中心、ASIC的設計方等。目前為止，我們的控制器已經應用在了HBM市場超過85%的產品當中。

Rambus生產經驗的支持

Rambus有著對HBM生產經驗的支持，這里展示的一款測試芯片，集成了PHY和控制器，基于HBM2E的DRAM，數據傳輸速率可以達到4Gbps，到目前為止依舊是行業的最高水平。芯片開發一次成功，無需返工，支持臺積電等晶圓代工廠的多制程節點。



Rambus的PHY產品通過完全集成的硬核方式進行交付，在交付之時已經包括了完整的PHY、I/O以及Decap，方便客戶進行系統集成。

對于I/O設備產品來說，客戶也需要廠商提供非常強大的技術以及相關的調試糾錯支持，Rambus不僅可以將產品提供給客戶，還可提供針對ASIC power up的現場客戶支持，幫助客戶進行現場糾錯，實現更好的設備調試啟動。

不同的提供商的生產2.5D流程本身也不一樣，是一個非常復雜的過程，不僅需要提供用于生產中介層的硅產品，還有根據廠商各有差異的封裝以及最后組裝。而Rambus可以同時支持OSAT和CoWoS生產2.5D流程。

此外，Rambus與各大DRAM供應商有著非常密切的合作關系，測試芯片已經過充分的雙向驗證以及測試。

2.5D封裝的挑戰

當前HBM采用2.5D封裝需要考慮兩個主要的挑戰：

Frank Ferro分析，第一，確保信號的完整性，包括與中介層之間信號的互聯，這是非常重要的環節，也是我們首要考慮的挑戰，這同時要求在整個封裝系統上具備非常良好的控制程序。

第二，2.5D封裝整體的尺寸非常小，所以必須考慮可能產生的散熱問題。不過HBM本身就是一個低功耗的解決方案，可以支持很大范圍內的工作溫度。

另外，Frank Ferro還指出，盡管目前HBM3的速率已經可以達到8.4Gbps，但對比GDDRDRAM已經達到16或者18Gbps的速率，還是有差距的。簡單來講，HBM發展的限制目前集中在中介層上。在HBM2的時代，中介層本身的技術是有限制的，即一代和二代的中介層最高只能做到兩層，它設計的線寬、金屬層的厚度都是非常有限的。HBM3的速率達到8.4Gbps，為此需要在中介層的設計上實現進一步優化。隨著中介層技術的發展，其本身的厚度、金屬層和線寬都有了一定的增加，這也推動了HBM未來的發展。

HBM3面向哪些應用領域

Frank Ferro解析，數據中心是HBM3最主要的應用場景，但隨著設備越來越多的邊緣化，HBM3也可能被應用在5G設備上，特別是那些對帶寬有更高要求的5G設備。

另一個應用場景是AI/ML，現在AI/ML的數據很多時候需要上傳到云端進行處理，然后再重新回到本地。所以HBM3未來在這個領域也有一定的應用前景。

最后是HPC，它也可以充分發揮HBM在功耗以及性能上的強大優勢。目前為止，已經有一些客戶開始與Rambus進行早期接洽，在這個領域展開具體的應用嘗試。

Rambus在中國市場的動作

當前，中國在數據中心、云計算以及AI等領域都走在了世界前列，因此許多國外廠商更加重視中國市場。Rambus也不例外，蘇雷表示，從去年開始，Rambus年度的Design Summit除了總部以外，中國是全球唯一單獨舉辦的區域。圍繞中國市場，Rambus已經規劃了一系列的活動。例如，Rambus今年在全球范圍內發布了CXL內存互聯計劃，將和中國的云服務商、數據中心、服務器OEM、ODM和內存公司等整個生態系統展開合作，以加快CXL內存互聯計劃的開發和應用、落地和發展。

據透露，Rambus的IP產品特別是HBM和GDDR6系列被業界廣泛采用，覆蓋一線的AI客戶。另外緩沖芯片、DDR5市場也會和內存生態系統的合作伙伴開展合作。

Rambus在中國擁有強大的銷售、市場、FAE和AE團隊，并且還將持續擴大，做好長期耕耘，未來將用更好的產品和服務來踐行Rambus“In China，for China”的承諾。

小結：

雖然目前JEDEC還沒有正式發布HBM3標準，也很難去推測下一代HBM（例如HBM4）的性能，不過，Frank Ferro表示，整個行業對帶寬的需求幾乎是無止境、并且快速上升的。這也是Rambus將要持續進行的技術突破，以始終保持領先，從而不斷滿足市場的新需求。

本文為電子發燒友網原創文章，作者黃晶晶，微信號kittyhjj，轉載請注明以上來源。如需入群交流，請添加微信elecfans999，投稿發郵件到[email protected]。