巨頭領跑，HBM3時代來臨

HBM契合半導體發展趨勢

作為存儲器市場的重要組成部分，DRAM技術不斷地升級衍生。

DRAM從2D向3D技術發展，其中HBM是主要代表產品。

HBM（High Bandwidth Memory，高帶寬內存）是一款新型的CPU／GPU 內存芯片。

其實就是將很多個DDR芯片堆疊在一起后和GPU封裝在一起，實現大容量，高位寬的DDR組合陣列。

通過增加帶寬，擴展內存容量，讓更大的模型，更多的參數留在離核心計算更近的地方，從而減少內存和存儲解決方案帶來的延遲。

從技術角度看，HBM使DRAM從傳統2D轉變為立體3D，充分利用空間、縮小面積，契合半導體行業小型化、集成化的發展趨勢。

JEDEC發布HBM3標準，帶寬翻倍覆蓋更多領域

在堆疊層數方面，新標準不僅支持4－Hi、8－Hi、12－Hi的硅通孔（TSV）堆棧，同時還為16－Hi方案實現做好準備。

每層8—32Gb的容量密度，可輕松支持4GB（8Gb?4－Hi）到64GB（32Gb?16－Hi）容量密度，預計初代產品將基于16Gb存儲層。

為滿足對高平臺層級的可靠性、可用性與可維護性（簡稱RAS）需求，HBM3還支持基于符號的片上ECC、以及實時錯誤報告和透明度。

通過在主機接口端使用低擺幅（0．4V）信號和較低的工作電壓（1．1V），進一步提升能效表現。

人工智能／機器學習、高性能計算、數據中心等應用市場興起，催生高帶寬內存HBM并推動著其向前走更新迭代。

市場調研機構Omdia預測，2025年HBM市場的總收入將達到25億美元。

巨頭率先抵達HBM3“戰場”

去年10月，SK海力士宣布業界首次成功開發現有最佳規格的HBM3 DRAM。

這是SK海力士去年7月開始批量生產HBM2E DRAM后，時隔僅1年零3個月開發了HBM3。

SK海力士研發的HBM3可每秒處理819GB的數據，相當于可在一秒內傳輸163部全高清電影，與上一代HBM2E相比，速度提高了約78％；

內置ECC校檢，可自身修復DRAM單元的數據的錯誤，產品可靠性大幅提高。

隨著SK海力士成功開發HBM3，HBM開始挺進3．0時代，IP廠商亦已先行布局HBM3。

去年2月，三星電子發布其集成AI處理器新一代芯片HBM－PIM（processing－in－memory）。

可提供最高達1．2TFLOPS的嵌入式計算能力，從而使內存芯片本身能夠執行通常由CPU、GPU、ASIC或FPGA處理的工作。

HBM－PIM芯片將AI引擎引入每個存儲庫，從而將處理操作轉移到HBM本身。

去年7月，AMD正在研發代號為Genoa的下一代EPYC霄龍服務器處理器，采用Zen4架構。

這一處理器將首次配備HBM內存，目的是與英特爾下一代服務器CPU Sapphire Rapids競爭。

英特爾和AMD均將在CPU上采用HBM，這也意味著HBM的應用不再局限于顯卡，其在服務器領域的應用將有望更加廣泛。

去年10月，Synopsys宣布推出業界首個完整的HBM3IP解決方案，包括用于2．5D多芯片封裝系統的控制器、PHY和驗證IP。

Design Ware HBM3控制器與PHYIP基于經芯片驗證過的HBM2EIP打造，而HBM3 PHYIP基于5nm制程打造，每個引腳的速率可達7200Mbps，內存帶寬最高可提升至921GB／s。

去年8月，美國內存IP核供應商Rambus宣布推出其支持HBM3的內存接口子系統，內含完全集成的PHY和數字控制器。

數據傳輸速率達8．4Gbps，可提供超過1TB／s的帶寬，是HBM2E內存子系統的兩倍以上。

去年8月，英特爾在其架構日上介紹基于XeHPC微架構的全新數據中心GPU架構Ponte Vecchio。

Ponte Vecchio芯片由幾個以單元顯示的復雜設計構成，包括計算單元、Rambo單元、Xe鏈路單元以及包含高速HBM內存的基礎單元。

英特爾也將HBM用在其下一代服務器CPU Sapphire Rapids上。

在內存方面，除了支持DDR5和英特爾＠傲騰內存技術，還提供了一個產品版本，該版本在封裝中集成了HBM技術。

可在HPC、AI、機器學習和內存數據分析工作負載中普遍存在的密集并行計算中實現高性能。

在 CES 2023 展會上，AMD披露了面向下一代數據中心的 APU 加速卡產品 Instinct MI300，是AMD投產的最大芯片。

這 9 顆小芯片采用有源設計，不僅可以在I／O瓦片之間實現通信，還可以實現與HBM3堆棧接口的內存控制器之間的通信，從而帶來令人難以置信的數據吞吐量。

結尾：

隨著技術標準化發展，該技術應用將會進一步擴大，擴展至用于下一代超級計算機和AI應用的HBM3，甚至用于設備上AI的移動存儲器，以及用于數據中心的存儲器模塊。

HBM 存儲器對于面向企業市場和最終消費者的產品來說是一個非常昂貴的選擇。

隨著人工智能和深度學習的不斷發展，系統已經變得對帶寬需求很大。

HBM處于系統和內存性能層級的頂端，是包括超級計算機、高性能計算、自動駕駛和機器學習等下一代應用無可爭議的技術推動因素。