HBM存儲為GPU而生
 

　　HBM(HighBandwidthMemory)即高帶寬存儲器，是一種基于3D堆疊工藝的DRAM內存芯片，具有高內存帶寬、低能耗、更多I/O數量、更小尺寸等優勢。HBM最早由海力士在2013年推出，起初主要用于提升GPU的讀寫速度，因此最先用于搭載獨立顯卡的游戲本(游戲本/臺式機)，2016-2017年被用于GPU礦機提升挖礦效率，同期研究學者們發現了GPU在深度學習和神經網絡中具備超高效率，包括OpenAI等團隊開始采用GPU進行機器學習研究，2022年OpenAI推出ChatGPT大模型，集成HBM的高性能英偉達GPU成為AI訓練的核武器，市場開始瘋搶GPU和HBM。回溯歷史我們發現，HBM從出生開始，一直都是和GPU深度綁定。
 

　　圖：HBM從出現開始就是和GPU深度綁定的
 

　　資料來源：HBM白皮書 匯正研究所
 

　　HBM主采用了堆疊封裝工藝
 

　　HBM和傳統DRAM的差別只是封裝結構不同，HBM將多個DRAM die通過TSV(硅通孔)和Microbump(微凸塊)工藝堆疊起來，再通過uBump和Interposer(中介層)連接到GPU芯片上，借用AMD CEO蘇豐姿的話來說HBM相當于將DRAM顆粒由傳統的平房設計轉變為樓房設計，可實現更高的性能和帶寬。
 

　　圖：DRAM和HBM的封裝架構明顯不同
 

　　資料來源：ADM官網 匯正研究所
 

　　HBM存儲成為AI算力提升的關鍵
 

　　HBM速率快 體積小 功耗低：HBM通過TSV 工藝將多個DRAM 堆疊起來，大幅提升內部傳輸帶寬，并降低功耗和芯片封裝尺寸，封住后的HBM疊層在通過Interposer中介層與GPU芯片互聯封裝在一起，實現近存計算，縮短數據傳輸距離并提升傳輸速率，在較小的物理空間里實現高容量、高帶寬、低延時與低功耗，根據三星公布的數據，采用TSV堆疊+Interposer中介層封裝的HBM存儲相比于傳統獨立封裝的DRAM產品，體積減少35%，功耗降低50%，帶寬提升8倍。
 

　　使用HBM 可以大幅提升AI芯片性能：英偉達第一代專業的AI訓練GPU A100采用臺積電7nm制程+HBME2存存儲，算力約為20T，第二代產品H100采用臺積電4nm制程+HBME2存存儲，算力約為51T，通過制程的提升，芯片性能翻倍，但是到最新發布的第三代產品H200，該芯片采用和H100完全相同的架構、設計和工藝制程，晶體管數量，芯片峰值算力都和H100相同，只是搭載了容量更大速度更快的HBM3e 內存，實際推理中的效率就提升了90%，僅僅擴大HBM就能夠顯著提升AI芯片性能，因此HBM已經從一款存儲升級為AI算力的倍增器。
 

　　圖：僅僅增加HBM就能夠提升模型推理速度
 

　　所有芯片廠商都把HBM作為AI芯片的標配

　　2023年底OpenAI推出了全球首款AI 大模型ChatGPT，超大語言模型對算力的提升速度要求已經突破了后摩爾時代算力提升速度的極限，“內存墻(顯存的帶寬和傳輸速度遠低于GPU的運算能力)”的存在嚴重制約了高性能GPU芯片算力的釋放，因此具備高帶寬、大容量、低功耗、高集成特點的HBM成為是高速計算平臺的最優解決方案，集成HBM的高性能GPU顯卡成為AI訓練推理的標配，截止到目前所有在2023年之后推出的AI GPU均集成了HBM存儲。
 

　　圖：所有廠商的AI芯片均搭載了HBM產品
 

　　資料來源：高盛 匯正研究所
 

　　產品升級疊加需求爆發 行業高增長
 

　　AI芯片帶動HBM需求量爆發：2022 年全球 HBM 銷量約為1.8億GB， 2023 年由于AI 大模型的出現，AI服務器銷量大幅增加，同時單機HBM容量從上一代的150G增加到640G，整個HBM需求增長60%達到2.9億GB，2024年最一代服務器中單機HBM單機容量進一步擴大到1040G，隨著英偉達AI芯片的放量，外加AMD、英特爾、谷歌等公司自研的搭載HBM的芯片上市，HBM需求會加速爆發，預計2024 年全球HBM需求將會達到5.8億GB，2027年進一步提升到40億GB。
 

　　供應緊張疊加規格升級 價格持續保持高位：2023 年由于 AI意外火爆，導致HBM供應嚴重短缺，行業需求超過總產能的1.05倍，外加供應鏈備貨和過度下單，市場缺口更大，預計 2024 年隨著各原廠積極擴產的效果顯現，HBM 供需比有望獲改善，但是依然存在少量的缺口，供需緊張下產品價格會維持高位，與此同時主流 HBM 產品也逐步從 HBM2E 升級為價值量更高的HBM3 甚至HBM3E(預計2024年HBM3占比將從2023年的35%提高到60%以上)，進一步提高產品價格，預計2024年HBM存儲價格至少能夠維持23Q3時10美元/Gb的水平，并在后續保持穩定。
 

　　行業規模4年10倍：2023年全球HBM市場約為35億美元，預計到2027年將會達到350億美元，約為2023年的10倍，年復合增速超過58%。
 

　　圖：HBM市場規模4年10倍
 

　　數據來源：高盛 匯正研究所
 

　　海外壟斷 國內目前不能生產
 

　　當前HBM市場仍由三大家主導，2022年全年SK海力士占50%，三星占40%，美光占10%。根據TrendForce，HBM市場仍由三星、海力士、鎂光三家海外公司壟斷，2022年全年SK海力士份額50%，其次是三星40%，美光10%，目前國內廠商還不掌握相關量產技術。
 

　　圖：全球HBM市場格局
 

　　資料來源：IDC 匯正研究所
 

　　投資機會：產品 設備 材料 國產替代
 

　　HBM市場需求爆發式增長，最為受益的肯定是生產銷售HBM的廠商，其次是受益HBM產能擴張的設備材料供應商，接下來看HBM國產替代供應鏈。
 

　　HBM產品
 

　　HBM生產商三星、海力士肯定是HBM需求爆發最直接的受益者，但是全球HBM廠商都被海外廠商壟斷，國內只有香農芯創作為海力士HBM產品在華獨家代理商，有一點關系。
 

　　海外HBM擴產-設備材料
 

　　測試設備：傳統的DRAM 測試流程主要包括晶圓級測試(老化測試、冷/熱測試和修復測試)和封裝級測試，而 HBM生產中增加了鍵合工藝、TSV工藝、Base die結構等，每一道工藝都需要相應的測試，并且由于HBM是三維結構并并且IO接口密度遠高于DRAM產品，需要重新開發相應的測試設備和測試工藝，這會帶來大量的測試設備需求。相關公司都是海外企業如康特科技、ASMPT、泰瑞達、愛德萬等。
 

　　銅電鍍設備：HBM需要采用TVS工藝將4層DRAM堆疊在一起并實現高速互聯互通，因此會用到大量的TVS工藝，對于電鍍設備和電鍍液需求增加，相關供應商都是海外企業，東京電子等。
 

　　材料：HBM試用了大量的TVS(Through Silicon Via硅通孔，在硅微孔中鍍銅形成電路)工藝，因此電鍍液需求也會增加，相關供應商主要是東京電子等，除了電鍍液之外其他傳統DRAM使用的材料諸如光刻較、特氣、硅片、填料等需求也會增增加，但是彈性很小。國內雅克科技(海力士光刻較前驅體)、聯瑞新材(顆粒硅填料)在部分產品在認證，但是目前還沒有導入。
 

　　國產HBM
 

　　根據公開媒體的報道，目前國內存儲廠商已經突破HBM核心技術，預計2025年底國產HBM將會上市。目前已經確定的供應商包括通富微電(掌握2.5D/3D封裝技術，配套國產HBM封測 )，其他還有大量先后炒作過的公司，他們的產品和HBM生產所需的產品重疊，但是并沒有供貨，最多只是傳聞參與驗證，不做介紹。
 

　　圖：HBM產線投資機會