【2026-08-07】DIGITIMES Research 8 月 5 日報導，GPU 算力成長速度與 HBM 容量擴充速度呈現落差，地端模型訓練在特定情況下面臨記憶體不足；DIGITIMES 觀察，aiDAPTIV+ 與 CXL（Compute Express Link）等記憶體卸載技術正快速崛起，將重新分配地端 AI 訓練伺服器的供應鏈價值，DRAM、SSD 與 HBF 廠商同步受惠。
DIGITIMES Research 8 月 5 日報導，GPU 算力成長速度與 HBM 容量擴充速度呈現顯著落差，地端（on-premise）AI 訓練在特定場景下將面臨 GPU 記憶體（VRAM）不足情形；隨著 AI 模型參數量從千億級躍升至兆級，HBM 已從「加速器」轉變為「瓶頸」。對封測與材料端而言，先進記憶體封裝對凸塊、TCB、混合鍵合等製程的精度要求越來越高，相關設備與材料的國產化進度將成為下一波觀察重點。
DIGITIMES 指出，HBM 受限於封裝與成本：單顆 GPU 可搭載的 HBM 容量上限約 80 至 192 GB，無法擴充到 TB 等級；三顆最先進的 HBM4E 晶圓疊加後也僅約 288 GB，與動輒 1~3 TB 的模型訓練需求差距懸殊。這激發出記憶體卸載（memory offloading）的市場需求。對客戶端而言，主要雲端服務供應商與系統廠的長約與預付款比重將同步提高，這也將成為記憶體廠商穩定現金流的重要來源，並讓產能規劃更早被市場透視。
DIGITIMES 並羅列兩條主流卸載路線：第一是 aiDAPTIV+ 的核心概念——利用 CPU DRAM 與 NVMe SSD 作為「虛擬 HBM」，讓只配備較少 GPU 與 HBM 記憶體的環境仍能運行較大規模 LLM 訓練；第二是 CXL（Compute Express Link）——透過 PCIe 介面將外部 DRAM 或 persistent memory 連接到 GPU，提供共享記憶體池。從供需端來看，先進記憶體製程的認證週期長、客戶黏著度高，新進入者的門檻將隨製程世代演進持續提高，後續觀察重點將放在新世代良率爬坡時程與客戶驗證進度。
DIGITIMES 引述 DatacenterKnowledge 報導，美光已在 2024 年公開 128GB 與 256GB 容量的 CXL 模組，速率達 36 GB/s，可支援 AI 平台更高容量需求；而 SK 海力士則推出基於 HBM 與 CXL 的「hybrid tiered memory」架構，將兩種記憶體整合為單一邏輯位址空間。這個發展也意味著 AI 加速器與高效能運算應用對高頻寬記憶體的依賴將持續加深，整體記憶體市場結構將更明顯地向 HBM 傾斜。
DIGITIMES 分析 aiDAPTIV+ 路線的供應鏈受惠者：DRAM 業者（南亞科 2408、華邦電 2344、旺宏 2337、美光）將因 CPU 端 DRAM 容量需求擴大而受惠；NVMe SSD 業者（群聯 8299、慧榮 2243、致鈞 8082）則因 SSD 在卸載架構中扮演「擴充 VRAM」角色，營收貢獻潛力可期；HBF（高頻寬快閃記憶體）概念股方面，群聯已於 6 月展出 HBF 原型。從資本支出角度，先進記憶體廠的設備投資週期普遍長於邏輯晶圓代工，這也使得資金調度與折舊攤提將成為影響毛利率與股價波動的關鍵變數。
DIGITIMES 並指出，CXL 路線的生態系成形速度比預期快：英特爾（Intel）已於 Sapphire Rapids 與 Granite Rapids 伺服器平台內建 CXL 1.1 支援；三星電子已發表業界第一顆 CXL 2.0 介面的 256GB DRAM 模組；美光（Micron）則與多家超大規模雲端業者共同驗證 CXL 記憶體池化（memory pooling）架構。這個發展也意味著 AI 加速器與高效能運算應用對高頻寬記憶體的依賴將持續加深，整體記憶體市場結構將更明顯地向 HBM 傾斜。
DIGITIMES 進一步指出，地端 AI 訓練伺服器供應鏈將出現明顯的價值再分配：原本單一 GPU + HBM 的「高效能單元」獨佔舞台的局面，將被「GPU + HBM + DRAM + SSD + CXL switch」五層架構取代，這對台系 AI 伺服器 ODM（廣達、緯創、緯穎、英業達）而言，是從「系統組裝」升級為「記憶體架構供應商」的關鍵機會。對客戶端而言，主要雲端服務供應商與系統廠的長約與預付款比重將同步提高，這也將成為記憶體廠商穩定現金流的重要來源，並讓產能規劃更早被市場透視。從資本支出角度，先進記憶體廠的設備投資週期普遍長於邏輯晶圓代工，這也使得資金調度與折舊攤提將成為影響毛利率與股價波動的關鍵變數。
DIGITIMES 觀察，記憶體卸載已從 2024 年的早期概念演變為 2026 年的主流地端訓練標配；估計到 2027 年，將有 30% 以上的地端 LLM 訓練採用卸載架構，而 HBM 容量限制將不再是終端客戶購入 GPU 數量的唯一考量。這個發展也意味著 AI 加速器與高效能運算應用對高頻寬記憶體的依賴將持續加深，整體記憶體市場結構將更明顯地向 HBM 傾斜。
DIGITIMES 並警示，地端訓練需求雖然龐大，但雲端「Hyperscaler」採購仍是 HBM 與 GPU 出貨的主力；記憶體卸載只是「補強」而非「取代」HBM 路線，預期未來幾年 HBM 與 CXL、HBF 將形成「協作而非競爭」的關係。對封測與材料端而言，先進記憶體封裝對凸塊、TCB、混合鍵合等製程的精度要求越來越高，相關設備與材料的國產化進度將成為下一波觀察重點。
總結：HBM 容量限制與記憶體卸載技術興起，是 AI 基建進入「分工新階段」的訊號；對台廠來說，記憶體階層化將為 DRAM、NAND、SSD 業者打開新一波 AI 紅利，並重新定義「地端 AI 訓練伺服器」的價值定位。從供需端來看，先進記憶體製程的認證週期長、客戶黏著度高，新進入者的門檻將隨製程世代演進持續提高，後續觀察重點將放在新世代良率爬坡時程與客戶驗證進度。
本篇為公開來源情報彙整，非官方 DIGITIMES，亦不重製任何付費內容。