【2026-10-22】三星開發 AI 伺服器記憶體效率技術 不加 GPU 也能處理更多用戶請求
三星半導體最新公開的 AI 伺服器記憶體效率技術,主打在不額外加裝 GPU 的前提下,提升單台伺服器可同時服務的用戶數量。這項技術搭配 zHBM、PIM(Processing-in-Memory)與第八代 HBM5 構成完整的「記憶體中心」布局,回應 AI 推理負載快速成長、GPU 供應吃緊的結構性矛盾。DIGITIMES 2026 年 10 月 21 日指出,三星把 zNAND-O、zHBM 視為下一波 AI 基礎設施的關鍵記憶體;TechNews 2026/10/17 同樣引述三星官方表示,速度、可擴展性與持久性是 AI 記憶體三大發展重點。
「不加 GPU 也能處理更多用戶」這句話的產業意涵,需放在 AI 推論負載佔比的變化來看。DIGITIMES 引述三星資料指出,AI 模型的參數規模預計在 2030 年前突破 1 兆個,傳統的統一記憶體架構(UMA)把所有模型權重置於 DRAM,邊緣端 AI 儲存成本將出現急劇上升;這也是三星在 GMIF 2026 大會上推出 400 層 zNAND-O 與 zHBM 兩條產品線的根本動機——把記憶體從「GPU 旁的附屬品」提升為「運算的主場」。
從三星官方的技術布局觀察,下一代 AI 記憶體由四條產品線共同構成。第八代 HBM5 持續提升頻寬與容量,是現有 AI 訓練叢集的延伸;客製化 HBM(Custom HBM)允許客戶在介面、容量、錯誤更正機制上自行定義,回應大型雲端業者對成本與功耗的差異化要求;zHBM 直接把 HBM 疊在加速器上方,縮短資料傳輸路徑並提高垂直互連密度;PIM(Processing-in-Memory)則是把運算邏輯嵌入記憶體陣列內部,這是「不加 GPU」的技術核心——某些矩陣乘加運算直接在記憶體晶片上完成,省下 GPU 與記憶體之間反覆搬運資料的功耗與延遲。
這項技術的時程意義需要和整體 AI 記憶體超級循環對照來看。三星 2026 年第一季半導體部門營業利益達 53.7 兆韓元、佔該公司整體利潤 93% 以上,主要動能正是來自 HBM 與伺服器 DRAM;Cnyes 2026 年 9 月的產業研究亦指出,Transformer 模型規模每兩年暴增約 240 倍,但記憶體頻寬與容量同期僅成長約 2 倍,這個 120 倍的差距被稱為「記憶體牆」,而三星 PIM 與 zHBM 的組合正是繞過或縮短這道牆的兩個工程化路徑。當單一伺服器的運算效率提升,雲端業者就能在不擴增 GPU 的情況下,承接更多並發推理請求,這對正在面臨 HBM 缺貨、成本高漲的 hyperscaler 來說是相當關鍵的解方。
不過這項技術也並非沒有取捨。TechNews 報導引述產業分析師指出,PIM 的編程模型與既有 CUDA 生態差距大,需要雲端業者大幅改寫推論引擎,對軟體遷移成本是新的不確定性;zHBM 因為把 HBM 疊上加速器,封裝熱密度比傳統 HBM 高出 30~50%,對散熱設計與材料可靠度也是新的工程題目。這些都是 DIGITIMES、StorageReview 等媒體報導中特別點名的次級風險,三星的工程樣品預計 2027 年下半年才會進入客戶驗證流程,距離大規模量產仍有 18~24 個月的觀察期。
整體而言,三星這次公開的「不加 GPU 也能處理更多用戶」是一個明確的產業宣示:AI 基礎設施的競爭正從「GPU 誰買得多」轉向「記憶體誰設計得深」。台灣供應鏈在此波典範移轉中的角色,主要是記憶體封裝與測試、TSV 製程設備,以及高頻寬基板與散熱材料;後續 12 至 18 個月將是觀察三星 PIM 樣品能否進入雲端業者設計清單的關鍵時程,而 HBM5、Custom HBM、zHBM、PIM 四條產品線在不同客戶端的接受度差異,也會直接影響台系封測與材料廠商的訂單結構。
主要來源
- GMIF 2026 直擊 三星半導體推出 400 層 AI 儲存方案 — DIGITIMES
- AI 記憶體下一步?三星確認速度、可擴展性、持久性為發展重點 — 科技新報
- 三星在 2026 年 FMS 展會上公佈面向人工智慧基礎設施的 3D 記憶體藍圖 — StorageReview
- 突破記憶體牆瓶頸 AI 晶片產業加速邁向「記憶體解耦」新架構 — 鉅亨網
- SEMICON Taiwan 2026 三星把記憶體直接疊上 GPU 開啟 zHBM 新時代 — 風傳媒
資料來源管道:主力搜尋 MCP + Google News RSS 雙語,5 個獨立原始媒體(DIGITIMES、科技新報、StorageReview、鉅亨網、風傳媒)。