NVIDIA 公開新一代 AI 基礎設施路線圖，Rubin Ultra 將整合 Groq 3 LPX-Next 推論加速器，2H27 進入量產，宣告 AI 系統正式從單卡擴展轉向整機櫃（rack-scale）架構。這項發展將徹底改變 AI 基礎設施的設計思維，從過去聚焦於單顆 GPU 的算力密度，轉向整機櫃的頻寬、功耗與冷卻最佳化。

Rubin Ultra 是 NVIDIA Rubin 架構的旗艦版本，預計於 2H27 進入量產。根據 NVIDIA 公開的技術細節，Rubin Ultra 將整合 Groq 3 LPX-Next 推論加速器——Groq 是 NVIDIA 於 2025 年收購的 AI 推論晶片新創公司，其 LPU（Language Processing Unit）架構在低延遲推論場景中具有結構性優勢。LPX-Next 將與 Rubin Ultra 形成異質運算配置：Rubin Ultra 負責高吞吐量訓練與批次推論，LPX-Next 負責即時互動式推論（real-time inference）。

整機櫃架構的關鍵變化，是從單卡最佳化轉向整機最佳化。過去 AI 系統設計聚焦於單顆 GPU 的算力、頻寬、功耗，但隨著模型參數量突破兆級、推論需求進入即時互動時代，單卡最佳化已無法滿足整體系統的頻寬與功耗需求。整機櫃架構透過 NVLink Switch 6、CX9 SuperNIC、ConnectX-8 等互連技術，在機櫃層級實現 GPU、LPU、CPU、記憶體、儲存之間的全域頻寬與功耗最佳化，使每瓦算力與每美元算力大幅提升。

這項發展對 AI 基礎設施供應鏈將產生深遠影響。整機櫃架構需要高密度的 NVLink 互連、CX9/ConnectX-8 高速網路、3D 堆疊記憶體（HBM4E）、液冷散熱、800V 高壓直流供電等關鍵元件。這些需求將帶動鴻海、廣達、緯穎、Supermicro、緯創等 ODM 廠在整機櫃設計與組裝業務上的擴張；信驊、祥碩等 BMC 與 PCIe 晶片廠商將受惠於整機櫃需求；奇鋐、雙鴻、健策等散熱廠商將在液冷解決方案獲得新成長動能。

從市場競爭角度看，NVIDIA 整機櫃架構將進一步拉大與 AMD、Google TPU、AWS Trainium 等競爭對手的差距。雖然 AMD MI400 系列與 Google TPU v7 也朝向整機櫃方向發展，但在 NVLink 互連生態系的完整度、CoWoS-L 先進封裝的產能掌握、以及 CUDA 軟體生態系的護城河等方面，NVIDIA 仍具有顯著領先。對 AI 雲端客戶（AWS、Azure、Google Cloud、Meta、Oracle Cloud、CoreWeave）而言，整機櫃架構的標準化將簡化 AI 基礎設施的採購與部署流程，並加速 AI 服務的規模化。

中長期來看，Rubin Ultra 整機櫃架構將成為 2H27~2029 年 AI 基礎設施的主流標準，並推動「AI 工廠」（AI Factory）概念的具體落地——AI 工廠將類似於傳統半導體晶圓廠，以「每瓦算力」與「每美元算力」為關鍵指標，進行全天候 24/7 的 AI 運算服務。台系供應鏈在這波整機櫃架構轉型中扮演關鍵角色，並將於 2027~2029 年進入新一波成長高峰。

整機櫃架構的發展也將推動半導體測試與驗證方法的革新。傳統 AI 系統測試聚焦於單卡 GPU 的算力與功耗驗證，但整機櫃架構需要對 NVLink 互連品質、機櫃內散熱均勻度、800V 高壓直流供電穩定性、整機功耗管理等多維度進行系統級測試。這將帶動半導體測試設備廠商（如 Advantest、Teradyne）與系統測試服務商（如 ASE、KYEC）的業務擴張，並為台灣半導體測試供應鏈帶來新一波成長機會。

中長期來看，Rubin Ultra 整機櫃架構的普及將改變 AI 服務的定價模式。過去 AI 服務定價以「單 GPU 小時」為單位（如 AWS EC2 P5 實例），整機櫃架構下將轉向「整機櫃小時」或「每瓦算力小時」定價模式。這將為 AI 雲端客戶提供更具成本效益的選擇，並可能促使 AI 服務市場進入新一輪價格競爭。對台系 ODM 廠商而言，整機櫃業務的高單價與高毛利特性，將使其成為 2027~2029 年 AI 基礎設施供應鏈的主要受益者。

整體而言，NVIDIA 整機櫃架構的發展是 AI 基礎設施產業進入新階段的重要標誌，其影響將從晶片設計、互連技術、散熱方案、供電架構、機櫃設計等環節全面擴散，並重塑全球 AI 基礎設施供應鏈的競爭格局。對台系供應鏈而言，這波整機櫃架構轉型提供了 2027~2029 年新一波成長動能，ODM 廠、散熱廠、電源供應商、BMC 晶片廠、高速介面晶片廠等將同步受惠。同時，整機櫃架構也將推動 AI 服務市場進入新一輪價格競爭與服務模式創新，並加速「AI 工廠」概念的具體落地。中長期來看，隨著 AI 模型參數量持續突破兆級、推論需求進入即時互動時代，整機櫃架構將成為 AI 基礎設施的主流標準，並推動全球半導體產業進入新一波的成長高峰。