Arm × Cerebras 推系統級方案　SuperAI Singapore 點出 AI 推論新瓶頸

SuperAI Singapore 2026 是亞洲今年規模最大的 AI 實體大會，主辦單位公布門票售罄、吸引逾 10,000 名與會者，議程橫跨代理型 AI、視覺世界模型、AI 晶片、開源權重模型與監管政策。DIGITIMES 報導，大會第二天的「The New AI Bottleneck」座談邀來 Arm 業務副總 Shantu Roy、Cerebras 業務副總 Andy Hock，以及韓國新創 FriendliAI 共同與談，把焦點從過去兩年熱議的「訓練算力荒」轉到「推論經濟學」——也就是每一個 token 的產生成本、延遲、能源與資本支出，能否支撐企業把 LLM 真正部署到客服、搜尋、代理與企業內部系統。

三方共識是，瓶頸已經位移。HPCwire 指出，Arm Neoverse V3 平台（以及同步發表的 136 核 AGI CPU）主打在 CPU 端做高密度、低功耗的 prefill 與 token 排程，把過去由 GPU 壟斷的前處理工作搬回 Arm 核心，藉此降低每瓦 token 與每美元 token；TechCrunch 報導，這是 Arm 成立 35 年以來首次推出自家資料中心等級的 CPU 矽智財，正式跨入「賣晶片」而非「賣 IP」的新階段。Cerebras 端則由 CS-3 系統擔綱，DIGITIMES 與 VentureBeat 同步揭露，CS-3 搭載單顆 Wafer-Scale Engine、整合約 90 萬個 AI 核心，主打「把單一模型推理放進單一晶片」以避免跨節點通訊開銷；Cerebras 在現場以影片生成實測對比輝達 H200 叢集，速度領先幅度被官方稱為「接近 7 倍」，雖然基準條件仍待第三方驗證，但已成為今年最具話題性的晶片級 demo。

產業面的訊號同樣強烈。Seeking Alpha 與 Tech Times 報導，Cerebras 於 6 月在 Nasdaq 完成 55.5 億美元 IPO，創 2026 年最大 AI 晶片掛牌案，但 IPO 後股價首日震盪、CNBC 觀察到單日跌幅一度達 10%，市場對其營收集中度（高達 86% 來自 UAE 客戶 G42）與估值溢價仍有疑慮；同月 Cerebras 也宣布與 OpenAI 簽下高速推論合作，要把 wafer-scale 推論從雲端推向主流應用。Arm 端則藉 SuperAI 場合，把 AGI CPU 與既有 Neoverse 平台同時推向雲端客戶，AWS Graviton4 與 Microsoft Cobalt 都已是 Arm Neoverse 的代表性部署案例，AWS Graviton5 預計 2026 下半年量產。DIGITIMES 另一篇評論也點出，「閉源 AI 正面臨 capex 考驗，開源權重模型正快速逼近」，意味著推論端必須把成本再砍一個數量級，才有辦法撐住商業模式。

對台灣供應鏈而言，這場座談有兩條直接訊號。第一，Arm Neoverse / AGI CPU 伺服器主機板仍是台廠 ODM 主力訂單，緯創、廣達、鴻海／鴻佰、英業達都已在承接 AWS、Microsoft、Google 等 hyperscaler 的 Arm-based 伺服器，2026 年下半年起新平台放量，將帶動白牌伺服器機板、散熱、電源供應器同步升級。第二，Cerebras CS-3 系統由台積電 5 奈米代工，DIGITIMES 指出，台灣 ODM 已開始承接 CS-3 機櫃參考設計的組裝與水冷散熱模組訂單，雖然短期量級與 GPU 伺服器仍有落差，但對水冷板、CDU、光通訊與機櫃級電源廠來說，是高單價、高毛利的新藍海。HBM 端方面，SK 海力士、三星、美光的 HBM3E／HBM4 已被輝達 Blackwell／Rubin、AMD MI400 與超微 AI 加速器瓜分完畢，未來 Cerebras、Tenstorrent、Groq 等替代方案的推論晶片若擴大採用，將為台積電 CoWoS 與記憶體供應鏈開出新一層需求。

FriendliAI 的切入點則補上了「軟體層」經濟學。DIGITIMES 引述其技術說明，MoE（Mixture-of-Experts）模型推論時，每次 forward pass 只會啟動 10-30% 的專家路徑，因此 token-level 利用率遠低於稠密模型；Friendli Server 透過 batch 打包與動態專家路由，在 H100 上推論 1M token 可壓到 0.4 美元以下，較 vLLM baseline 省 30-40%。SiliconANGLE 與 crn.com 同步報導，新創 Gimlet Labs 也在 6 月完成 8,000 萬美元 A 輪，目標是把多晶片（multi-silicon）異質推論雲變成可調度的基礎設施，呼應 SuperAI 現場「單一晶片已不夠、必須多晶片協作」的共識。這也意味著 2026 下半年到 2027 年的 AI 投資主軸，將從「更多 GPU」轉向「更便宜的 token」與「更聰明的系統組合」。

從歷史脈絡來看，AI 瓶頸的位移並非第一次。2022 至 2024 年的主旋律是「訓練算力」，輝達以 H100、NVLink、NVSwitch 建構出接近獨佔的叢集；2025 年焦點轉到 HBM 與 CoWoS，先進封裝短缺成為新瓶頸；2026 年上半年則由魏哲家在台積電股東會上罕見示警「到處都是瓶頸」，把電力、記憶體、設備都拉進戰場。如今 SuperAI 把話語權交給 Arm 與 Cerebras，等於宣告下一階段的戰場是「推論端系統整合」——誰能把 CPU 前處理、大晶片推論、跨叢集通訊、軟體排程四層壓在同一個成本曲線上，誰就能定義下一個世代的 AI 基礎設施。DIGITIMES 評論「AI 模型恐步電信業後塵，規模再大也難逃薄利命運」並非危言聳聽，而是提醒所有玩家：訓練端的軍備競賽已到尾聲，推論端的成本紀律才是新護城河。對台灣供應鏈來說，這既是新訂單的入口，也是再一次被捲入典範轉移的開始。

後續觀察重點有三：一是 Arm AGI CPU 與 Neoverse V3 在 2026 下半年實際放量進度，以及能否擠進更多非 hyperscaler 客戶；二是 Cerebras CS-3 在 OpenAI、Condor Galaxy 等大型客戶的實測效能與 TCO（總持有成本）數字，能否撐住 IPO 後的高估值；三是 MoE／稀疏推論與 multi-silicon 軟體棧的成熟度，包含 FriendliAI、Gimlet Labs、Together AI 等新創能否在 12 個月內把每百萬 token 成本再壓一個層級。這三條軸線將決定 2027 年的 AI 基礎設施版圖，也將決定台廠 ODM 與記憶體／封裝鏈在新一波分工中的位置。