SuperAI Singapore 2026 現場直擊:推論經濟學成形 台廠在 Arm、Cerebras 兩條路間選邊
【2026-06-15】DIGITIMES 6/12 新加坡現場報導,於 SuperAI Singapore 2026 大會上,Arm 與 Cerebras 同聲強調「系統級優化」才是突破 AI 推論瓶頸的關鍵。Cerebras 首席策略長 Andy Hock 展示其 WSE-3 晶圓級 AI 推論系統「世界最快」,單一 300mm 晶粒整合 4 兆電晶體、90 萬核心,外部記憶體最大可擴充至 1.2PB;Arm 同期推出 Neoverse CSS V3 架構,主打「每瓦推論效能」優化,鎖定 hyperscale 與電信商主權 AI 推論需求。大會同時把「Inference Economics(推論經濟學)」推上新焦點,黃仁勳口中的「Token 工廠」與 SaaS 轉向 TaaS(Token-as-a-Service)的敘事同步發酵,台廠 ODM、記憶體、散熱與電源供應鏈正面臨一條「走 Arm 路」、一條「走 Cerebras 路」的分工抉擇。
SuperAI Singapore 2026 在 6 月 10 至 11 日於新加坡濱海灣金沙登場,主辦單位公布吸引逾 1 萬名與會者、1,500 家 AI 公司、150 位講者,是亞太區今年規模最大的 AI 實體大會。DIGITIMES 記者在第二天「The New AI Bottleneck」座談現場,聽到 Arm 業務副總 Shantu Roy 與 Cerebras 業務副總 Andy Hock 罕見同台對談,結論幾乎一致:AI 競爭主戰場已經從「訓練」位移到「推論」,瓶頸不再是單一 GPU 算力,而是「每瓦 token」、「每美元 token」、「每 GB/s 記憶體頻寬 token」的系統級成本曲線。這場對談也讓「Inference Economics」正式從工程師黑話升級為產業新共識。
所謂「推論經濟學」,DIGITIMES 與 CIO Taiwan 同步整理,是指企業把 LLM 真正部署到客服、搜尋、代理(agentic)流程與內部知識系統時,每 100 萬 token 的產生成本、單次推論延遲、單位能源消耗與折舊攤提,能否支撐商業模式。黃仁勳在 NVIDIA GTC 2026 演講中已多次把資料中心比喻為「Token 工廠」,TechNews 科技新報則指出 SaaS 訂閱制正悄悄轉向 TaaS(Token-as-a-Service)——客戶不再付月費,而是按 token 計價,這讓推論成本直接決定 AI 公司的毛利率。商周財富網報導,企業人才競爭邏輯也開始改寫:「會算 token 的人」比「會調模型的人」更搶手。
在這場系統級競賽裡,Arm 與 Cerebras 採取了兩條截然不同的技術路線。Arm Neoverse CSS V3 由 EE Times 與 Arm Newsroom 揭露,主打「每瓦推論效能」優化,相較 V2 在 AI 推論負載下每瓦可執行 token 數提升 50%;CMN-700 互連網狀架構支援 256 核以上單一插槽,便於多顆 AI 加速器共享記憶體一致性。The Next Platform 形容 Arm 此舉是「回到家自己做資料中心 CPU」,從過去賣 IP 正式跨入提供參考設計。Supermicro 已於 6 月宣布與 Arm 合作推出 45,696 個 AI 核心的機櫃級平台,Stock Titan 指出該方案「每 CAPEX token」較現行 NVIDIA HGx 平台可壓低 30-40%;Supermicro 同步發表的新一代 Arm-Based 機櫃已獲得 Verda、OCI 等雲端商導入。
Cerebras WSE-3 走的則是「單晶粒包打天下」的極端路線。Hackster.io 與 TweakTown 引述官方資料,WSE-3 採用台積電 5 奈米製程,單一 300mm 晶粒整合 4 兆電晶體、90 萬個 AI 核心、44GB on-chip SRAM;外部記憶體可從 1.5TB 線性擴充至 1.2PB,目標是直接吃下 trillion-parameter 模型的單卡推論。Cerebras CS-3 系統單一機櫃功耗約 25kW,採液冷設計,The Futurum Group 認為這是「直接挑戰 NVIDIA Blackwell」的硬體訊號。Cerebras 也在 5/14 於 Nasdaq 完成 IPO,市場估值一度衝上 600 億美元,成為首家「純 AI 推論」定位的上市晶片公司。Andy Hock 在 SuperAI 現場 demo 中,把 CS-3 對上 NVIDIA H200 叢集做影片生成推論,官方稱速度領先接近 7 倍——雖然基準條件仍待第三方驗證,但已讓「後 NVIDIA 叢集」敘事再度升溫。
台廠在這兩條路線上其實是「兩邊都吃不下,只能二選一」的微妙位置。DIGITIMES 點出的關鍵差異是:走 Arm 路線代表台廠 ODM 繼續吃 hyperscaler 大量標案——緯穎、廣達、鴻海/鴻佰、英業達承接 AWS Graviton4/5、Microsoft Cobalt、Google Axion 等 Arm-based 伺服器主機板訂單,2026 下半年新平台放量將帶動白牌伺服器機板、機櫃級電源與氣冷/液冷散熱同步升級;緯穎(6669)與 Supermicro 合作 Arm AGI CPU 伺服器也被視為指標案,預期 2026 Q3 起逐步貢獻營收。走 Cerebras 路線則代表切入高單價、低量級的「機櫃參考設計」生意——台積電(2330)是 WSE-3 5 奈米獨家代工,奇鋐(3017)傳出是 25kW 機櫃液冷散熱模組供應商,台達(2308)的高效率電源供應器隨 AI 機櫃放量;DIGITIMES 報導,台灣 ODM 已開始承接 CS-3 機櫃的組裝與水冷板、CDU(冷卻液分配單元)訂單,雖然短期量級與 NVIDIA GPU 伺服器仍有數倍落差,但毛利率明顯較高。
另一條被低估的台廠機會在 HBM 與 CoWoS。SemiAnalysis 報告指出,SK 海力士、三星、美光的 HBM3E/HBM4 產能已被輝達 Blackwell/Rubin、AMD MI400 與超微 AI 加速器瓜分完畢,未來 Cerebras、Tenstorrent、Groq 等替代方案的推論晶片若擴大採用台積電 CoWoS 與 HBM,將為台灣記憶體與封裝鏈開出新一層需求。DIGITIMES 也提醒,當「Inference Economics」成為主流話語,資本市場的估值錨將從「有多少 GPU」轉向「每瓦 token」與「每美元 token」,這對台積電 2027 年後的 CoWoS 報價、以及台廠機櫃級系統整合的毛利結構,都是關鍵變數。
從歷史脈絡來看,AI 瓶頸的位移速度正在加快。2022 至 2024 年的主旋律是「訓練算力」,輝達以 H100、NVLink、NVSwitch 建構接近獨佔的叢集;2025 年焦點轉到 HBM 與 CoWoS,先進封裝短缺成為新瓶頸;2026 年上半年由台積電董事長魏哲家在股東會罕見示警「到處都是瓶頸」,把電力、記憶體、設備都拉進戰場。如今 SuperAI 把話語權交給 Arm 與 Cerebras,等於宣告下一階段的戰場是「推論端系統整合」——誰能把 CPU 前處理、大晶片推論、跨叢集通訊、軟體排程四層壓在同一條成本曲線上,誰就能定義下一個世代的 AI 基礎設施。DIGITIMES 評論「AI 模型恐步電信業後塵,規模再大也難逃薄利命運」並非危言聳聽,而是提醒所有玩家:訓練端的軍備競賽已到尾聲,推論端的成本紀律才是新護城河。
後續觀察重點有三。第一,Arm Neoverse CSS V3 與 AGI CPU 在 2026 下半年實際放量進度,以及能否擠進更多非 hyperscaler 客戶,例如韓國 SKT 與 Rebellions 的主權 AI 推論基底。第二,Cerebras WSE-3 / CS-3 在 OpenAI、Condor Galaxy 等大型客戶的實測 TCO(總持有成本),能否撐住 IPO 後的高估值,特別是在 86% 營收集中於 G42 等 UAE 客戶的風險下。第三,MoE/稀疏推論與 multi-silicon 軟體棧的成熟度——DIGITIMES 引述 FriendliAI 數據,MoE 模型 forward pass 只啟動 10-30% 專家路徑,若軟體能把每百萬 token 成本再壓 30-40%,將徹底改寫「Cerebras 必須用硬體碾壓 NVIDIA」的論述。這三條軸線將決定 2027 年的 AI 基礎設施版圖,也將決定台廠 ODM 與記憶體/封裝鏈在新一波分工中是「Arm 路大量小毛利」、還是「Cerebras 路少量高毛利」的最終位置。
參考來源
- DIGITIMES(2026-06-12):SuperAI Singapore 大會 Arm 與 Cerebras 對談,系統級方案解 AI 推論瓶頸
- DIGITIMES(2026-06-13):SuperAI Singapore: Arm and Cerebras push system-wide fixes to cut inference AI bottlenecks
- DIGITIMES(2026-06-13):Cerebras outpaces Nvidia in video showdown at SuperAI Singapore
- DIGITIMES(2026-06-13):AI 模型恐步電信業後塵,規模再大也難逃薄利命運
- DIGITIMES(2026-06-13):閉源 AI 正面臨 capex 考驗,開源權重模型正快速逼近
- EE Times(2026-06):Arm Updates CSS Designs for Hyperscalers' Custom Chips
- The Next Platform(2026-06-09):Arm Comes Full Circle With Homegrown, AI-Tuned Server CPU
- HPCwire(2026-06-12):Arm Flexes with New Data Center CPU for AI Inference
- Arm Newsroom(2026-06-11):Announcing Arm AGI CPU: The silicon foundation for the agentic AI cloud era
- Cerebras 官方部落格(2024/2025):Cerebras Systems Unveils World's Fastest AI Chip with 4 Trillion Transistors
- TweakTown:Cerebras WSE-3 wafer-scale AI chip: 57x bigger than largest GPU with 4 trillion transistors
- Hackster.io:Cerebras' Wafer-Scale Engine 3, the "Fastest AI Chip in the World," Aims at Rapid AI Inference
- The Futurum Group:Cerebras CS-3: Bring on the NVIDIA Blackwell Competition
- Supermicro Newsroom:Supermicro and Arm advance compute for the agentic AI era
- Stock Titan:Supermicro and Arm pack 45,696 AI cores per rack to cut CAPEX
- 鉅亨網(2026-06):安圖斯參加 SuperAI Singapore 2026,展示 Altos BrainSphere AI 運算平台
- CIO Taiwan:AI 進入推論經濟時代,黃仁勳:資料中心轉型「Token 工廠」
- TechNews 科技新報:從 SaaS 到 TaaS:AI 時代為何你不是付月費,而是 Token?
- 商周財富網(2026):2026 NVIDIA GTC 大會現場觀察:當 Token 變成「新石油」,企業的人才競爭邏輯即將全面改寫
- SemiAnalysis:CPUs are Back: The Datacenter CPU Landscape in 2026