美國 AI 付費率僅 3% Token 成本失控催生邊緣 AI 伺服器新商機 MIC 預估 2026 全球出貨達 450 萬台
DIGITIMES 報導指出,美國 AI 服務消費者付費率僅 3%,平均月支出 60-80 美元,但 AI 服務消耗大量 Token 的成本已成為仰賴 AI 服務企業的營運負擔;OpenAI 2026 年推理成本達 141 億美元,佔營收 47%,推理成本年增 3 倍直接導致毛利率從 40% 降至 33%。MIC 預估,2026 年全球 AI 伺服器出貨將達 450 萬台、邊緣 AI 硬體滲透率近 2 成,並認為「雲端 AI 成本失控」將成為企業轉向邊緣 AI 部署的關鍵催化劑;Fortune Business Insights 預估全球邊緣 AI 市場將從 2026 年 470 億美元成長至 2034 年 4,457 億美元,年複合成長率 32.5%。
Stripe 於 8 月 19 日宣布同意收購 OpenRouter,同日 OpenRouter 揭露平台每日處理超過 10 兆個 token、串接 400 多個 AI 模型,服務超過 1,000 家企業客戶。這筆收購被視為 Stripe「Token 收費站」策略的關鍵布局,顯示 Token 已成為繼信用卡、ACH 之後,新一代 AI 經濟的核心計價單位,企業 AI 應用的成本結構也正面臨全面重塑。對軟硬整合廠商而言,新一代加速器對軟體堆疊、能源效率與推論框架的相容性要求將同步提升,這也將成為市場區隔化的重要戰場。
從雲端 AI 服務的成本結構看,客服 AI 代理處理一張工單的成本僅 0.46 美元,對比人工的 4.18 美元(約 9 倍成本節省);程式碼審查代理完成例行工作成本 0.72 美元,對比資深工程師的 48 美元(節省 67 倍)。雖然單次推理成本看似極低,但企業在大量採用後發現,Token 消耗量遠超預期,OpenRouter 平台日處理量突破 10 兆 token 即是關鍵警訊。從市場面來看,AI 加速晶片從雲端走向終端的滲透速度將進一步加快,邊緣 AI 裝置與穿戴式應用將成為下一波成長動力。
OpenAI 2026 年推理成本達 141 億美元,佔其總營收 47%,推理成本年增 3 倍,直接壓縮毛利率從 40% 降至 33%,並迫使 OpenAI 直接砍掉了部分低毛利 API 產品線。這個訊號不只影響 OpenAI,所有大型語言模型供應商(Anthropic、Google Gemini、Mistral 等)都面臨相同的成本結構問題,連帶讓企業客戶加速思考「雲端 AI 是否真的比較便宜」這個根本問題。從產業鏈角度,這代表算力供給端與應用端將進入新一輪耦合期,模型訓練與推論廠商對硬體規格的要求將同步升級,整體解決方案的整合深度將成決勝點。
MIC 預估,2026 年隨著 AI 需求持續帶動,3 奈米以下製程產能連續 4 年成長率超過 4 成,AI 伺服器出貨將達 450 萬台;至於邊緣 AI 硬體滲透率接近 2 成。市場研究機構 Research and Markets 指出,邊緣 AI 伺服器市場 2026 年規模 48.5 億美元,2030 年上看 130.8 億美元,年複合成長率 28.2%;Fortune Business Insights 更預估,全球邊緣 AI 市場將從 2026 年 470 億美元成長至 2034 年 4,457 億美元,年複合成長率 32.5%。對晶圓代工與封測夥伴而言,新規格意味著更多製程節點的早期驗證需求,相關資本支出與產線調配彈性將成為關鍵觀察指標。
業界人士分析,「Token 成本失控」與「雲端 AI 訂閱成長趨緩」將共同催生邊緣 AI 部署的加速。企業客戶開始將高頻、低延遲的推理任務(客服、文件摘要、程式碼審查)從雲端遷移到自有邊緣伺服器,並搭配中小型開源模型(Llama、Mistral、Qwen)運行;同時,大型雲端供應商也加速推出「on-premises 推論解決方案」(AWS Outpost、Google Distributed Cloud、Azure Stack)以滿足企業對資料落地與成本可控的雙重需求。這個轉變將為台系伺服器 ODM(廣達、緯創、英業達、緯穎)、網通 IC 設計(瑞昱、祥碩)、NPU 業者(耐能、聯發科)創造新一波成長動能。這個發展也將加速 AI 基礎設施的電耗與散熱設計壓力,資料中心等級的液冷與高密度電源管理將同步受惠,並帶動周邊零組件的規格升級。