Baseten 逼近 15 億美元新融資,AI 基礎設施的戰場從訓練轉向推論成本

Baseten 這筆據報接近完成的 15 億美元融資,表面上又是 AI 新創估值飆升的新聞;但它更像是在提醒市場,AI 基礎設施的重心正在往「推論」移動。TechCrunch 與 The Next Web 都引述 Wall Street Journal 報導稱,Baseten 正在籌集一輪最高估值約 130 億美元的新資金,距離它 2026 年 1 月宣布 3 億美元 Series E、估值 50 億美元,只隔了大約五個月。

這個速度本身已經夠驚人,但更值得看的是資本到底在買什麼。Baseten 不是前沿模型實驗室,也不是面向一般消費者的聊天產品。它賣的是企業把模型真正跑起來時會碰到的那層東西:模型部署、推論執行、延遲、穩定性、雲端容量調度、開源模型與專有模型之間的成本取捨。當企業把 AI 從試用移進產品與工作流,帳單不會停在訓練階段,而會每天在使用者每一次請求裡累積。

AI 推論基礎設施把開源模型、雲端容量、路由、延遲與成本控制接成企業 AI 的日常營運層。
企業 AI 推論層把應用請求、模型選擇、雲端容量、延遲、成本控制與稽核紀錄接成日常營運流程。

Baseten 今年 1 月的官方公告其實已經把方向講得很清楚。公司說自己相信未來會由許多專門模型在生產環境中大規模運作,快速、可靠、安全的推論會成為 AI 承諾與真實影響之間的關鍵連結。它也提到 Llama、DeepSeek、Qwen、GPT-OSS 等開源模型浪潮,讓客製模型與專門模型的採用曲線被一再推高。換句話說,Baseten 押的不是「單一模型贏者全拿」,而是企業會同時使用很多模型,並需要一層軟體把它們穩定、便宜、可管理地送進產品。

The Next Web 的交叉報導補上了這輪融資最有意思的結構:據稱部分投資人以 110 億美元估值進場,部分投資人以 130 億美元估值進場。這種雙層價格讓 headline valuation 看起來漂亮,但也透露出市場不是沒有疑慮。投資人一方面相信推論層會成為 AI 支出的長期入口,另一方面也知道這是一場價格戰。開源模型愈來愈好,企業愈有動機把某些任務從昂貴的專有模型移到較便宜的替代方案;但如果整個市場都在降價,幫企業省錢的基礎設施公司也必須證明自己能留下足夠利潤。

這也是 Baseten 題目的核心張力。推論層看起來像淘金熱裡的鏟子生意,因為不管哪個模型流行,總有人要部署、路由、監控和優化它。但鏟子不一定天然高毛利。Baseten 據報向二十多家雲端供應商取得容量,再在上面放自己的推論軟體與開發者體驗;這種模式若能做出規模優勢,就可能變成企業 AI 的中間控制層。若不能,則會被雲端大廠、晶片公司、模型平台和開源工具從不同方向擠壓。

對企業買家來說,這輪新聞真正有用的訊號不是「Baseten 值不值 130 億美元」,而是 AI 採購開始更務實。2023 到 2025 年,很多討論集中在誰的模型最強、誰有最多 GPU、誰能做出最大參數與最好 benchmark。到 2026 年,當 AI 進入客服、醫療筆記、開發工具、搜尋、內部自動化與 agent 工作流,CFO 和工程團隊會問另一組問題:每千次請求多少錢、延遲多低、尖峰能不能撐住、資料能不能留在可控環境、不同任務要不要用不同模型。

所以 Baseten 的故事不只是一筆大型融資,而是 AI 產業從「模型展示」走向「模型營運」的價格標籤。前沿模型仍然重要,但真正決定企業會不會大規模使用 AI 的,往往是推論成本能不能下降到可預測、可治理、可長期承擔。當開源模型的能力逼近、模型供應商開始打價格戰,誰能把混合模型、混合雲與推論效率包成穩定服務,誰就有機會成為下一階段 AI 基礎設施的收費站。

參考來源

  • TechCrunch: AI inference startup Baseten reportedly raising $1.5B months after its last mega-round https://techcrunch.com/2026/06/18/ai-inference-startup-baseten-reportedly-raising-1-5b-months-after-its-last-mega-round/
  • The Next Web: Baseten is raising $1.5bn at up to $13bn, betting AI's profits lie in cheap inference https://thenextweb.com/news/baseten-1-5bn-round-13bn-valuation-ai-inference
  • Baseten: Announcing Baseten's $300M Series E https://www.baseten.co/blog/announcing-baseten-s-300m-series-e/

發表迴響