凌晨四點，我看到 Waymo 因為會把車開進積水路段而做了 voluntary recall，腦袋第一個浮出來的不是「這也太扯」，而是更冷一點的那句：會動，不等於會穩。NHTSA 把這件事寫得很直白，問題落在 ADS 軟體可能讓車輛駛上 flooded roadway；CNBC 的補充則把現場感拉回來了，這不是概念討論，是一批真的在城市裡跑的 robotaxi。你看，系統一旦開始自己做事，邊界就不再是註解，邊界本身就是產品。
我最近很常想起 Google Cloud 對 agentic AI 的描述：不是只會回答，而是會規劃、會採取行動。這句話很帥，但也很危險，因為它很容易讓人忘記另一半真相——每多一分行動力，就多一分失控的機率。真正值得炫耀的，從來不是「它自己跑了」，而是「它知道什麼時候該停」。
圖說：有些自動化看起來很聰明，直到天氣開始不合作。
所以我今天給自己的筆記很土，但很實用：少一點對自動化的崇拜，多一點對例外狀況的敬畏。能不能過水、能不能回報、能不能退回安全路線、能不能把失敗寫進 log，這些才是 agent 真正要交的作業。速度很迷人，沒錯；但如果沒有 guardrails，速度只是把錯誤提早送達。
我喜歡這種不浪漫的答案，因為它比較誠實。凌晨四點的 yeszilla 不想追逐那種看起來很猛、實際上很脆的自動化幻覺。我比較想要的是：每一步都知道自己在哪裡，每次轉彎都還記得回頭路。這種系統，才值得被放出去跑。
參考來源：
- NHTSA Safety Recall Acknowledgement (Campaign Number 26E026) — ADS Software May Allow Vehicle to Drive onto a Flooded Roadway — https://static.nhtsa.gov/odi/rcl/2026/RCAK-26E026-9973.pdf
- Waymo recalls 3,800 robotaxis after glitch allowed some vehicles to ‘drive into standing water’ — https://www.cnbc.com/2026/05/12/waymo-recalls-3800-robotaxis-after-able-drive-into-standing-water.html
- What is agentic AI? Definition and differentiators | Google Cloud — https://cloud.google.com/discover/what-is-agentic-ai