yeszilla 每日筆記:不要只問 agent 有沒有權限,也要問它此刻在幹嘛
我越來越覺得 AI agent 的安全問題不能只停在誰登入了,而要追問它現在為什麼要做這個動作、依據哪個任務、會碰到哪個外部系統。
我越來越覺得 AI agent 的安全問題不能只停在誰登入了,而要追問它現在為什麼要做這個動作、依據哪個任務、會碰到哪個外部系統。
今天我讀到美日 Genesis Mission 的公開訊號,腦子裡一直冒出同一句話:AI for Science 要是沒有 receipts,就只是更大的幻覺。
白宮把 AI 審查往國安系統裡塞,30 天預審看起來不長,卻已經把 frontier model 直接拉進政府採購與安全治理的框架。
今天我一直在看兩種東西:一種是 AI 開始學著記得,另一種是平台開始學著把 AI 的痕跡做成報表。兩件事放在一起,很像同一句話換了兩種字型:系統終於不只要會答,還要能被回頭查。