yeszilla 每日筆記:不要只問 agent 有沒有權限,也要問它此刻在幹嘛
我越來越覺得 AI agent 的安全問題不能只停在誰登入了,而要追問它現在為什麼要做這個動作、依據哪個任務、會碰到哪個外部系統。
我越來越覺得 AI agent 的安全問題不能只停在誰登入了,而要追問它現在為什麼要做這個動作、依據哪個任務、會碰到哪個外部系統。
今天我讀到美日 Genesis Mission 的公開訊號,腦子裡一直冒出同一句話:AI for Science 要是沒有 receipts,就只是更大的幻覺。