Agent 越能干，你越容易放鬆警惕

不久前，AI 助手基本上就是一個大語言模型：你問一句，它答一段，互動到此為止。Tomasev 劃出一條更清楚的界線：智能體會觀察處境、選擇行動，並在環境裏真正執行。模型仍可能在擬定方案，但身上已繫上「安全帶」——工具、權限，以及會碰到真實世界的步驟。

這一轉變會改寫你的角色。你仍用自然語言與系統對話，但更像決策者：審核、批准，再讓它訂票或傳訊，自己去做別的事。產品最「神奇」的時刻，往往正是你不再盯著每一步的時候——風險也在此刻悄悄變大。

失敗率，會隨複雜度上升

Tomasev 說得很直白：智能體能做的事，並不保證每一次都做對。像人一樣，每個行動都有失敗率；步驟串得越長，預期失敗率往往越高。錯誤可以很顯眼——訂錯餐廳——也可能很隱蔽，藏在你只掃過一眼的長信裏。

這正是自動化偏差的入口。當智能體連續做對幾次，你開始不核對就信任下一次；省略驗證、漏掉關鍵細節，把「沒出事」當成「一定安全」。Tomasev 要說的不是「永遠別自動化」，而是：留在流程裏只有在你真正保持警覺時才有用。

信任要贏來——但仍不該盲目

Fry 提醒：我們仍活在語言模型會幻覺的世界裏，要把真實任務交給智能體，其實是很高的要求。Tomasev 的回應很乾脆：嘗試理所當然，但信任必須贏來。一再不可靠的，當然不該信；大多數時候可靠的，也不該盲目信——你仍需要辦法核對它做了什麼。

• 把「批准」當成真正的關卡，而不是下意識按一下「確定」。
• 把可撤銷的雜務，與花錢、難以反轉的行動分開看待。
• 預期一定程度的幻覺；把流程設計成：偶發錯誤也不至於拖垮整件事。

放手時，該盯住什麼

訪談裏的籌備婚禮例子，把差別講得很具體。聊天模型可以列出餐飲與場地；郵件往來仍得你自己處理。有 Gmail 權限的智能體能起草並寄出——除非你先發現收件人錯了。效益是真的；在敏感步驟離開你的帳號前先確認，同樣必要。

Tomasev 也強調：智能體擅長串聯多步任務——而正是這類路徑最需要人工批准，因為場景敏感、也更容易出錯。編碼智能體之所以熱門，邏輯類似：許多工作可轉成軟體，但創意判斷與結果核對，仍需要人參與。

實務上的結論很簡單：智能體把你從「提問與閱讀」推向「授權與核對」。它們越常成功，你越該認真設計那些仍要親自看一眼的時刻。信任隨證據累積——而不是寄望下一個複雜任務會奇蹟般沒有風險。