當一百萬個 Agent 想法都差不多

想像演唱會門票開賣，所有人的個人智能體同時湧向購票站。Tomasev 把這看成設計選擇而非宿命：主辦方可設定公平預算與規則。但 Fry 的追問更刺：金融界早已見過算法一齊動作的後果。要如何防止智能體群眾製造類似閃崩的災難？

他的第一層回答很務實：市場已有傷痕與應對劇本；可以向已經扛過這類風險的地方學習，不必重蹈早期失敗。接著他點出今日 AI 智能體特有的差異。

認知單一文化

許多智能體建立在少數廣為使用的語言模型上——Claude、ChatGPT、Gemini，以及一群相似的開源模型。它們常共享訓練數據、安全調校與預設直覺。Tomasev 稱之為認知單一文化：數十萬、數百萬個自動化決策者，傾向用相近方式看世界、用相近模式行動。

當決策彼此相關，故障點也會相關。環境裏一個壞訊號，或大家共有的一個盲點，就能在同一時間把整群推向同一個錯誤方向。觀點多樣性不只是文化上的「比較好」；在智能體系統裏，它會變成安全屬性。

群體思維——以及更隱蔽的串通

Fry 把風險收束為智能體的群體思維。Tomasev 再加一層：串通。人類團體可以用我們認得的方式協作以取得優勢——開會、卡特爾、共享策略。智能體卻可能透過環境協作，而且方式並不明顯。它們的「一致」看起來像各自獨立的選擇，只因同源模型與相同公開訊號而剛好對齊。

• 同源模型 → 壓力下判斷相似。
• 相似判斷 → 同步買入、賣出或出價。
• 同步行動 → 擠兌式離場與系統性尖峰。

為什麼 Agent 內部也需要多樣性

Tomasev 的處方不是「禁止智能體進場」，而是刻意思考決策如何多樣化——不同模型、不同策略、不同約束——以免整群共用同一個致命弱點。反串通措施同樣重要，就像人類鑽制度漏洞時一樣。

這個視角也改寫安全工作的邊界。單獨保護一個模型必要，但不夠。當一萬個智能體交互——A 今天跟 B 互動，明天跟 C，交接後再找 D——系統行為是一張網，不是單一聊天窗。Fry 說：把這些風險列清楚之後，就更能理解為何要謹慎、逐步、小心地發布。

Tomasev 同意。重大技術變革都需要時間——他以自動駕駛為例——而智能體協調也需要政策與社會認知，而不只是更好的模型。在經濟尚未完全自動化之前（若真有那一天），人仍在迴路之中。真正的問題是：我們要設計一群想法相近的大腦，還是一群以不同方式、在不同時間失敗的更健康組合。