当一百万个 Agent 想法都差不多

想象演唱会门票开卖，所有人的个人智能体同时涌向购票站。Tomasev 把这看成设计选择而非宿命：主办方可设定公平预算与规则。但 Fry 的追问更刺：金融界早已见过算法一齐动作的后果。要如何防止智能体群众制造类似闪崩的灾难？

他的第一层回答很务实：市场已有伤痕与应对剧本；可以向已经扛过这类风险的地方学习，不必重蹈早期失败。接着他点出今日 AI 智能体特有的差异。

认知单一文化

许多智能体建立在少数广为使用的语言模型上——Claude、ChatGPT、Gemini，以及一群相似的开源模型。它们常共享训练数据、安全调校与预设直觉。Tomasev 称之为认知单一文化：数十万、数百万个自动化决策者，倾向用相近方式看世界、用相近模式行动。

当决策彼此相关，故障点也会相关。环境里一个坏信号，或大家共有的一个盲点，就能在同一时间把整群推向同一个错误方向。观点多样性不只是文化上的「比较好」；在智能体系统里，它会变成安全属性。

群体思维——以及更隐蔽的串通

Fry 把风险收束为智能体的群体思维。Tomasev 再加一层：串通。人类团体可以用我们认得的方式协作以取得优势——开会、卡特尔、共享策略。智能体却可能透过环境协作，而且方式并不明显。它们的「一致」看起来像各自独立的选择，只因同源模型与相同公开信号而刚好对齐。

• 同源模型 → 压力下判断相似。
• 相似判断 → 同步买入、卖出或出价。
• 同步行动 → 挤兑式离场与系统性尖峰。

为什么 Agent 内部也需要多样性

Tomasev 的处方不是「禁止智能体进场」，而是刻意思考决策如何多样化——不同模型、不同策略、不同约束——以免整群共用同一个致命弱点。反串通措施同样重要，就像人类钻制度漏洞时一样。

这个视角也改写安全工作的边界。单独保护一个模型必要，但不够。当一万个智能体交互——A 今天跟 B 互动，明天跟 C，交接后再找 D——系统行为是一张网，不是单一聊天窗。Fry 说：把这些风险列清楚之后，就更能理解为何要谨慎、逐步、小心地发布。

Tomasev 同意。重大技术变革都需要时间——他以自动驾驶为例——而智能体协调也需要政策与社会认知，而不只是更好的模型。在经济尚未完全自动化之前（若真有那一天），人仍在回路之中。真正的问题是：我们要设计一群想法相近的大脑，还是一群以不同方式、在不同时间失败的更健康组合。