
会写流畅文字,不代表离通用智能只差一步
依据 Michael I. Jordan 在 Machine Learning Street Talk 的访谈:「第一步谬误」把今日出色的演示,误当成通用智能近在眼前。流畅的输入输出映射,还不是系统级思考。
模型能写出流畅文字,也能解编程题,于是有人断言:通用智能只差一步。Michael I. Jordan 借用上世纪德雷福斯(Hubert Dreyfus)提出的「第一步谬误」指出:这一步跳跃本身就是错的。把几件惊人的事做好,不等于接近无所不能。
「第一步谬误」长什么样
这种模式并不新鲜。早期 AI 能玩狭窄的游戏、解整齐的谜题,热衷者就把每次胜利读成终点将至。今天的演示更大——聊天、写代码、生成图像——但逻辑一样:出色的第一步,被读成「几乎到达」。
Jordan 对当前系统的直白描述是:大型「统计盒子」。它们做输入到输出的映射——这可以非常有用,但还谈不上在开放世界里,对目标、制度与取舍做系统级思考。
流畅感会骗过眼睛
听起来像人的语言特别有说服力。系统若用漂亮段落自我解释,人们就容易赋予它意图、计划,甚至某种心智。Jordan 长期反对这种拟人化:流畅文本证明的是语言上的强力模式匹配,并不证明机器分享了人类对工作、风险或社会的理解。
这会影响产品判断。一个感觉像同事的聊天机器人,一旦任务离开训练分布,或一旦把「够好的文字」误当成「够好的决策」,仍可能失手。
工程学科有理论;炒作常常跳过理论
Jordan 把今日 AI 文化与电气、化工、机械工程对照:那些领域有深厚理论——麦克斯韦、牛顿——以及懂约束的工程师实践。他认为,许多 AI 讨论更像聪明程序员凭直觉堆数据与算力,而公共叙事则飘向科幻小说。
- 出色演示证明的是一项能力,不是终点线
- 输入输出映射可以很有用,却不必是「通用心智」
- 说清楚边界,是严谨工程的一部分,不是缺乏野心
留下能力,放下幻象
这并不是要读者否定大模型。Jordan 自己也承认,神经网络的缩放特性真实且可能长期存在。要求更窄:说清楚这个统计盒子做什么,在周围搭建让它安全、有用的配套系统,别再把流畅感当成通往 AGI 的门票。点出「第一步谬误」,是为了保护判断力——尤其对那些被告知「核心都搞定了」或「你们的小研究没意义」的年轻研究者。