AI 的极限:归纳、演绎以及为何模型无法实现「跳跃」

📌 One-Sentence Summary
基于皮尔斯的推理三元组和 Google DeepMind 的立场论文,本文认为 LLM 已掌握归纳与演绎,但在结构上无法实现「溯因」——即发明新公理的创造性跳跃。
📝 Summary
本文剖析了查尔斯·桑德斯·皮尔斯的三种推理模式:归纳、演绎和溯因,并指出当前的基座模型仅掌握了前两者。归纳是通过下一 token 预测训练的万亿参数模式压缩;演绎则是 DeepSeek-R1、OpenAI o1/o3 和 AlphaProof 在 Lean 4 等固定公理系统中所展现的思维链和可验证推理能力。相比之下,溯因是在现有规则失效时发明新的概念本体,它在结构上与梯度下降和下一 token 预测相抵触,因为溯因具有反直觉性,旨在发明新公理而非在既有公理内求解,且往往诞生于稀疏或零证据的环境。通过爱因斯坦的电梯实验(1907)、开普勒的椭圆轨道(1609)和塞麦尔维斯的尸体微粒(1847)三个历史案例,本文证明每一次跳跃都早于验证性证据的出现。最后,文章解释了为何扩大规模无法产生溯因能力:一是验证者悖论(RLVR 只能奖励其作者已知如何检查的内容),二是离散词汇嵌入空间的封闭符号壳,它缺乏具身物理基础。
💡 Main Points
皮尔斯的推理三元组定义了三种不可互换的模式,只有溯因能引入新想法。
演绎能保持真值但不能产生新前提;归纳能增加概率但受限于观察到的分布;唯有溯因能通过假设一个不可观察的机制或新的概念框架来解释异常现象。
LLM 已在归纳和演绎方面达到了超人水平,但尚未掌握溯因。
在 15 万亿 token 上进行预训练是历史上最大规模的归纳练习,而 RLVR 和测试时搜索(如 DeepSeek-R1, OpenAI o1/o3, AlphaProof)则实现了在 Lean 4、Python 和国际象棋等固定公理系统内的深度演绎推理。
溯因在数学上与标准的梯度下降和下一 token 预测相抵触。
溯因建立反直觉的联系,发明新公理而非在其中求解,且诞生于稀疏或零证据的状态——通常在验证数据出现之前就已经产生。
历史突破表明,溯因跳跃早于证实它们的证据。
爱因斯坦在 1907 年提出广义相对论,早于 1919 年爱丁顿的日食观测 12 年;开普勒因为 8 角分的偏差而放弃了圆轨道;塞麦尔维斯在细菌理论被证实前数十年就提出了尸体微粒说。
由于验证者悖论和封闭符号壳,增加算力规模不会产生溯因能力。
RLVR 只能奖励验证者作者已知如何检查的内容——1600 年代的验证者会将开普勒的椭圆轨道判定为 0 分。此外,LLM 运行在离散词汇嵌入空间中,缺乏具身的物理基础。
💬 Key Quotes
今天的基座模型已经掌握了归纳和演绎,但它们在结构上无法实现溯因
AI 无法做到的事情是:当规则书本身失效时,凭空发明一个全新的公理
溯因是在现有规则书无法解释现实时,对新概念本体的发明
强化学习会无情地惩罚那些构成科学革命的「偏离」
如果缺乏在受物质和能量不变定律支配的多模态世界模型中的物理基础,纯统计语言模型将永远被困在符号重组的「中文屋」之中
📊 Article Meta
AI Screening: 86
Source: DEV Community: machinelearning
Author: Aleksei Romanov
Category: 人工智能
Language: 英文
Read Time: 11 min
Word Count: 2517
Tags:
AI 与智能应用 , AI 安全与对齐 , 强化学习 , 模型训练与推理 , AGI 研究与路径
写得挺用心的,支持一下。