Keep the Future Human作者Anthony Aguirre：工具AI与AGI的两条路线之争

一句话结论

未来生命研究所（FLI）与《Keep the Future Human》作者 Anthony Aguirre 的这场长访谈把「工具 AI 与 AGI 之争」讲到了可操作的颗粒度：工具让人更强且必须有人操作，AGI 用自主性、通用性、智能三合一把人从位置上替换出去——而 AGI 的经济驱动力恰恰是「不雇人、改雇 AI 系统省事」。访谈里三个判断对当下做产品和工作流的人直接有用：公司向公众承诺的能力（治病、加速科研、植入产品）几乎全都是工具范式就能兑现的，不需要 AGI；综合 AI 服务（CAIS）比单体黑盒超智能多了人类可介入的连接点，安全性天然更好；任何能力强的工具只要加一个「下一步做什么」的自主模块就能变成智能体——所以过度委托不是未来风险，是现在的默认状态。

访谈背景：世界观建设项目与两条路线

这场对话源自 FLI 资助的「高级世界观建构」项目：召集科学、技术、治理领域的资深人士，围绕不同 AI 未来构建情景。项目产出了两个核心情景——工具 AI（Tool AI）与 DAX/CAIS（综合 AI 服务），本访谈聚焦前者，但也多次对照后者。Aguirre 开场就给了方法论：未来不会是我们现在想象的任何一个样子，情景推演的价值不是预言，而是把多个选项摆上桌——「当我们真的撞上那些事时，已经想清楚要什么系统、什么责任框架」。他特别提到大规模事故、智能体闯祸后责任归属不清这类可以预演的问题：现在想好，比事发后仓促立法强。

他特别点出受访专家的一个共识性反差：被问到「你选哪个 AI 未来」时多数人选工具 AI，但没有一个人认为我们正走在那条路上——激励结构不指向那里，叙事和资金也都被 AGI 故事占据了。这个反差本身就是本访谈的问题意识：为什么多数人想要的未来不是我们正在走向的未来？

工具与AGI的本质区别：那张盾形图

Aguirre 在论文里用一张盾形图（shield diagram）定义工具 AI：人类站在图的中心，工具环绕四周、放大人的能力。大多数技术史上我们造的都是这种东西，带来了福祉、生产力与安全——「你问 AI 从业者在造什么，几乎所有人都会说『很酷的工具』」。关键区别在于三要素组合：自主性 + 通用性 + 智能。工具可以智能、可以通用，但一旦加上高自主性，它就不再需要人操作——中心位置可以放进 AI、把人取出来，这就是 AGI 与工具的分水岭，也是那张图最直观的用法：看谁来决定下一步做什么。

访谈里最锋利的观察是意识形态的时间线错位：深度学习、Transformer 这些实际驱动 AI 进步的技术，本可以进入一个「大多数人只想着 AI 工具」的世界，但「继承物种」式的 AGI 意识形态先于技术成熟存在，恰好被突然拿到巨额资本和技术成功的公司接住，于是塑造了整个行业的叙事。Aguirre 认为这并非必然，只是历史巧合的产物——这意味着叙事是可以被改变的，不是物理定律。

经济驱动力与两种抵触冲动

Aguirre 对「为什么 AGI 叙事赢了两条路线之争」的解释很直白：AGI 的经济驱动力不是治愈癌症或解决难题，而是替换人——不必重组公司任务、不必为自动化设计控制机制，一句「不雇这个人，改雇这个 AI 系统」就完成了。这个激励比任何宏大叙事都硬。受访者群体也承认，普通人身上同时存在两种抵触冲动：既想掌控、想有发言权和能动性，又想让事情便宜快速地办成——两种力量会拉扯几十年，用访谈的话说，这是「我们文明的核心议题」。

访谈没有回避工具范式的代价：即使全走工具路线，自动驾驶这类「窄而自主」的工具同样会淘汰职业司机，经济颠覆在工具范式下依然巨大，「人们会为此不高兴」。区别在于工具范式下人被需要、被支付报酬的经济结构至少还有解——人可以重组、再训练、缩短工时；而全替代范式下这个问题「自己回答了自己」。Aguirre 补充了一个工具 AI 独有的上行空间：人不喜欢一辈子每天八小时做单一任务，工具范式让人把时间投向更需要综合能力和连接感的事，这不是安慰剂，是工作形态的真实选项。

世界是如何走到这一步的：意识形态的时间线错位

访谈中段有一段值得单独展开的历史复盘。Aguirre 指出，深度学习和 Transformer 这些真正驱动 AI 进步的技术，本可以进入一个「大多数人只想着 AI 工具」的世界——那样的世界会运转得相当不同。但现实是，「继承物种」式的 AGI 意识形态在技术成熟之前就已经存在，先附着在思考超级智能的小圈子身上，然后恰好被突然拿到巨额资本和技术成功的公司创始人接住，于是塑造了整个行业的叙事、招聘口径和资本故事。他强调这并非必然，只是历史巧合的产物——这个判断的含义是：叙事是可以被改变的，不是物理定律。改变的具体抓手在访谈里点了两处：其一，公众可以要求公司按工具范式交付它们承诺的东西，因为「治病、加速科学、嵌入产品」都是工具能力；其二，政策和资金决策者可以在每个资助和审批节点上问一句「这个项目需要自主性吗」，把范式选择变成显式决策而不是默认继承。

CAIS与单体超智能：可控性对比

访谈后半段对比了两种非工具架构。综合 AI 服务（CAIS）把能力拆成互相连接的服务模块，人类监督者和审批步骤可以插进模块之间的连接处，监管者可以要求人工介入，系统也不必以某个极限速度运行；而单体黑盒超智能系统没有任何人类可介入的缝隙——「你没法在一个巨型黑盒超智能里真正介入」。Aguirre 明确表态：二选一必选 CAIS，因为它在安全性和人类干预空间上优势明显。

但他同时给出警告：CAIS 允许人类介入但不强制——如果你在里面放一个超级自主模块，让它指挥所有工具模块「去把事办了」，CAIS 就退化成了事实上的 AGI。「它允许你有人类参与，但不要求」——这句话是整个访谈里对产品经理最有杀伤力的一句。这引出一个对当下就成立的技术判断：把一个强工具变成智能体，只需要一个规划模块加一个执行模块——「下一步做什么」加「去做」。工具要求人来操作这一点，是工具范式的全部安全余量所在；过度委托会让这条防线静默失效，而市场压力恰恰在持续推动过度委托，因为省事和便宜是真实需求。

顺着可控性的话题，访谈触及了责任归属这个在智能体普及后必然爆发的问题：智能体不可避免地会频繁闯祸，届时「谁为它的行为负责」没有现成答案——软件供应商、部署企业、还是给指令的用户？Aguirre 认为这正是情景推演的价值所在：DAX 情景里预演过大规模事故后的监管反应，工具 AI 情景里则预演了责任如何在人机接口处切分。对企业的启示是合同层的：现在签署任何 AI 采购或开发协议，都应该把「AI 行为造成损失时的责任条款」写清楚，而不是等判例出现后被动接受。

工具AI的上行空间：做以前做不到的事

访谈没有停留在防御视角。Aguirre 认为工具范式最令人兴奋的不是把现有事情做得更便宜更快，而是做以前根本做不了的事：AlphaFold 折叠蛋白质是人类试了很久都无解的问题，AI 换了一种解法——「不是更便宜更快，是我们根本做不到」；语言模型让「一千人与一千人实时对话」成为可能，以前多人对多人的沟通只能是人群互相喊话，现在可以被组织成真正的审议，新的民主与社会互动形式因此有了技术底座。这个视角对内容创业者同样成立：AI 的价值不在把你已有的产出提速 30%，而在打开结构上全新的产品形态——千人实时共创、动态个性化的知识服务。

访谈还给了个体层面的小结：Aguirre 引用访谈项目的发现——绝大多数专家真心想要的 AI 未来是工具式的，且不认为当前轨迹指向它。改变轨迹的杠杆在他看来有两处：一是戳穿「承诺与范式的错配」——公司承诺的东西不需要 AGI 就能兑现，公众可以要求公司按工具范式交付；二是在具体决策点（采购、监管、招聘替代）上把「是否保留人在操作位」变成显式问题，而不是让默认的经济引力替你回答。

工具AI时代的个人技能策略

把访谈的框架落到个人层面，可以推出一套技能投资策略。工具范式的核心是「人机操作位」：你的价值等于你驾驭工具组合的产出减去工具成本。由此推出三条技能原则：第一，优先掌握「编排类」技能——把多个 AI 工具串成可靠流水线的能力，它对应 CAIS 架构里人类监督者的位置，是范式里最稳定的生态位；第二，刻意保留「验证类」技能——判断 AI 产出质量的能力需要领域知识打底，纯提示词技巧会随模型升级贬值，验证能力反而升值；第三，把「责任承担」当作护城河——访谈里责任归属是制度空白，意味着敢于为 AI 辅助产出签字的人暂时稀缺，这个稀缺性就是溢价。

反过来，有两类投入要谨慎：一是纯速度型技能（更快地手搓一次性产出），它在替代定价逻辑下最先贬值；二是把全部身家押在单一厂商的私有玩法上——范式之争未定，跨厂商的可迁移性本身就是对冲。Aguirre 没有直接给投资建议，但他的盾形图逻辑指向同一个结论：让自己成为图中心那个「决定下一步做什么」的人，而不是图外围某个被放大的功能。

组织层面的范式选择：采购与治理清单

把视角从个人升到组织，访谈的框架可以直接转成一张治理清单。采购环节：每个 AI 采购决策附带一页「自主性声明」——这个系统在多大范围内自行决定下一步？出错时的发现机制是什么？责任条款落在合同哪一条？没有这三项的采购等于把范式选择权外包给了供应商。架构环节：内部系统按 CAIS 思路拆模块，模块间显式留审批接口，即使现在用不上，将来接监管要求时不用重构。人事环节：把「AI 操作位」写进岗位说明——哪个角色对 AI 产出负最终责任、其签字流程是什么，避免出现「大家都用了 AI、出了事没人负责」的真空。

这三张清单的共同逻辑来自访谈的核心洞察：工具与 AGI 的区别不在能力而在操作权归属。组织把操作权的每一次让渡都记录在案、可以追溯，就是在制度层面选择了工具范式；反之，让「省事」默认吞噬操作权，无论口号多好听，实际走的就是替代路线。治理清单不需要厚，一页纸就够，但必须是显式文档——口头共识在第一次成本压力下就会瓦解。

访谈方法本身：情景推演怎么做得不空

这场访谈的载体——FLI 的世界观建构项目——其方法论对内容创作者和战略团队都有借鉴价值。Aguirre 专门解释了为什么要做「高级世界观建构」：不是预测哪个未来会来，而是构造几个内部一致的完整情景，让资深人士在其中走一遍，暴露出「到时候才会想起的问题」——责任归属、监管接口、心理冲击。他在访谈里表扬项目组织方「请到了真正好的思考者参与反馈」，并强调情景的价值在于给现在的决策增加选项：「我们不只跟党走一条线，撞到不同情景时手里已经有预案」。

两个情景（工具 AI 与 DAX/CAIS）的对照设计也别有用心：一个把自主性压到最低，一个把模块化做到极致，中间留给读者的是「混合与配比」的连续谱。对做年度规划、产品战略的人，操作建议是把这套方法缩小规模搬进团队：每季度构造两三个内部一致的 AI 采用情景，标注各自的触发信号（基准分数、政策事件、成本曲线），让团队在信号出现时按预案切换，而不是每次都从零讨论。这比「AI 趋势对不对」的空辩有效一个数量级。

还有一个被访谈反复确认的心理现实：人不擅长也不喜欢单一重复任务，工具范式与这个天性对齐。Aguirre 观察到，只要 AI 系统不是刻意去复制人类做事的全部方式，人就有空间重组、再训练、转向更需要综合判断的工作；反之，「如果我们明确把目标设成 AI 能做人做的一切」，结果不言自明。这条心理底色让工具范式不仅是安全选择，也是可持续的选择——倦怠率是长期采用率最好的预测指标。

给实践者的三条迁移判断

这场访谈对做产品、带团队的人有三条直接可用的判断，都可以落到本周的动作上：

第一，审功能清单而非愿景叙事。 公司承诺的「治病、加速科学、植入所有产品」都是工具范式能兑现的能力——采购和选型时按功能逐项核对，不为「通往 AGI」的故事付溢价。下次供应商讲 AGI 愿景，让他把功能清单拆出来，逐项问「这需要自主性吗」。

第二，委托颗粒度是安全旋钮。 既然强工具加自主模块就能变成智能体，你决定委托什么就等于决定自己离 AGI 模式多近。把「下一步做什么」的决策权留在人这边，是成本最低的控制机制——在自动化设计里显式列出哪些决策永不委托，比事后补救便宜一个数量级。

第三，介入点要在架构里，不在承诺里。 CAIS 优于单体黑盒的原因是模块间的物理连接点允许人类插入——设计自己的 AI 工作流时同样如此：审批步骤、人工签核要设计进流程结构，而不是依赖供应商「会留人工审核」的口头承诺。架构里的介入点删不掉，承诺里的介入点随时能删。

三条判断之外再补一个反直觉提醒：别把「保留人工操作位」理解成凡事亲力亲为。工具范式的效率来自大胆委托加关键点把关，正确的颗粒度是「委托执行、保留决策」——让 AI 跑日常，人审例外和方向。判断颗粒度是否合适的试金石：如果这个环节出错，你能在多长时间内发现？发现时间越短，委托越安全。把发现时间压缩到分钟级的监控和验收设计，比笼统的「人工复核」实在得多。

尾声：一次值得复看的长谈

四十四分钟的密度不低，但值得完整看完的原因是它的论证结构罕见地干净：立场先行的讨论太多，这场访谈把「定义—证据—推论—行动」的链条走完了。Aguirre 不是技术悲观主义者——他对工具 AI 的上行空间真心兴奋；也不是天真乐观者——他对激励结构如何把行业推向替代路线看得很冷。这种「冷头脑热心肠」的组合在 AI 舆论场里是稀缺品。如果你今年只看一场关于 AI 路线之争的长访谈，看这场：它不给你站队答案，但给你一套自己得出答案的框架，而且每个环节都能落到你周一早上就要做的决策上。

最后一句留给团队负责人：把这场访谈列入下季度共看清单，比转发十篇行业分析更能对齐认知。

原文信息

• 原视频标题：We’re building AI to replace us. We don’t have to.
• 频道：Future of Life Institute
• 讲者：Anthony Aguirre（《Keep the Future Human》作者、未来生命研究所联合创始人）
• 发布日期：2026-09-02
• 视频时长：约 44 分钟