CHM Live | Anthropic 的 Boris Cherny：Claude Code 缔造者谈智能体、AI 安全与编程的未来

📌 One-Sentence Summary

Claude Code 缔造者 Boris Cherny 在计算机历史博物馆回顾这款智能体从模型过载下注到数十亿美元收入的历程，并系统讲解工具使用、分层安全、记忆机制与自动化编程的印刷机式未来。

📝 Summary

在这场计算机历史博物馆的对话中，Claude Code 的创建者与负责人 Boris Cherny 回顾了自己从在 TI-83 计算器上写程序应付数学考试，到执掌增长最快的开发者产品之一的历程。他解释了为什么一个六到八人的 labs 团队会基于模型过载的判断去打造会用工具的智能体——Sonnet 3.5 已经能一次写完整个文件，而多数开发者还在按 Tab 补全一行——并提到同一支团队还产出了 MCP、computer use 与 skills。他把智能体定义为能做事的聊天机器人，逐一讲解不断变化的工具集，包括能自行选择模型的子智能体，并描述在模型上做产品为何更像实证研究，像一门社会科学。他也披露业务内情：收入曾卡在 4000 万美元，直到 Opus 4 与 Sonnet 4 发布才突破；Anthropic 内部几乎全员使用，他怀疑已没有人类手写的代码；团队正在押注 Slack 多人智能体与 Projects 等新形态。安全部分着墨最深：从 evals、能在神经元层面捕捉提示注入的可解释性探针、运行时分类器，到 auto mode——一个不带会话上下文、专门审查每条命令是否安全的模型——其起因是承包商实验显示人类几乎照单全收所有注入的危险命令；如今 Claude Code 的演示提示注入成功率已为零。面对 Don Knuth、Leslie Lamport 与 Alan Kay 的问题，他把编程自动化比作印刷机，预测一年内所有人都能写出与他一样好的代码，并建议学生保持好奇、再辅修一个专业。

💡 Main Points

Claude Code 源于模型过载：模型能力跑在了产品前面

Boris 所在的 labs 团队发现 Sonnet 3.5 已能一次写出整个函数乃至整个文件，而市场上多数人还在用 Tab 补全单行代码，于是押注一个会用工具的智能体，把模型已有的能力激发出来，同时也在真实环境中学习安全。

智能体就是会用工具的聊天机器人，工具改变了一切

工具使用本质上只是一种特殊消息格式，却让模型能读写文件、执行 bash、派生甚至自选模型的子智能体。工具集随每次模型发布重建，因为在模型上做产品更像实证研究，接近社会科学而非系统设计。

安全是分层的，而人工 yes/no 审批已沦为安全剧场

Anthropic 叠加了 evals、能在神经元层面发现提示注入的可解释性探针、运行时分类器，以及 auto mode——由一个不带上下文的模型判断每条命令是否安全；起因是承包商实验里几乎所有被注入的危险命令都被照单放行，如今 Claude Code 的演示提示注入成功率为零。

增长由模型驱动：4000 万美元的平台期直到 Opus 4 与 Sonnet 4 才打破

团队连续数月日夜加班也没能移动收入，直到更强的模型让智能体真正好用；Anthropic 内部采用率如今接近百分之百，他怀疑已没有人类手写的代码。Boris 的教训是对智能体需求停止预测。

自动化编程是印刷机时刻：一长串多米诺的第一张

正如印刷机让书价下降约百倍、把识字从职业变成基本技能，Boris 预测一年之内所有人都能写出与他水平相当的代码；真正让工程师脱颖而出的是好奇心与判断力，而非语法熟练。

💬 Key Quotes

智能体就是一个能替你做事的聊天机器人，本质上就是如此。

而实际上，随着人们越来越多地使用模型，这已经变成了安全剧场。它不是真正的安全，因为没有人再读那些命令了。

如果我必须做个预测，那将是一年之内、也许更快，所有人都能写出和我一样好的代码。像我这样把整个职业生涯都投入研究的职业软件工程师，与从未写过一行代码的人之间的差距，将持续缩小。

我和团队学到的唯一一课，就是彻底停止预测。因为完全没办法猜。每个季度财务都会问，你预计有多少用户、预计增长多少，而真的没有办法猜，人们总会出乎你的意料。

在模型上做开发这件事非常依赖实证，感觉更像一场发现之旅，或者是在和一种奇怪的陌生生物交流。它不像我们过去以传统方式构建软件的感觉。

📊 Article Meta

AI Screening： 91

Featured： Yes

Source： Computer History Museum

Author： Computer History Museum

Category： 人工智能

Language： 英文

Read Time： 51 min

Word Count： 12719

Tags：

AI 与智能应用 , 大语言模型 (LLM) , AI Agent , AI 安全与对齐 , AI 编程

Play Full Video