我曾以为超级智能还要等十年,现在改主意了

📌 One-Sentence Summary
Dwarkesh Patel 解释为何把 AI 追平顶尖人类 AI 研究者的中位预测提前到 2028 年,以及随后可能出现的两条路径。
📝 Summary
Dwarkesh Patel 认为,预训练、后训练和推理效率都有可量化的研究任务,可以让自动化研究者反复练习、并行开展实验并核验结果。他的中位预测是,如果前沿实验室持续推进,AI 可能在 2028 年追平顶尖人类 AI 研究者。他也给 2032 年之后才实现这一目标留出了至少 25% 的概率。此后的进展可能靠软件自我改进持续加速,也可能在短期跃升后等待更多算力。技术附录进一步讨论持续学习、指标选择、数据供给和实验算力这四个问题。
💡 Main Points
可验证的工作为研究自动化提供起点
作者先用数学和编程的进展举例,再指出模型开发中可以测量的任务,如验证集损失、后训练的样本效率和推理成本。
研究者变快,实验仍有成本
并行智能体能尝试许多方法并独立检查结果,但增加研究者的边际收益会递减,实验仍要占用算力和时间。
后续增速取决于反馈的速度
如果自动化研究者能力提升的速度快过新点子变难的速度,软件进展可能持续加速。另一种情况是先经历一次跃升,此后等新增算力。
预测取决于前提
Patel 把 2028 年作为研究里程碑的中位年份,也明确保留了更晚实现的可能,并把持续学习视为一项重要不确定性。
💬 Key Quotes
以 AI 研究的性质来看,自动化劳动力增加几个数量级,进展至少不会连快几倍都做不到。
如果要我给自动化研究者达到最优秀人类 AI 研究者水平选一个中位年份,我会猜 2028 年。
数学研究可以用纸笔推理得出新发现。做 AI 研究,你必须运行实际实验来验证想法。
📊 Article Meta
AI Screening: 90
Featured: Yes
Source: Dwarkesh Patel
Author: Dwarkesh Patel
Category: 人工智能
Language: 英文
Read Time: 34 min
Word Count: 8308
Tags:
AI 与智能应用 , 递归自我改进 , 持续学习 , AI研究前沿 , 后训练
Play Full Video
这个比较实用,已转发给同事。
这篇文章分析得很透彻,收藏了!
赞同,实践出真知。
实测过类似工具,作者说的基本属实。
楼主辛苦了,内容很有参考价值。
点赞,必须点赞
路过
点赞,必须点赞
支持作者,持续关注中。
实话,说的不明不白
看标题就点进来了,内容果然没让人失望。
写得挺用心的,支持一下。