我曾以为超级智能还要等十年,现在改主意了

邱宇行业资讯📡 BestBlogs·全站精选⭐ 902026-11-14961 阅读💛 182 收藏
我曾以为超级智能还要等十年,现在改主意了

📌 One-Sentence Summary

Dwarkesh Patel 解释为何把 AI 追平顶尖人类 AI 研究者的中位预测提前到 2028 年,以及随后可能出现的两条路径。

📝 Summary

Dwarkesh Patel 认为,预训练、后训练和推理效率都有可量化的研究任务,可以让自动化研究者反复练习、并行开展实验并核验结果。他的中位预测是,如果前沿实验室持续推进,AI 可能在 2028 年追平顶尖人类 AI 研究者。他也给 2032 年之后才实现这一目标留出了至少 25% 的概率。此后的进展可能靠软件自我改进持续加速,也可能在短期跃升后等待更多算力。技术附录进一步讨论持续学习、指标选择、数据供给和实验算力这四个问题。

💡 Main Points

可验证的工作为研究自动化提供起点

作者先用数学和编程的进展举例,再指出模型开发中可以测量的任务,如验证集损失、后训练的样本效率和推理成本。

研究者变快,实验仍有成本

并行智能体能尝试许多方法并独立检查结果,但增加研究者的边际收益会递减,实验仍要占用算力和时间。

后续增速取决于反馈的速度

如果自动化研究者能力提升的速度快过新点子变难的速度,软件进展可能持续加速。另一种情况是先经历一次跃升,此后等新增算力。

预测取决于前提

Patel 把 2028 年作为研究里程碑的中位年份,也明确保留了更晚实现的可能,并把持续学习视为一项重要不确定性。

💬 Key Quotes

以 AI 研究的性质来看,自动化劳动力增加几个数量级,进展至少不会连快几倍都做不到。

如果要我给自动化研究者达到最优秀人类 AI 研究者水平选一个中位年份,我会猜 2028 年。

数学研究可以用纸笔推理得出新发现。做 AI 研究,你必须运行实际实验来验证想法。

📊 Article Meta

AI Screening: 90

Featured: Yes

Source: Dwarkesh Patel

Author: Dwarkesh Patel

Category: 人工智能

Language: 英文

Read Time: 34 min

Word Count: 8308

Tags:

AI 与智能应用 , 递归自我改进 , 持续学习 , AI研究前沿 , 后训练

Play Full Video

#AI 与智能应用# 递归自我改进# 持续学习# AI研究前沿# 后训练

文章评论(12)

曹浩2 天前

这个比较实用,已转发给同事。

回复
山问津2 天前

这篇文章分析得很透彻,收藏了!

回复
林拾贝2 天前

赞同,实践出真知。

回复
杨丽华2 天前

实测过类似工具,作者说的基本属实。

回复
雪知秋2 天前

楼主辛苦了,内容很有参考价值。

回复
林观澜2 天前

点赞,必须点赞

回复
三分糖去冰2 天前

路过

回复
墨向阳2 天前

点赞,必须点赞

回复
墨沐雨2 天前

支持作者,持续关注中。

回复
蓝归舟2 天前

实话,说的不明不白

回复
石佳琪2 天前

看标题就点进来了,内容果然没让人失望。

回复
山问津2 天前

写得挺用心的,支持一下。

回复