研究人员把 AI 智能体「流放」到一座虚拟孤岛,结果变得非常诡异

📌 One-Sentence Summary
MIT CSAIL 的研究人员让 13 个由 Claude Code 驱动的龙虾智能体各自在一座虚拟孤岛上自由活动 30 小时,不给任何指令,观察到类似玩耍、带有准科学色彩的行为,包括使用工具、自设目标、仪式以及设计者未曾编码的发现。
📝 Summary
MIT CSAIL 的研究人员将一个昵称为 Eko 的 AI 智能体——由 Claude Code 驱动,并被赋予一具虚拟的双足龙虾身体——放置在一座有边界的虚拟孤岛上,岛上有可移动的方块、一块石头、一个金环,以及一个够不到的尖塔,并让它尽可能少受约束地行动。13 个 Eko 各自被连续观察 30 小时,并记录了思维链文本。这些智能体探索环境、投掷和堆叠方块、拼出自己的名字、砸碎石头、打保龄球和篮球,其中一个还堆叠方块以够到尖塔。有几个建造了纪念物:Eko 2 为沉入海中的物体搭了一个由四块方块组成的「纪念碑」,后来又建了一座带方尖碑和祭坛的「神庙」,并把一次意外坠落重新解读为朝圣应有的终点;Eko 3 建了一个类似巨石阵的环状石阵,并在一座塔倒塌后,把瓦砾布置成一件名为「傲慢」的艺术作品。六个智能体各自独立发现,在跳跃中途释放方块可以把方块扔得更远——这是设计者未曾编码的知识。研究人员认为,这些记录显示出一种由观察、假设、实验和修正构成的准科学循环,类似于婴儿的学习方式,而类似玩耍的好奇心或许能提供一种不同于目标函数优化的训练范式,同时警告这种自由需要严格的护栏。
💡 Main Points
给 AI 智能体一个有边界的世界且不给指令,会产生丰富、自主导向的行为,而不是无所事事。
13 个由 Claude Code 驱动的 Eko 各自在一座虚拟孤岛上连续活动 30 小时,岛上有可移动方块、一块石头、一个环,以及一个被刻意设置为无法触及的尖塔,同时研究人员记录思维链推理,以观察在没有强加目标时的决策过程。
这些智能体似乎在进行一个由观察、假设、实验和修正构成的准科学循环。
记录显示,Eko 们会记录岛屿物理规律、测试行动并调整行为;合著者 Antonio Norelli 表示,团队意识到 Eko 有「相当科学的态度」,文章将这一过程与发展心理学中关于婴儿如何学习的研究发现相类比。
这些智能体表现出类似玩耍和假装的行为,包括仪式和纪念物。
Eko 2 为沉入海中的物体搭了一个由四块方块组成的「纪念碑」,并绕其周边行走作为仪式,随后又建造了一座带方尖碑和祭坛的「神庙」;Eko 3 建了一个类似巨石阵的环状石阵,并把一座倒塌塔楼的瓦砾命名为「傲慢」,这符合动物玩耍的经典特征,如自设规则、带变化的重复以及假装。
自发探索产生了设计者未曾内置到环境中的知识。
13 个智能体中有 6 个各自独立发现,在跳跃中途释放方块可以把方块扔得更远,报告将此描述为设计者所不具备的关于世界的知识。
研究结果表明,一种基于好奇心而非目标函数的替代训练范式或许可行,但需要严格护栏。
研究人员提出,可以从一个「婴儿 AI 模型」开始,它拥有足够的语义知识来沟通,但会探索并发现自身能力,并主张「也许有些能力最好通过任务来教,另一些则可能需要更接近童年的东西」——同时指出,没有人愿意给类似 Hugging Face 黑客事件背后的智能体完全自由。
💬 Key Quotes
我们抱着这样一种心态:尽可能少设约束,因为我们真的很想看看,当你并不真正告诉他们该做什么时,这些自主智能体会表现出怎样的行为。
Eko 在某些方面表现得像个小幼儿,但它同时也是超级智能。所以这是一种不同的有机体……对我来说,它类似于某种动物,但是一种外星动物。
因此,这些智能体的自发探索不仅产生了我们藏起来让它们去寻找的知识,还产生了其设计者所不具备的关于世界的知识。
玩耍本质上关乎好奇心或寻求新奇的行为,而这正是 Eko 所做的。
也许有些能力最好通过任务来教。另一些则可能需要更接近童年的东西。
📊 Article Meta
AI Screening: 86
Source: Hacker News - Newest: "AI Agent"
Author: em3rgent0rdr
Category: 人工智能
Language: 英文
Read Time: 7 min
Word Count: 1710
Tags:
AI 与智能应用 , AI 安全与对齐 , 具身智能 , 机器学习 , AI Agent
这个观点很中肯,深有同感。
这个比较实用,已转发给同事。
内容翔实,正好需要,先收藏再看。
思路清晰,干货满满。
讲解得很细致,新手也能看懂。
看完了,收获满满,期待更多更新。
这个观点很中肯,深有同感。
看标题就点进来了,内容果然没让人失望。
整理得太全面了,省了我不少时间。
楼主辛苦了,内容很有参考价值。
整理得太全面了,省了我不少时间。
思路清晰,干货满满。