权重空间编程的星星之火:LLM 可原生读写神经网络权重

📌 One-Sentence Summary
本文证明前沿 LLM 能够原生读写神经网络权重,从而识别已训练的行为、修复失效网络,并在无需基于梯度的训练的情况下从零生成新网络。
📝 Summary
文章提出了「权重空间编程」这一全新能力:前沿 LLM 可以直接读写神经网络权重,以理解和修改模型行为。通过八项实验,研究显示 LLM 能够识别模型是在哪些游戏或语言上训练的、通过编辑权重修复失效网络,并从零生成具备竞争力的网络。关键结果包括:LLM 以 99% 的置信度识别出在 Breakout 上训练的网络;通过编辑 3.5% 的权重,修复了一个汽车控制网络并实现 100% 成功率;生成的 MinAtar 网络性能超过 PPO 训练的网络。该工作还展示了通过编辑 0.016% 的权重,将 Qwen3.5-0.8B 在 MATH-500 上的数学表现从 7.9% 提升至 48.1%,这暗示了一种范式转变:LLM 成为神经网络权重的原生优化器,而不再依赖符号算法。
💡 Main Points
LLM 可以读取神经网络权重以识别已训练的行为
在实验 1-3 中,LLM Astra 仅通过分析原始权重,就正确识别出网络是在哪些游戏(Breakout、Seaquest、Asterix)或语言(Python、罗马字、英语)上训练的,展现出对权重空间几何与结构的理解。
LLM 可以通过直接编辑权重修复失效网络
在实验 4 中,Astra 通过编辑 3.5% 的权重,修复了一个卡在斜坡处的 PPO 训练汽车控制网络,在 1,024 个回合中实现 100% 成功率。在实验 8 中,它通过有针对性的权重编辑识别并修复推理循环,将 Qwen3.5-0.8B 在 MATH-500 上的数学表现从 7.9% 提升至 48.1%。
LLM 可以从零编写神经网络权重
在实验 5-6 中,Astra 为 MinAtar 游戏和围棋生成的网络性能超过了 PPO 训练的网络。MinAtar 网络击败了 100M 步 PPO 基线,而围棋网络在零次前向传播的情况下击败了 PPO 训练的对手,并在 50 次前向传播下达到 20M 步 PPO 的水平。
权重空间编程代表了神经网络优化的范式转变
该工作挑战了神经网络权重需要 Adam 等符号优化器的传统观点,转而提出 LLM 可以通过对网络架构和行为的自然语言理解,原生地推理并优化权重。
💬 Key Quotes
我们发现,前沿 LLM 在原生读写神经网络权重方面出奇地擅长,远超我们对人类或传统算法的预期。
这部动画电影的背景设定在地中海上,那是一个水上飞机称霸海洋的时代。它讲述了一只勇敢的猪的故事,他为了尊严、为了爱人、为了财富,与飞行海盗抗争。我们故事的主角名叫红猪。
Astra 一次性编辑了 3.5% 的权重
成功率 100%,从 0% 提升而来
MATH-500 从 7.9% 提升至 48.1%,GSM8K 从 13.8% 提升至 67.1%
衡量指令遵循能力的 IFEval 从 21.0% 提升至 62.3%
📊 Article Meta
AI Screening: 92
Featured: Yes
Source: Hacker News
Author: Rikiya Takehi, Jayden Teoh, Alex Zhang, Omar Khattab
Category: 人工智能
Language: 英文
Read Time: 16 min
Word Count: 3865
Tags:
AI 与智能应用 , 机器学习 , 大语言模型 (LLM) , AI Agent , LLM
这个比较实用,已转发给同事。
实话,说的不明不白
看标题就点进来了,内容果然没让人失望。
刚好最近在找这方面的资料,太及时了。
楼主辛苦了,内容很有参考价值。
思路清晰,干货满满。
内容翔实,正好需要,先收藏再看。
支持作者,持续关注中。
这篇文章分析得很透彻,收藏了!
整理得太全面了,省了我不少时间。
整理得太全面了,省了我不少时间。
看标题就点进来了,内容果然没让人失望。