权重空间编程的星星之火:LLM 可原生读写神经网络权重

溪行者行业资讯📡 BestBlogs·全站精选⭐ 922026-11-03502 阅读💛 27 收藏
权重空间编程的星星之火:LLM 可原生读写神经网络权重

📌 One-Sentence Summary

本文证明前沿 LLM 能够原生读写神经网络权重,从而识别已训练的行为、修复失效网络,并在无需基于梯度的训练的情况下从零生成新网络。

📝 Summary

文章提出了「权重空间编程」这一全新能力:前沿 LLM 可以直接读写神经网络权重,以理解和修改模型行为。通过八项实验,研究显示 LLM 能够识别模型是在哪些游戏或语言上训练的、通过编辑权重修复失效网络,并从零生成具备竞争力的网络。关键结果包括:LLM 以 99% 的置信度识别出在 Breakout 上训练的网络;通过编辑 3.5% 的权重,修复了一个汽车控制网络并实现 100% 成功率;生成的 MinAtar 网络性能超过 PPO 训练的网络。该工作还展示了通过编辑 0.016% 的权重,将 Qwen3.5-0.8B 在 MATH-500 上的数学表现从 7.9% 提升至 48.1%,这暗示了一种范式转变:LLM 成为神经网络权重的原生优化器,而不再依赖符号算法。

💡 Main Points

LLM 可以读取神经网络权重以识别已训练的行为

在实验 1-3 中,LLM Astra 仅通过分析原始权重,就正确识别出网络是在哪些游戏(Breakout、Seaquest、Asterix)或语言(Python、罗马字、英语)上训练的,展现出对权重空间几何与结构的理解。

LLM 可以通过直接编辑权重修复失效网络

在实验 4 中,Astra 通过编辑 3.5% 的权重,修复了一个卡在斜坡处的 PPO 训练汽车控制网络,在 1,024 个回合中实现 100% 成功率。在实验 8 中,它通过有针对性的权重编辑识别并修复推理循环,将 Qwen3.5-0.8B 在 MATH-500 上的数学表现从 7.9% 提升至 48.1%。

LLM 可以从零编写神经网络权重

在实验 5-6 中,Astra 为 MinAtar 游戏和围棋生成的网络性能超过了 PPO 训练的网络。MinAtar 网络击败了 100M 步 PPO 基线,而围棋网络在零次前向传播的情况下击败了 PPO 训练的对手,并在 50 次前向传播下达到 20M 步 PPO 的水平。

权重空间编程代表了神经网络优化的范式转变

该工作挑战了神经网络权重需要 Adam 等符号优化器的传统观点,转而提出 LLM 可以通过对网络架构和行为的自然语言理解,原生地推理并优化权重。

💬 Key Quotes

我们发现,前沿 LLM 在原生读写神经网络权重方面出奇地擅长,远超我们对人类或传统算法的预期。

这部动画电影的背景设定在地中海上,那是一个水上飞机称霸海洋的时代。它讲述了一只勇敢的猪的故事,他为了尊严、为了爱人、为了财富,与飞行海盗抗争。我们故事的主角名叫红猪。

Astra 一次性编辑了 3.5% 的权重

成功率 100%,从 0% 提升而来

MATH-500 从 7.9% 提升至 48.1%,GSM8K 从 13.8% 提升至 67.1%

衡量指令遵循能力的 IFEval 从 21.0% 提升至 62.3%

📊 Article Meta

AI Screening: 92

Featured: Yes

Source: Hacker News

Author: Rikiya Takehi, Jayden Teoh, Alex Zhang, Omar Khattab

Category: 人工智能

Language: 英文

Read Time: 16 min

Word Count: 3865

Tags:

AI 与智能应用 , 机器学习 , 大语言模型 (LLM) , AI Agent , LLM

#AI 与智能应用# 机器学习# 大语言模型 (LLM)# AI Agent# LLM

文章评论(12)

雪影12 天前

这个比较实用,已转发给同事。

回复
邱文博13 天前

实话,说的不明不白

回复
龙文博12 天前

看标题就点进来了,内容果然没让人失望。

回复
墨沐雨13 天前

刚好最近在找这方面的资料,太及时了。

回复
青柠微凉12 天前

楼主辛苦了,内容很有参考价值。

回复
星观澜13 天前

思路清晰,干货满满。

回复
一个橘子12 天前

内容翔实,正好需要,先收藏再看。

回复
雪影12 天前

支持作者,持续关注中。

回复
石佳琪12 天前

这篇文章分析得很透彻,收藏了!

回复
郭超12 天前

整理得太全面了,省了我不少时间。

回复
吴超12 天前

整理得太全面了,省了我不少时间。

回复
蓝光12 天前

看标题就点进来了,内容果然没让人失望。

回复