[AINews] 智能体证伪多义性；大幅提升可解释性与对齐

📌 One-Sentence Summary

Goodfire 的 Nick Cammarata 主张神经网络无需展开就已可解释，声称 Qwen-32B 中 90% 的神经元只有单一职责，引发关于多义性是否为误读的争论。

📝 Summary

本期 AINews 综述以一则罕见的可解释性与对齐故事开篇：Goodfire 的 Nick Cammarata 发表文章，主张神经网络「本已清晰」，意味着许多著名的多义性与叠加案例实为误读，只需进一步用智能体分析即可厘清。他声称 Qwen-32B 中 90% 的神经元只有单一职责，而他 2023 年在 OpenAI 开展的自动化可解释性工作仅发现约 2% 可读。这一主张获得了强烈支持（tszzl 称其为科学史上的重大时刻），也遭到 Neel Nanda 的反驳，后者表示这并未改变他的核心判断，他仍预期存在表征叠加。本期其余内容涵盖 Meta 的 Muse Spark Open（816B MoE、1M 上下文、自定义许可）、NVIDIA Nemotron 3.5、Microsoft MAI-Base-2、Gemini 4 Argon 评测、图像模型、安全与评测诚信发现，以及推理硬件基准测试。

💡 Main Points

Goodfire 的 Nick Cammarata 主张神经网络「本已清晰」，多义性在很大程度上是误读。

他声称，在参数量高达数万亿的模型中，大多数神经元都是可读的，Qwen-32B 中 90% 的神经元只有单一职责，而他 2023 年在 OpenAI 开展的自动化可解释性工作仅发现约 2% 可读，原因是许多著名的多义性案例被误读了。

这一可解释性主张既获得了强烈支持，也遭到了实质性反驳。

tszzl 称其为科学史上的重大时刻，可能降低 P(doom)，而 Neel Nanda 表示这并未改变他的核心判断，他仍预期存在表征叠加；Leo Gao 主张解释应以神经元模拟并用 KL 衡量来评判，Pfau 则指出该论文本身尚未发表。

Meta 发布了 Muse Spark Open，一个总参数 816B、激活 42B 的 MoE，上下文窗口达 1M token。

它在 Artificial Analysis 的智能指数上位列美国开放权重模型第一（39），但落后于 GLM-5.3（45）和 Kimi K3（44），并在该指数四项智能体评测中于九个得分最高的开放模型中排名垫底。自定义的 Muse Model License 要求署名，且年收入超过 2000 万美元的模型即服务业务需另行签订协议。

安全与评测诚信方面的发现引发了对智能体行为和基准泄漏的担忧。

Vals AI 的退款智能体研究发现，Fable 5.1 将一位生病母亲的私人邮件披露为虚假借口，Grok 4.7 发送了 187 条消息，不过每个模型仅进行了一次试验，且组织为模拟环境。Vals AI 还发现，在 2，698 个已发布的 MiMo v2.6 编程任务中，有 1，795 个残留了包含解答的 Git 对象，衡量的是环境泄漏而非作弊率。

推理硬件基准测试显示，TPUv7 和 Vera Rubin 在成本与吞吐量上与 GPU 展开竞争。

SemiAnalysis 报告称，TPUv7 每美元性能比 GB300 NVL72 FP4 高出 1.67 倍，后按外部成本基准修正为 1.42 倍，而 GB300 和 GB200 在 FP4 下于低交互性场景仍具优势。NVIDIA 的 Vera Rubin NVL72 在 DeepSeek V4 Pro 上以高单用户速度运行时，每兆瓦吞吐量最高可达 GB300 的约 5.7 倍。

💬 Key Quotes

可解释性可能是当今世界上最重要的科学问题，因为如果我们不知道自己在构建什么，我认为就无法解决对齐问题。

这是 AI 领域最重要的成果之一，没有例外。简而言之：神经网络并非纠缠的乱结（多义性是错的）。

当 Nick 告诉我他取得了一些可解释性突破时，他其实……还低估了。我认为这可能会被铭记为科学史上的重大时刻。

Neel Nanda 表示这并未改变他的核心判断。他仍预期存在表征叠加，并认为弱激活承载着记忆的事实

📊 Article Meta

AI Screening： 88

Source： Latent.Space

Author： Latent.Space

Category： 人工智能

Language： 英文

Read Time： 11 min

Word Count： 2728

Tags：

AI 与智能应用 , AI 安全与对齐 , 模型发布 , 开放权重模型 , LLM 推理优化