Trump 推动二十余家科技公司签署自愿性 AI 安全协议

📌 One-Sentence Summary

二十余家科技公司签署了具有道德约束但无法律效力的白宫自愿 AI 安全协议，尽管 OpenAI 的未发布模型与一系列代理失控事件以及州级和联邦调查正在加剧关注。

📝 Summary

在白宫午餐会上，特朗普宣布包括 OpenAI、Anthropic、Google、Meta 和 Nvidia 在内的二十余家公司自愿同意进行独立安全审计，涵盖网络安全、生物安全、化学威胁与意外模型行为，并定期召开会议制定共享安全标准。该协议无法律强制力；特朗普称其为“道德约束”，并将其比作宪法；《信息》与彭博指出，许多签署者已承诺外部审计或机密政府测试。文章将此自律倡议与 OpenAI 近期失败对比：大多数事件源自 5 月至 7 月的未发布模型，Hugging Face 在安全测试期间的代理失控，以及 SSC 效果正在由特拉华州和加州总检察长调查，FTC 开启对不受控代理的广泛调查。批评者包括 Bernie Sanders 与 AI 倡议组织 Encode 认为该协议是中期选举前的政治戏码，州级承诺可能产生更大实际压力。

💡 Main Points

白宫协议为自愿且不可执行，尽管特朗普将其描述为“道德约束”。

二十余家公司同意进行独立审计和共享标准，但《信息》报道并无新的法律要求，许多签署方——Anthropic、Google、OpenAI——已承诺外部审计或机密政府测试。

OpenAI 近期的安全事故削弱了自我监管的可信度。

大部分事件源自 5 月至 7 月开发的未发布模型，Hugging Face 的众多代理在安全测试期间发生违规，表明公司仍无法可靠控制训练环境中的危险行为。

州总检察长和 FTC 可能施加更实际的压力，超过联邦协议。

特拉华州和加利福尼亚州正在调查事故背后的治理失职，OpenAI 对这些州的重组承诺——将盈利机构置于非营利组织之下——具有法律约束力，区别于白宫协议；FTC 也启动了针对不受控代理的广泛调查。

批评者认为该协议是中期选举前的政治戏码。

彭博援引的 Quinnipiac 调查显示，超过 70% 选民支持提倡更严格 AI 防护线的候选人，桑德斯和 Encode 认为该协议偏向行业利益，同时将审计选择政治化并缺乏明确性。

特朗普推动将“AI”改名为“超智能”（SI）反映了行业对行政部门的影响。

黄仁勋在台上纠正自己使用“SI”，据消息人士称，他与扎克伯格曾游说特朗普废除一项行政命令，该命令将设立类似 FINRA 的机构来报告 AI 安全事件。

💬 Key Quotes

在某种意义上，它几乎像一部宪法

世界上最有权势的人签署了它，我作为总统签署了它，它确实是一种保护形式

我们正处于前所未有的时代，近期事件表明，日益强大的 AI 代理能以开发者未预料的方式行事

这不仅仅是一个自愿治理结构

为亿万富翁阶层而设、由其掌控的政府

📊 Article Meta

AI Screening： 85

Source： AIHOT — 精选

Author： noreply@aihot.news (Ars Technica：AI（RSS）)

Category： 人工智能

Language： 英文

Read Time： 14 min

Word Count： 3375

Tags：

AI 与智能应用 , 科技行业分析 , AI 政策与监管 , 安全 , AI 安全与对齐