让国际 AI 减速协议成为可能的技术:算力核验如何走出原型阶段

溪行者行业资讯📡 BestBlogs·全站精选⭐ 912026-10-26332 阅读💛 33 收藏
让国际 AI 减速协议成为可能的技术:算力核验如何走出原型阶段

📌 One-Sentence Summary

Amodo CEO Tom Milton 解释算力核验如何支持 AI 减速,并区分已有原型与仍待解决的技术、部署和政治协调难题。

📝 Summary

Tom Milton 将算力核验视为提高 AI 研发承诺可信度的一种方式,而不是只能关闭所有数据中心。Amodo 的原型监测网络流量,并重新计算约定的推理任务,以约束无法解释的通信。他表示,团队已在小规模 GPU 集群上演示这一方案;零知识证明与抽样未来有望减少共享模型权重的必要。功耗变化也能提供另一种信号,但精度较低,面对对抗性伪装仍有明显局限。

访谈区分了两个问题:确认已知设施内部在做什么,以及发现未申报的设施。Milton 认为,情报搜集、公开研究、现场核查和硬件工具应相互补充。他主张开展红队演练,与 AI 实验室及政府协作,并提前应对制造和建立互信所需的时间。核验能为未来协议增加选择,却不是已经解决所有问题的保证。

随后,讨论转向硬件研发。AI 设计的电路板、定制唤醒灯和快速原型展示了实际收益,也暴露了设计质量不足。Milton 解释了更快的实体反馈、工程师跨专业能力和团队协作之间的关系,并讨论模型访问权及安全本地算力对研究机构的意义。关于未来能力和国际协议的判断均属于受访者观点。

💡 Main Points

核验可以在限制训练时保留有用的推理服务

Milton 将目标定义为检查具体的算力使用承诺。网络监测与推理重算试图解释已观察到的通信;核验越精确,未来遵守协议的成本就可能越低。

隐私、精度和抗作弊能力是不同的工程难题

现有原型需要访问约定模型。零知识证明可能保护权重,功耗信号则较少侵入但精度较低。他承认,有能力的对手可能伪装工作负载,而所需效率代价尚不确定。

核查已申报设施不能自动发现全部隐藏集群

双方区分已知活动的正确性与全部基础设施的完整性。国家情报、公开卫星研究、审计人员和技术工具提供的是不同层次的信心。

可信部署需要远超实验室原型的准备

红队既要尝试绕过核验,也要测试信息泄露。政府与实验室各有专长,制造、量产、安装和建立互信都有不能忽略的周期。

AI 辅助硬件研发仍依赖反馈和工程判断

Milton 展示能工作但布局欠佳的 PCB 及个人定制硬件。仿真和快速实体原型可能缩短迭代,但可维护性、项目选择和实际部署仍需经验判断。

💬 Key Quotes

这件事可行,但还没有解决。

我们希望它真正有效。

这是一个奇怪的世界。

📊 Article Meta

AI Screening: 91

Featured: Yes

Source: 80,000 Hours

Author: 80, 000 Hours

Category: 人工智能

Language: 英文

Read Time: 78 min

Word Count: 19450

Tags:

AI 与智能应用 , AI 安全与对齐 , 密码学 , AI 硬件与芯片 , 视频

Play Full Video

#AI 与智能应用# AI 安全与对齐# 密码学# AI 硬件与芯片# 视频

文章评论(12)

杨丽华20 天前

写得挺用心的,支持一下。

回复
月沐雨21 天前

收藏了,以后慢慢研究。

回复
空向阳20 天前

整理得太全面了,省了我不少时间。

回复
龙文博20 天前

实测过类似工具,作者说的基本属实。

回复
龙文博20 天前

楼主辛苦了,内容很有参考价值。

回复
林观澜20 天前

实话,说的不明不白

回复
蓝归舟20 天前

看完了,收获满满,期待更多更新。

回复
蓝光20 天前

实话,说的不明不白

回复
杨丽华20 天前

看完了,收获满满,期待更多更新。

回复
松听风20 天前

这个比较实用,已转发给同事。

回复
蓝光20 天前

看标题就点进来了,内容果然没让人失望。

回复
一叶知秋20 天前

赞同,实践出真知。

回复