使用 Gemini 对 Signal 协议进行形式化验证
📌 One-Sentence Summary
Google DeepMind 推出 AlphaProof Code,这是一种智能体框架,利用 Gemini 模型对 Signal 的密码协议实现进行形式化验证,首次在代码层面实现了对广泛部署协议的 AI 辅助验证。
📝 Summary
Google DeepMind 的研究人员推出 AlphaProof Code,这是一种新型智能体框架,结合人类专业知识与 AI 智能体,以前所未有的深度开展形式化验证。研究团队利用该系统,对 Signal 密码协议实现中的关键安全属性进行了数学证明,并生成了超过 600 万行 Lean 代码。整个验证过程耗时 4 周,而传统方法通常需要数年,最终确认 Signal 的核心密码代码符合指定的安全保护要求。该方法验证的是编译后的代码,而不只是协议设计,从而弥合了设计与实现之间的差距。为验证系统的正确性,研究团队还确认它能识别出两个此前已修复的漏洞,并证明存在这些漏洞的代码并不安全。AlphaProof Code 支持在 AI 辅助下编写规范、自动生成证明,并由人类审查证明;其余证明则由 Lean 自动验证。
💡 Main Points
AlphaProof Code 是一种多 LLM 智能体框架,结合人类专业知识与 AI 智能体进行形式化验证
该框架像研究团队一样分配验证工作:由人类决定要证明什么,再由 AI 智能体执行证明。系统使用 Gemini Carbon 模型生成了超过 600 万行 Lean 代码,用于数学验证。
首次在实现层面完成对广泛部署的密码协议的 AI 辅助形式化验证
系统验证的是 Signal 的实际代码实现,而不只是设计规范,并证明了设备遭入侵时消息仍能受到保护等安全属性。这一点至关重要,因为现实中的漏洞往往隐藏在设计与实现之间的差距中。
验证仅用 4 周,而传统方法通常需要数年
AI 辅助方法在数周内完成了以往需要专家团队耗费数年才能完成的工作,展现出将形式化验证扩展到其他关键系统的潜力,例如医疗设备固件和电网软件。
系统通过机器检查的证明正确识别出有漏洞的代码并确认其不安全
在验证测试中,研究团队将 Signal 代码中两个真实且此前已修复的漏洞重新引入。AlphaProof Code 对存在漏洞的版本生成了机器检查证明,确认其并不安全,表明该系统能够区分正确与有缺陷的实现。
人类只需审查代码库中的 1%,其余部分由 Lean 自动检查
智能体会审查证明并指出需要人类关注的部分,让专家把判断力集中在最关键之处;Lean 则自动验证代码库中剩余的 99%。
💬 Key Quotes
AlphaProof Code 是一种新型智能体框架,结合人类专业知识与 AI 智能体,以前所未有的深度开展形式化验证。
形式化验证——通过数学方法证明代码能够正确运行且不存在缺陷——是安全保障的最高标准;但它难度很高,通常也极其耗费人力。
这项工作首次运用 AI,以这样的深度对广泛部署的密码协议进行形式化验证。
这也是首次有人通过任何方法——无论是否借助 AI——对 Signal 这类广泛部署协议的实现进行形式化验证。
在这两种情况下,系统都生成了机器检查证明,确认存在漏洞的版本并不安全。
📊 Article Meta
AI Screening: 90
Source: Google DeepMind News
Author: Pushmeet Kohli, Swarat Chaudhuri
Category: 人工智能
Language: 英文
Read Time: 4 min
Word Count: 927
Tags:
AI 与智能应用 , 形式化验证 , 模型发布 , AI 安全与对齐 , AI 工作流
路过
实话,说的不明不白
整理得太全面了,省了我不少时间。
刚好最近在找这方面的资料,太及时了。
不错不错,已加入书签。
很有价值的分享,感谢整理。
写得挺用心的,支持一下。
讲解得很细致,新手也能看懂。
内容翔实,正好需要,先收藏再看。
思路清晰,干货满满。
刚好最近在找这方面的资料,太及时了。
看标题就点进来了,内容果然没让人失望。