开源项目与 AI 安全：Mantis 漏洞发现及 gRPC 实践｜Eric Anderson、Nick Galloway，Google

📌 One-Sentence Summary

Google 安全工程师结合 Mantis 与 gRPC 的一手实践，说明如何降低 AI 漏洞发现的误报，并通过漏洞复现、沙箱测试和持续扫描改进开源项目安全。

📝 Summary

Nick Galloway 和 Eric Anderson 分享了将 AI 用于开源项目安全的一手经验。早期直接要求模型寻找漏洞虽然能发现真实问题，但他们测得的误报率约为 90%；为此开发的开源工具 Mantis 结合了质疑发现结果的智能体与动态复现。Galloway 认为，相比直接相信模型的判断，复现攻击、检验补丁能否阻断攻击，以及测试智能体是否能够逃出沙箱，能提供更可靠的证据。Anderson 介绍，gRPC 在当年第一季度收到的漏洞报告数量是 2025 年全年的三倍，团队因此主动扫描多个语言实现。扫描发现了普通缺陷、多个实现共有的协议层问题，以及复杂代码附近的漏洞聚集。对不同实现输入相同数据并比较结果，也能暴露其他问题。团队现已对每次代码变更进行扫描，预计积压的旧漏洞处理后新增发现会减少，但未来模型能力提升会带来多大变化仍不确定。问答还讨论了评估数据集、人工分析师的作用，以及跨仓库寻找同类漏洞的可能性。

💡 Main Points

AI 漏洞发现需要验证流程来控制误报

团队早期直接向模型提问，虽找到了真实漏洞，误报率却约为 90%。Mantis 加入结构化流程、质疑结果的智能体和动态复现，使分析人员更有依据地判断漏洞与修复是否真实有效。

gRPC 扫描揭示跨实现的同类问题和局部漏洞聚集

讲者发现了普通缺陷、重复出现在多语言实现中的协议层问题，以及过于复杂的代码中集中的漏洞。这提示维护者检查其他实现中的同类问题，并简化脆弱代码，而非孤立处理每份报告。

差分测试可以把独立实现作为行为参照

给多个 gRPC 实现提供相同输入并比较输出，可以发现值得调查的行为差异。讲者表示，这种方法帮助团队找到了一些只看单一实现较难发现的漏洞类型。

持续扫描与沙箱检查应进入日常开发流程

在处理一批存在多年的旧缺陷后，gRPC 团队开始扫描每次代码变更。Galloway 还建议在信任安全扫描智能体之前测试其能否逃出沙箱，最好每次启动时都检查。

模型和技能变化后仍需评估与人工质疑

问答提出用已知漏洞数据集重复测试以发现能力退化，核实新发现是否有效，并将资深分析师的追问方式编码进质疑结果的智能体。开源评估框架目前只是起点，尚未覆盖全部情形。

💬 Key Quotes

问题在于信噪比很低。

但以某种方式真正复现漏洞，得到的结果要好得多。

今年第一季度，我们收到的报告数量就是 2025 年全年的三倍。

如果一个实现的行为与另一个不同，那会不会是漏洞？

但我们发现的大多数漏洞都是旧漏洞。

📊 Article Meta

AI Screening： 90

Featured： Yes

Source： CNCF [Cloud Native Computing Foundation]

Author： CNCF [Cloud Native Computing Foundation]

Category： 软件编程

Language： 英文

Read Time： 17 min

Word Count： 4099

Tags：

AI 安全 , 漏洞发现 , Mantis , gRPC , 差分测试

Play Full Video