从 bcrypt 到 AI 智能体安全,Niels Provos 回顾三十年攻防实践

📌 One-Sentence Summary
Niels Provos 从破解密码和浏览器防护谈到智能体蜜罐,解释为何权限规则应落实为可确定执行、由人审核的策略。
📝 Summary
Provos 解释 bcrypt 为什么要让计算成本可调,也回忆了 Google 如何从追踪搜索蠕虫走到浏览器安全警告。他谈及 Anthropic 的 Mythos 找出的一处旧 OpenBSD 漏洞,以及用蜜罐诱导智能体泄露信息的实验。他的 Iron Curtain 方案借助 LLM 把自然语言规则转化为确定性策略,再交给人审核。访谈还谈到开源维护者为什么需要漏洞报告附带可复现的证据。
💡 Main Points
防御要能随攻击者变化
bcrypt 通过可调的计算成本应对算力增长。在 Google,观察搜索蠕虫并跟踪它们切换查询词的方式,也帮助团队调整防御。
用蜜罐测试智能体会泄露什么
实验网站用看似可信的文章和提示注入,引导智能体提交信息,展示权限过宽和接触不可信内容带来的风险。
保留人工审核
Iron Curtain 从自然语言生成确定性策略,再由人签字确认。面对可能误报的漏洞,Provos 同样强调,应让维护者拿到足够证据来判断问题是否真实。
💬 Key Quotes
我仍然觉得,黑客式探索应该只指编程和解决问题。
你仍然需要让人审阅这份确定性策略。
📊 Article Meta
AI Screening: 90
Featured: Yes
Source: GitHub
Author: GitHub
Category: 软件编程
Language: 英文
Read Time: 22 min
Word Count: 5460
Tags:
编程与工程 , 安全 , 开源项目 , AI Agent , 大语言模型 (LLM)
Play Full Video
这个观点很中肯,深有同感。
赞同,实践出真知。
思路清晰,干货满满。
不错不错,已加入书签。
看完了,收获满满,期待更多更新。
实话,说的不明不白
点赞,必须点赞
作者写得真不错,学到了不少。
刚好最近在找这方面的资料,太及时了。
作者写得真不错,学到了不少。
赞同,实践出真知。
路过