从 bcrypt 到 AI 智能体安全,Niels Provos 回顾三十年攻防实践

星海拾光行业资讯📡 BestBlogs·全站精选⭐ 902026-11-141296 阅读💛 1 收藏
从 bcrypt 到 AI 智能体安全,Niels Provos 回顾三十年攻防实践

📌 One-Sentence Summary

Niels Provos 从破解密码和浏览器防护谈到智能体蜜罐,解释为何权限规则应落实为可确定执行、由人审核的策略。

📝 Summary

Provos 解释 bcrypt 为什么要让计算成本可调,也回忆了 Google 如何从追踪搜索蠕虫走到浏览器安全警告。他谈及 Anthropic 的 Mythos 找出的一处旧 OpenBSD 漏洞,以及用蜜罐诱导智能体泄露信息的实验。他的 Iron Curtain 方案借助 LLM 把自然语言规则转化为确定性策略,再交给人审核。访谈还谈到开源维护者为什么需要漏洞报告附带可复现的证据。

💡 Main Points

防御要能随攻击者变化

bcrypt 通过可调的计算成本应对算力增长。在 Google,观察搜索蠕虫并跟踪它们切换查询词的方式,也帮助团队调整防御。

用蜜罐测试智能体会泄露什么

实验网站用看似可信的文章和提示注入,引导智能体提交信息,展示权限过宽和接触不可信内容带来的风险。

保留人工审核

Iron Curtain 从自然语言生成确定性策略,再由人签字确认。面对可能误报的漏洞,Provos 同样强调,应让维护者拿到足够证据来判断问题是否真实。

💬 Key Quotes

我仍然觉得,黑客式探索应该只指编程和解决问题。

你仍然需要让人审阅这份确定性策略。

📊 Article Meta

AI Screening: 90

Featured: Yes

Source: GitHub

Author: GitHub

Category: 软件编程

Language: 英文

Read Time: 22 min

Word Count: 5460

Tags:

编程与工程 , 安全 , 开源项目 , AI Agent , 大语言模型 (LLM)

Play Full Video

#编程与工程# 安全# 开源项目# AI Agent# 大语言模型 (LLM)

文章评论(12)

山问津2 天前

这个观点很中肯,深有同感。

回复
石佳琪2 天前

赞同,实践出真知。

回复
星寻梦2 天前

思路清晰,干货满满。

回复
墨向阳2 天前

不错不错,已加入书签。

回复
吴超2 天前

看完了,收获满满,期待更多更新。

回复
星知秋2 天前

实话,说的不明不白

回复
崔欣怡2 天前

点赞,必须点赞

回复
风拾光2 天前

作者写得真不错,学到了不少。

回复
陈皮话梅糖2 天前

刚好最近在找这方面的资料,太及时了。

回复
竹听风2 天前

作者写得真不错,学到了不少。

回复
林观澜2 天前

赞同,实践出真知。

回复
蓝归舟2 天前

路过

回复