GitHub - mnestiq/mnestiq:记录 AI 智能体行为的签名可验证记录:模型调用、工具调用和网络连接。

📌 One-Sentence Summary
Mnestiq 是 AI 智能体的飞行记录器,可提供防篡改的签名证据,记录智能体的操作与决策,从而实现精确的事件响应和责任归属。
📝 Summary
Mnestiq 会记录 AI 智能体执行过程中的每一步,包括模型调用、工具调用和网络连接,并详细追踪数据来源和身份信息。记录通过哈希链串联,并定期以数字签名封存,确保篡改行为可被发现,使安全事件发生时能够可靠地核验智能体的行为。
💡 Main Points
责任归属与数据来源追踪
Mnestiq 会为每个事件(运行、步骤、智能体、操作员、沙箱)分配唯一标识符,并追踪所有模型上下文的来源(用户、系统、网页、记忆)。这样就能准确判断具体是哪个智能体实例执行了某项操作,以及数据来自何处。
出站连接身份追踪
系统会记录所有出站网络连接,包括原始 TCP 和 HTTP 请求,并将其关联到发起连接的具体智能体步骤。这为数据外泄或未经授权的通信提供清晰的审计轨迹。
防篡改证据
记录受哈希链和定期数字签名(Merkle 检查点)保护。任何试图修改、删除或重排数据的行为都会导致验证失败,从而确保作为证据的数据完整无损。
脱敏与隐私保护
可以对敏感数据(提示词、工具参数、输出)进行脱敏,同时保留加密证明链。这样既能向审计人员分享证据,又不会泄露机密信息。
部署灵活性
Mnestiq 可以作为 Python SDK 直接集成到智能体代码中,也可以部署为代理服务器,拦截任何语言发出的模型调用。采用代理方案无需更改现有智能体的实现。
💬 Key Quotes
面向 AI 智能体的飞行记录器。提供防篡改的签名证据,记录智能体看到了什么、做出了什么决定以及执行了什么操作;它旨在服务于事件响应,而非仪表盘。
当智能体把客户名单通过电子邮件发给攻击者时,可观测性追踪能告诉你事情「发生了」;证据则能告诉你「是哪次运行中的哪一步」导致了这一结果,指令来自网页而非用户,自动批准策略放行了该操作,并且还能证明这些记录事后未被篡改。
这种格式能让证据「写入后可检测出篡改」。但它无法保证已被攻陷的主机在写入时如实记录。
📊 Article Meta
AI Screening: 93
Source: Hacker News - Newest: "AI Agent"
Author: lynceus
Category: 人工智能
Language: 英文
Read Time: 8 min
Word Count: 1768
Tags:
AI 与智能应用 , 安全 , 可观测性 , AI Agent , GitHub
收藏了,以后慢慢研究。
这个比较实用,已转发给同事。
很有价值的分享,感谢整理。
路过
实测过类似工具,作者说的基本属实。
不错不错,已加入书签。
这篇文章分析得很透彻,收藏了!
不错不错,已加入书签。
有没有更详细的教程,期待后续。
实话,说的不明不白
收藏了,以后慢慢研究。
实测过类似工具,作者说的基本属实。