GitHub - mnestiq/mnestiq:记录 AI 智能体行为的签名可验证记录:模型调用、工具调用和网络连接。

邱宇AI 前沿📡 BestBlogs·AI高分精选⭐ 932026-10-22148 阅读💛 29 收藏
GitHub - mnestiq/mnestiq:记录 AI 智能体行为的签名可验证记录:模型调用、工具调用和网络连接。

📌 One-Sentence Summary

Mnestiq 是 AI 智能体的飞行记录器,可提供防篡改的签名证据,记录智能体的操作与决策,从而实现精确的事件响应和责任归属。

📝 Summary

Mnestiq 会记录 AI 智能体执行过程中的每一步,包括模型调用、工具调用和网络连接,并详细追踪数据来源和身份信息。记录通过哈希链串联,并定期以数字签名封存,确保篡改行为可被发现,使安全事件发生时能够可靠地核验智能体的行为。

💡 Main Points

责任归属与数据来源追踪

Mnestiq 会为每个事件(运行、步骤、智能体、操作员、沙箱)分配唯一标识符,并追踪所有模型上下文的来源(用户、系统、网页、记忆)。这样就能准确判断具体是哪个智能体实例执行了某项操作,以及数据来自何处。

出站连接身份追踪

系统会记录所有出站网络连接,包括原始 TCP 和 HTTP 请求,并将其关联到发起连接的具体智能体步骤。这为数据外泄或未经授权的通信提供清晰的审计轨迹。

防篡改证据

记录受哈希链和定期数字签名(Merkle 检查点)保护。任何试图修改、删除或重排数据的行为都会导致验证失败,从而确保作为证据的数据完整无损。

脱敏与隐私保护

可以对敏感数据(提示词、工具参数、输出)进行脱敏,同时保留加密证明链。这样既能向审计人员分享证据,又不会泄露机密信息。

部署灵活性

Mnestiq 可以作为 Python SDK 直接集成到智能体代码中,也可以部署为代理服务器,拦截任何语言发出的模型调用。采用代理方案无需更改现有智能体的实现。

💬 Key Quotes

面向 AI 智能体的飞行记录器。提供防篡改的签名证据,记录智能体看到了什么、做出了什么决定以及执行了什么操作;它旨在服务于事件响应,而非仪表盘。

当智能体把客户名单通过电子邮件发给攻击者时,可观测性追踪能告诉你事情「发生了」;证据则能告诉你「是哪次运行中的哪一步」导致了这一结果,指令来自网页而非用户,自动批准策略放行了该操作,并且还能证明这些记录事后未被篡改。

这种格式能让证据「写入后可检测出篡改」。但它无法保证已被攻陷的主机在写入时如实记录。

📊 Article Meta

AI Screening: 93

Source: Hacker News - Newest: "AI Agent"

Author: lynceus

Category: 人工智能

Language: 英文

Read Time: 8 min

Word Count: 1768

Tags:

AI 与智能应用 , 安全 , 可观测性 , AI Agent , GitHub

#AI 与智能应用# 安全# 可观测性# AI Agent# GitHub

文章评论(12)

空向阳25 天前

收藏了,以后慢慢研究。

回复
风倚栏25 天前

这个比较实用,已转发给同事。

回复
杨丽华25 天前

很有价值的分享,感谢整理。

回复
暮临风25 天前

路过

回复
蓝归舟25 天前

实测过类似工具,作者说的基本属实。

回复
蓝归舟25 天前

不错不错,已加入书签。

回复
郭超25 天前

这篇文章分析得很透彻,收藏了!

回复
松听风25 天前

不错不错,已加入书签。

回复
武磊25 天前

有没有更详细的教程,期待后续。

回复
杨丽华25 天前

实话,说的不明不白

回复
蓝临风25 天前

收藏了,以后慢慢研究。

回复
雪知秋25 天前

实测过类似工具,作者说的基本属实。

回复