GitHub - Ablation-Tool/kevlar:面向模型上下文协议的代理防火墙

林知秋AI 前沿📡 BestBlogs·AI高分精选⭐ 922026-10-26467 阅读💛 203 收藏
GitHub - Ablation-Tool/kevlar:面向模型上下文协议的代理防火墙

📌 One-Sentence Summary

Kevlar 是一款面向模型上下文协议(MCP)的代理防火墙,通过剥离工具描述、扫描注入载荷、阻断凭据外泄以及锁定工具注册表,保护 LLM 免受恶意服务器行为的侵害。

📝 Summary

Kevlar 部署在 LLM 客户端与 MCP 服务器之间,执行四项关键安全功能:剥离所有工具描述,防止 LLM 获知可能有害的工具;扫描工具调用响应中的注入迹象,并对其进行脱敏或阻断;阻断包含凭据的出站调用;在初始握手完成后锁定工具注册表,防止服务器在会话期间新增工具。

💡 Main Points

工具描述剥离

Kevlar 在消息到达 LLM 之前,从「tools/list」响应中移除所有「description」字段。这可以防止模型受到服务器提供的、可能具有误导性或恶意的描述的影响。

响应载荷扫描

该代理会扫描工具调用的结果,以发现提示词注入或恶意内容的迹象。如果某个响应的评分超过阈值,匹配到的片段将被脱敏,或者整个响应会被阻断。

出站数据防泄漏

Kevlar 会检查出站「tools/call」请求的参数。如果检测到 LLM 试图向服务器发送敏感凭据(如 API 密钥),该调用将被阻断。

工具注册表锁定

在严格模式下,Kevlar 会在初始握手完成后冻结可用工具列表。它会丢弃服务器发来的任何「tools/list_changed」通知,防止服务器在会话期间动态添加新的、可能有害的工具。

💬 Key Quotes

Kevlar 位于客户端与服务器之间,并做四件事:

MCP 规范并未阻止上述任何一种行为。

Kevlar 会在每一次「tools/list」响应中,无条件地将每个「description」字段剥离为空字符串。

评分超过模式阈值的响应会被隔离或拒绝。

服务器永远不会收到它。

📊 Article Meta

AI Screening: 92

Source: Hacker News - Newest: "LLM"

Author: zellkernel

Category: 人工智能

Language: 英文

Read Time: 3 min

Word Count: 618

Tags:

AI 与智能应用 , 安全 , MCP协议 , 大语言模型 (LLM) , GitHub

#AI 与智能应用# 安全# MCP协议# 大语言模型 (LLM)# GitHub

文章评论(12)

空向阳21 天前

支持作者,持续关注中。

回复
龙文博21 天前

作者写得真不错,学到了不少。

回复
漾漾其华21 天前

很有价值的分享,感谢整理。

回复
风倚栏21 天前

有没有更详细的教程,期待后续。

回复
蓝归舟21 天前

写得挺用心的,支持一下。

回复
竹听风21 天前

看标题就点进来了,内容果然没让人失望。

回复
一个橘子21 天前

点赞,必须点赞

回复
星知秋21 天前

点赞,必须点赞

回复
暮临风21 天前

有没有更详细的教程,期待后续。

回复
郭超21 天前

赞同,实践出真知。

回复
星知秋21 天前

赞同,实践出真知。

回复
墨沐雨21 天前

刚好最近在找这方面的资料,太及时了。

回复