GitHub - rtk-ai/rtk:可在常见开发命令中减少 60-90% LLM Token 消耗的 CLI 代理。单个 Rust 二进制文件,零依赖

蓝旅人AI 前沿📡 BestBlogs·AI高分精选⭐ 852026-11-0783 阅读💛 49 收藏
GitHub - rtk-ai/rtk:可在常见开发命令中减少 60-90% LLM Token 消耗的 CLI 代理。单个 Rust 二进制文件,零依赖

📌 One-Sentence Summary

RTK 是一款基于 Rust 的 CLI 代理,通过智能过滤、分组、截断和去重命令输出,在常见开发命令中减少 60-90% 的 LLM Token 消耗。

📝 Summary

RTK(Rust Token Killer)是一款与智能体无关的 Token 优化工具,会在 AI 智能体读取 Bash 输出前对其进行压缩。这个零依赖的单个 Rust 二进制文件会拦截 Shell 命令,并采用四种策略:智能过滤以去除噪声、分组以汇总相似项目、截断以保留相关上下文,以及去重以合并重复的日志行。它支持 Git、GitHub CLI、Cargo/Rust、JavaScript、Python、Go、Ruby、.NET、JVM、PHP、Docker、Kubernetes、AWS 和 Terraform 等领域的 100+ 条命令。RTK 可将 Bash 输出中的 Token 减少 60-90%,从而直接降低 LLM 提供商的输入 Token 成本。该工具提供两个版本(包含压缩引擎的完整版本,以及不含压缩引擎的开源版本),还可选配 RTK Proxy 守护进程来压缩 API 流量。它通过多种钩子机制与 18 款 AI 编程工具集成,包括 Claude Code、GitHub Copilot、Cursor、Gemini CLI 等。

💡 Main Points

四种核心压缩策略

RTK 通过智能过滤去除噪声(注释、空白和样板内容),通过分组汇总相似项目(按目录归类文件、按类型归类错误),通过截断保留相关上下文并删减冗余内容,再通过去重合并重复的日志行并标注出现次数。

广泛的命令支持

该工具支持 100+ 条命令,涵盖 Git、GitHub CLI、Cargo/Rust、JavaScript(npm、pnpm、vitest、jest、tsc、Next.js、Playwright、Prisma)、Python(ruff、pytest、mypy、pip)、Go(go test、golangci-lint)、Ruby、.NET、JVM(Gradle、Maven)、PHP、Docker、Kubernetes、AWS 和 Terraform。

智能体集成框架

RTK 通过 PreToolUse 钩子、TypeScript 扩展、Python 插件和配置文件等多种机制,与 18 款 AI 编程工具集成,包括 Claude Code、GitHub Copilot、Cursor、Gemini CLI、Codex、Windsurf、Cline/Roo Code、OpenCode、OpenClaw、Pi、Oh My Pi、Hermes、Mistral Vibe、Kilo Code、Google Antigravity、Kimi AI、Factory Droid 和 Trae。

Token 节省与成本降低

RTK 可将 Bash 输出减少 60-90%,从而直接降低 LLM 提供商的输入 Token 成本。但由于 Bash 输出只是输入 Token 的来源之一,提示词、系统提示词和对话历史也会占用 Token,因此实际节省比例会逐步被稀释。RTK 未内置分词器,Token 数量按字节数除以 4 估算。

💬 Key Quotes

RTK 会在命令输出进入 LLM 上下文之前对其进行过滤和压缩。它是单个 Rust 二进制文件,支持 100+ 条命令,额外开销低于 10ms。

RTK 减少的是智能体读取的 Bash 输出。这正是 RTK 衡量的内容,并不等同于账单也按相同比例减少。

针对每种命令采用四种策略:1. 智能过滤——去除噪声(注释、空白和样板内容);2. 分组——汇总相似项目(按目录归类文件、按类型归类错误);3. 截断——保留相关上下文,删减冗余内容;4. 去重——合并重复的日志行并标注出现次数。

RTK 可将 Bash 输出中的 Token 减少 60-90%,从而直接降低 LLM 提供商的输入 Token 成本。

RTK 会破坏 Claude 的提示词缓存吗?不会。RTK 会在每条命令执行时过滤一次输出。过滤结果会保存在历史记录中,并在后续 API 调用中正常缓存,因此缓存仍会按预期工作。

📊 Article Meta

AI Screening: 85

Source: Hacker News - Newest: "LLM"

Author: fagnerbrack

Category: 人工智能

Language: 英文

Read Time: 10 min

Word Count: 2273

Tags:

AI 与智能应用 , AI 工程 , 模型训练与推理 , 上下文工程 , 性能优化

#AI 与智能应用# AI 工程# 模型训练与推理# 上下文工程# 性能优化

文章评论(12)

蓝归舟8 天前

思路清晰,干货满满。

回复
空向阳8 天前

赞同,实践出真知。

回复
暮拾贝8 天前

收藏了,以后慢慢研究。

回复
蓝归舟8 天前

有没有更详细的教程,期待后续。

回复
星知秋8 天前

这篇文章分析得很透彻,收藏了!

回复
崔欣怡8 天前

支持作者,持续关注中。

回复
林拾贝8 天前

路过

回复
风拾光8 天前

路过

回复
星知秋8 天前

内容翔实,正好需要,先收藏再看。

回复
杨丽华8 天前

这个观点很中肯,深有同感。

回复
月沐雨8 天前

楼主辛苦了,内容很有参考价值。

回复
郭超8 天前

这个比较实用,已转发给同事。

回复