GitHub - rtk-ai/rtk:可在常见开发命令中减少 60-90% LLM Token 消耗的 CLI 代理。单个 Rust 二进制文件,零依赖
📌 One-Sentence Summary
RTK 是一款基于 Rust 的 CLI 代理,通过智能过滤、分组、截断和去重命令输出,在常见开发命令中减少 60-90% 的 LLM Token 消耗。
📝 Summary
RTK(Rust Token Killer)是一款与智能体无关的 Token 优化工具,会在 AI 智能体读取 Bash 输出前对其进行压缩。这个零依赖的单个 Rust 二进制文件会拦截 Shell 命令,并采用四种策略:智能过滤以去除噪声、分组以汇总相似项目、截断以保留相关上下文,以及去重以合并重复的日志行。它支持 Git、GitHub CLI、Cargo/Rust、JavaScript、Python、Go、Ruby、.NET、JVM、PHP、Docker、Kubernetes、AWS 和 Terraform 等领域的 100+ 条命令。RTK 可将 Bash 输出中的 Token 减少 60-90%,从而直接降低 LLM 提供商的输入 Token 成本。该工具提供两个版本(包含压缩引擎的完整版本,以及不含压缩引擎的开源版本),还可选配 RTK Proxy 守护进程来压缩 API 流量。它通过多种钩子机制与 18 款 AI 编程工具集成,包括 Claude Code、GitHub Copilot、Cursor、Gemini CLI 等。
💡 Main Points
四种核心压缩策略
RTK 通过智能过滤去除噪声(注释、空白和样板内容),通过分组汇总相似项目(按目录归类文件、按类型归类错误),通过截断保留相关上下文并删减冗余内容,再通过去重合并重复的日志行并标注出现次数。
广泛的命令支持
该工具支持 100+ 条命令,涵盖 Git、GitHub CLI、Cargo/Rust、JavaScript(npm、pnpm、vitest、jest、tsc、Next.js、Playwright、Prisma)、Python(ruff、pytest、mypy、pip)、Go(go test、golangci-lint)、Ruby、.NET、JVM(Gradle、Maven)、PHP、Docker、Kubernetes、AWS 和 Terraform。
智能体集成框架
RTK 通过 PreToolUse 钩子、TypeScript 扩展、Python 插件和配置文件等多种机制,与 18 款 AI 编程工具集成,包括 Claude Code、GitHub Copilot、Cursor、Gemini CLI、Codex、Windsurf、Cline/Roo Code、OpenCode、OpenClaw、Pi、Oh My Pi、Hermes、Mistral Vibe、Kilo Code、Google Antigravity、Kimi AI、Factory Droid 和 Trae。
Token 节省与成本降低
RTK 可将 Bash 输出减少 60-90%,从而直接降低 LLM 提供商的输入 Token 成本。但由于 Bash 输出只是输入 Token 的来源之一,提示词、系统提示词和对话历史也会占用 Token,因此实际节省比例会逐步被稀释。RTK 未内置分词器,Token 数量按字节数除以 4 估算。
💬 Key Quotes
RTK 会在命令输出进入 LLM 上下文之前对其进行过滤和压缩。它是单个 Rust 二进制文件,支持 100+ 条命令,额外开销低于 10ms。
RTK 减少的是智能体读取的 Bash 输出。这正是 RTK 衡量的内容,并不等同于账单也按相同比例减少。
针对每种命令采用四种策略:1. 智能过滤——去除噪声(注释、空白和样板内容);2. 分组——汇总相似项目(按目录归类文件、按类型归类错误);3. 截断——保留相关上下文,删减冗余内容;4. 去重——合并重复的日志行并标注出现次数。
RTK 可将 Bash 输出中的 Token 减少 60-90%,从而直接降低 LLM 提供商的输入 Token 成本。
RTK 会破坏 Claude 的提示词缓存吗?不会。RTK 会在每条命令执行时过滤一次输出。过滤结果会保存在历史记录中,并在后续 API 调用中正常缓存,因此缓存仍会按预期工作。
📊 Article Meta
AI Screening: 85
Source: Hacker News - Newest: "LLM"
Author: fagnerbrack
Category: 人工智能
Language: 英文
Read Time: 10 min
Word Count: 2273
Tags:
AI 与智能应用 , AI 工程 , 模型训练与推理 , 上下文工程 , 性能优化
思路清晰,干货满满。
赞同,实践出真知。
收藏了,以后慢慢研究。
有没有更详细的教程,期待后续。
这篇文章分析得很透彻,收藏了!
支持作者,持续关注中。
路过
路过
内容翔实,正好需要,先收藏再看。
这个观点很中肯,深有同感。
楼主辛苦了,内容很有参考价值。
这个比较实用,已转发给同事。