NVIDIA 推出 SoL-Pi:通过自动研究循环将编程智能体的 Token 流量降低高达 49%

空逐月AI 前沿📡 BestBlogs·AI高分精选⭐ 862026-09-22112 阅读💛 167 收藏
NVIDIA 推出 SoL-Pi:通过自动研究循环将编程智能体的 Token 流量降低高达 49%

📌 One-Sentence Summary NVIDIA 研究人员推出了 SoL-Pi,这是 Pi 编程智能体的一项效率扩展,通过四种由 AI 发现的 Harness 机制,将 Token 流量降低高达 49%,API 成本降低 33%。 📝 Summary SoL-Pi 是由 NVIDIA、NTU 和 MIT 研究人员开发的一套包含四种效率机制的方案,旨在优化开源 Pi 编程智能体的 「Harness」层。与专注于单 Token 成本的传统方法不同,SoL-Pi 旨在减少完成每项任务所消耗的 Token 总量。这四种机制——Action Fusion、Online Context Compact、ObservationPack 和 Evidence-Preserving Reducer——是由运行自动研究循环的 AI 发现的。在 EdgeBench 上的测试表明,SoL-Pi 在显著降低 Token 流量和 API 成本的同时,在 GPT-5.6 Sol 和 Opus 5 等不同后端上仍能保持原智能体约 94% 的性能。 💡 Main Points 针对 Harness 层进行效率优化 SoL-Pi 不再专注于更快的内核或量化,而是优化 Harness 层(负责管理工具调用和上下文的层),以减少完成任务所需的 Token 总量。 通过自动研究循环实现 AI 驱动的发现 这四种效率机制并非通过人工调优,而是由一个研究 AI 通过自动研究循环和独立评审员,在 535 个环境中测试了 152 个方向后演进而来的。 四项关键效率机制 该系统采用了 Action Fusion(合并编辑与测试)、Online Context Compact(策略性提示词重写)、ObservationPack(存档大型工具输出)以及 Evidence-Preserving Reducer(使用低成本模型总结日志)。 显著降低成本且性能损失极小 在 EdgeBench 上,SoL-Pi 将 Token 流量降低了 44.7% 至 49.0%,API 成本降低了约 33%,同时保留了基础 Pi 智能体的大部分评分能力。 💬 Key Quotes 与 Pi 相比,SoL-Pi 将记录的 Token 流量降低了 44.7% 至 49.0%,并将 API 成本降低了约 33%。 大多数效率研究通过更快的内核、量化或更便宜的模型来降低单 Token 成本。而 SoL-Pi 则是减少一项任务所消耗的 Token 数量。 Harness 是处理工具调用、上下文、观察结果和委派的层。 📊 Article Meta AI Screening: 86 Source: MarkTechPost Author: Asif Razzaq Category: 人工智能 Language: 英文 Read Time: 5 min Word Count: 1105 Tags: AI 与智能应用 , AI 编程 , AI Agent , 性能优化 , 模型训练与推理 Read Full Article

#AI 与智能应用# AI 编程# AI Agent# 性能优化# 模型训练与推理

文章评论(0

暂无评论,快来抢沙发~