BotPsy:基于参数量不足 10 亿的智能体语言模型的端侧个人助理

📌 One-Sentence Summary
BotPsy 是一款基于 Qwen3.5-0.8B 构建、拥有 0.8B 参数的端侧个人助理模型,通过四阶段训练流程,在同等规模模型中实现了最先进的工具使用和智能体能力,可为网页搜索、旅行、购物和设备控制等任务提供注重隐私且高效的函数调用能力。
📝 Summary
BotPsy 是一款拥有 0.8B 参数的语言模型,基于 Qwen3.5-0.8B 构建,专为端侧函数调用和智能体工作流设计,并针对注重隐私、高效的个人助理任务进行了优化。在参数量不超过 1.2B 的模型中,该模型实现了最先进的性能,在 BFCL v4(23.4 提升至 44.0)、ACEBench(30.1 提升至 58.7)和 τ-bench(23.2 提升至 51.5)等关键基准测试中的智能体能力较基础模型翻倍。它在六项工具使用基准中的五项上超越了包括 Qwen3.5-2B-Think 在内的更大模型。BotPsy 的四阶段训练流程结合了监督微调、多教师在线策略蒸馏,以及采用基于规则奖励的强化学习。该模型擅长多轮工作流、指令遵循和安全性,同时保持通用知识能力。模型以 Apache 2.0 许可证发布,提供多种精度版本(bf16、Q8、Q4),文件格式包括 safetensors 和 GGUF。
💡 Main Points
BotPsy 在参数量低于 1.2B 的模型中实现了最先进的工具使用性能
BotPsy-0.8B 的表现优于其基础模型 Qwen3.5-0.8B-Think,并在六项基准测试中的五项领先,包括 BFCL v4(44.0 对比 23.4)、ACEBench(58.7 对比 30.1)和 τ-bench(51.5 对比 23.2);在大多数指标上,它甚至超过了参数量是其 2.5 倍的 Qwen3.5-2B-Think。
采用结合多种反馈信号的四阶段训练流程
训练流程包括基于工具使用对话的监督微调、使用三款专门的 Qwen3.5-4B 教师模型进行多教师在线策略蒸馏,以及两轮强化学习;强化学习采用基于规则的奖励,涵盖工具调用、指令遵循和通用领域任务。
针对注重隐私的端侧部署进行了优化
BotPsy 仅有 0.8B 参数,却能支持安全的本地工作流,具备出色的指令遵循可靠性,在支持网页搜索、旅行、购物、设备控制、文件、日历和电子邮件等任务的同时保护用户数据隐私。
多轮对话和安全性表现出色
在 τ²-bench 上,BotPsy 在电信场景中得分为 82.5,在购物和设备管理的多步骤任务中领先所有模型;它在 BFCL 幻觉测试中得分为 86.1,并将不安全回答比例降至 21%,而其基础模型为 36%。
💬 Key Quotes
BotPsy 是一款拥有 0.8B 参数、专为函数调用和智能体工作流设计的模型,基于 Qwen3.5-0.8B 构建,适合端侧部署。
BotPsy-0.8B 的表现显著优于其基础模型,并在六项工具使用和智能体基准测试中的五项领先,其中包括超越参数量是其 2.5 倍的 Qwen3.5-2B-Think。
BotPsy 的工具使用性能大约是其 Qwen3.5-0.8B 基础模型的两倍。
这四款模型都是 Cosmos 3 Nano 的后训练示例,并且各自拥有 16B 个可训练参数。
📊 Article Meta
AI Screening: 88
Source: Hugging Face - Blog
Author: Milan Gritta, Jihye Back, JinUk, Cho, ohjoon kwon, Patrik Lambert, Mathias Buus, Amril Nurman
Category: 人工智能
Language: 英文
Read Time: 14 min
Word Count: 3445
Tags:
AI 与智能应用 , 模型训练与推理 , 多模态 AI , 开放权重模型 , 后训练
这篇文章分析得很透彻,收藏了!
收藏了,以后慢慢研究。
讲解得很细致,新手也能看懂。
这篇文章分析得很透彻,收藏了!
写得挺用心的,支持一下。
有没有更详细的教程,期待后续。
楼主辛苦了,内容很有参考价值。
作者写得真不错,学到了不少。
看完了,收获满满,期待更多更新。
作者写得真不错,学到了不少。
支持作者,持续关注中。
不错不错,已加入书签。