BotPsy:基于参数量不足 10 亿的智能体语言模型的端侧个人助理

云向阳AI 前沿📡 BestBlogs·AI高分精选⭐ 882026-11-111329 阅读💛 56 收藏
BotPsy:基于参数量不足 10 亿的智能体语言模型的端侧个人助理

📌 One-Sentence Summary

BotPsy 是一款基于 Qwen3.5-0.8B 构建、拥有 0.8B 参数的端侧个人助理模型,通过四阶段训练流程,在同等规模模型中实现了最先进的工具使用和智能体能力,可为网页搜索、旅行、购物和设备控制等任务提供注重隐私且高效的函数调用能力。

📝 Summary

BotPsy 是一款拥有 0.8B 参数的语言模型,基于 Qwen3.5-0.8B 构建,专为端侧函数调用和智能体工作流设计,并针对注重隐私、高效的个人助理任务进行了优化。在参数量不超过 1.2B 的模型中,该模型实现了最先进的性能,在 BFCL v4(23.4 提升至 44.0)、ACEBench(30.1 提升至 58.7)和 τ-bench(23.2 提升至 51.5)等关键基准测试中的智能体能力较基础模型翻倍。它在六项工具使用基准中的五项上超越了包括 Qwen3.5-2B-Think 在内的更大模型。BotPsy 的四阶段训练流程结合了监督微调、多教师在线策略蒸馏,以及采用基于规则奖励的强化学习。该模型擅长多轮工作流、指令遵循和安全性,同时保持通用知识能力。模型以 Apache 2.0 许可证发布,提供多种精度版本(bf16、Q8、Q4),文件格式包括 safetensors 和 GGUF。

💡 Main Points

BotPsy 在参数量低于 1.2B 的模型中实现了最先进的工具使用性能

BotPsy-0.8B 的表现优于其基础模型 Qwen3.5-0.8B-Think,并在六项基准测试中的五项领先,包括 BFCL v4(44.0 对比 23.4)、ACEBench(58.7 对比 30.1)和 τ-bench(51.5 对比 23.2);在大多数指标上,它甚至超过了参数量是其 2.5 倍的 Qwen3.5-2B-Think。

采用结合多种反馈信号的四阶段训练流程

训练流程包括基于工具使用对话的监督微调、使用三款专门的 Qwen3.5-4B 教师模型进行多教师在线策略蒸馏,以及两轮强化学习;强化学习采用基于规则的奖励,涵盖工具调用、指令遵循和通用领域任务。

针对注重隐私的端侧部署进行了优化

BotPsy 仅有 0.8B 参数,却能支持安全的本地工作流,具备出色的指令遵循可靠性,在支持网页搜索、旅行、购物、设备控制、文件、日历和电子邮件等任务的同时保护用户数据隐私。

多轮对话和安全性表现出色

在 τ²-bench 上,BotPsy 在电信场景中得分为 82.5,在购物和设备管理的多步骤任务中领先所有模型;它在 BFCL 幻觉测试中得分为 86.1,并将不安全回答比例降至 21%,而其基础模型为 36%。

💬 Key Quotes

BotPsy 是一款拥有 0.8B 参数、专为函数调用和智能体工作流设计的模型,基于 Qwen3.5-0.8B 构建,适合端侧部署。

BotPsy-0.8B 的表现显著优于其基础模型,并在六项工具使用和智能体基准测试中的五项领先,其中包括超越参数量是其 2.5 倍的 Qwen3.5-2B-Think。

BotPsy 的工具使用性能大约是其 Qwen3.5-0.8B 基础模型的两倍。

这四款模型都是 Cosmos 3 Nano 的后训练示例,并且各自拥有 16B 个可训练参数。

📊 Article Meta

AI Screening: 88

Source: Hugging Face - Blog

Author: Milan Gritta, Jihye Back, JinUk, Cho, ohjoon kwon, Patrik Lambert, Mathias Buus, Amril Nurman

Category: 人工智能

Language: 英文

Read Time: 14 min

Word Count: 3445

Tags:

AI 与智能应用 , 模型训练与推理 , 多模态 AI , 开放权重模型 , 后训练

#AI 与智能应用# 模型训练与推理# 多模态 AI# 开放权重模型# 后训练

文章评论(12)

竹听风4 天前

这篇文章分析得很透彻,收藏了!

回复
竹听风4 天前

收藏了,以后慢慢研究。

回复
林拾贝4 天前

讲解得很细致,新手也能看懂。

回复
星观澜4 天前

这篇文章分析得很透彻,收藏了!

回复
石佳琪4 天前

写得挺用心的,支持一下。

回复
月沐雨4 天前

有没有更详细的教程,期待后续。

回复
云逐月4 天前

楼主辛苦了,内容很有参考价值。

回复
风倚栏4 天前

作者写得真不错,学到了不少。

回复
晨沐雨4 天前

看完了,收获满满,期待更多更新。

回复
风拾光4 天前

作者写得真不错,学到了不少。

回复
墨沐雨4 天前

支持作者,持续关注中。

回复
山问津4 天前

不错不错,已加入书签。

回复