BotPsy：用不到 10 亿参数的智能体语言模型做端侧个人助理
BotPsy: On-Device Personal Assistant with a Sub-Billion-Parameter Agentic Language Model
如果一直觉得智能体只能靠云端大模型跑，这篇可以看看：BotPsy 用不到 10 亿参数的小模型在手机等设备本地完成规划和工具调用，数据不出设备。做端侧 AI 或在意隐私产品的人会想研究它的实现思路。
Hugging Face 博客介绍了 BotPsy，一个运行在终端设备上的个人助理，核心是一个参数量低于 10 亿（sub-billion）的智能体语言模型，全部推理在本地完成。
它的做法是把规划、工具调用和对话压缩进这个小模型，靠端侧执行来避免把用户数据发送到云端，适合作为常驻设备的私人助理。
对于关注隐私的端侧 AI 开发者，这是一个比云端大模型更轻量的智能体实现路线的参考。
This report is categorized under AITOP's "Products" desk, focusing on US frontier AI labs and Silicon Valley technology leaders. Within our cross-regional analytical framework, it directly maps to AI developer toolchains, coding agents, and engineering workflows and US-China foundation model benchmarks and commercialization comparison. Key entities and technical topics under continuous tracking include BotPsy, Qvac, 智能体, 端侧模型.
Primary source verification: published directly by Hugging Face: Blog with first-party authority.
