Chinese contentCoco 提出深度个性化：桌面主动智能体的本地上下文观察方案
做主动式智能体的开发者可以看看这篇。Coco 用独立的 Observer Agent 在本地观察桌面行为，判断什么时候帮你、什么时候别打扰，介入判断的 F1 提升了 2.4-3.0 倍。数据不出设备这点对企业场景很关键，还附带 OSWorld-Persona 基准可直接用来测自己的方案。
#on-device deployment
12 stories · 1 in 7 days · 3 in 30 days
Stories, products and papers tagged "on-device deployment", newest first.
Nov 11
Oct 30
Chinese contentGAAC：无损 KV 压缩方案，让长上下文推理更省内存
苹果和英伟达设备都能跑的无损 KV 压缩，内存省 26%、吞吐提 29%，做端侧长上下文推理的值得看看这套编解码思路。
Oct 16
Chinese contentBiShield-TEE 论文指出端侧 TEE 大模型权重混淆方案存在可破解漏洞
端侧部署大模型的公司值得看：论文证明 GroupCover、ArrowCloak 这类 TEE 权重混淆能被破解，还给出了双向混淆的替代方案和开源代码。
Oct 14
Chinese content面壁开源MiniCPM-V 4.7：3G内存，iPhone断网跑多模态
面壁开源了MiniCPM-V 4.7，3G内存就能在iPhone上断网跑多模态，做端侧应用的可以直接上手试试。
Oct 13
Chinese contentOpenBMB 发布开源多模态模型 MiniCPM-V 4.7 系列
OpenBMB 的 MiniCPM-V 4.7 能在 iPhone 上跑 35B 多模态模型，3GB 内存 13 tokens/s，OCR 还压过 Qwen3.6，端侧玩家可以试试。
Aug 14
Aug 10
Models12:04
Chinese contentOm AI发布端侧原生VLX模型：3B小参数实现物理世界精准感知Om AI的3B端侧模型VLX，能在设备上精准感知物理世界，性能还超过英伟达和谷歌。
Jul 28
Jun 18
Chinese content头部具身大脑公司再获数亿美元融资，世界模型路线，15家VC投
一家专注具身大脑的公司又融了一大笔钱，世界模型路线，15家VC跟进。开源、端侧、训练场三连发，你可以关注它的技术方案。
May 22
Chinese contentHy-MT2 多语言翻译模型发布：1.8B 量化后仅 440MB，性能超微软豆包 API
做多语言翻译或端侧部署的团队终于有了一个又快又准的选择——1.8B 量化后 440MB 就能跑，性能还超过微软豆包 API，值得直接上手试。
May 21
Chinese content腾讯混元 Hy-MT2 翻译模型开源，手机端可部署仅 440MB
手机端就能跑的高质量翻译模型来了，做本地化应用、离线翻译工具或移动端 AI 产品的开发者可以直接下载试用，440MB 的轻量版值得关注。
IT之家Source
May 12
Papers19:11
Chinese contentDECO: 稀疏MoE实现端侧设备上媲美稠密模型性能DECO在保持性能和降低计算开销方面取得了良好平衡，其3倍加速和严格的稀疏性控制对端侧AI部署具有实际参考价值。