Bonsai 27B 相关 AI 资讯 · AI 热点

7月15日

07:06

07:06IT之家（博客/媒体）

PrismML 推出 Bonsai 27B 模型，基于 Qwen 3.6 27B 微调，通过 1-bit 量化仅需 3.9GB 空间，能在 12GB 内存的 iPhone 上运行。该模型保留原模型 90% 智能水平，支持多步推理和工具使用。推出 3-bit（5.9GB）和 1-bit（3.9GB）两个版本，分别面向笔记本和手机场景。

AI模型 Bonsai 27B Qwen 3.6 iPhone 17 Pro

推荐理由：PrismML 把 Qwen 3.6 27B 压缩到 3.9GB，iPhone 17 Pro 直接跑，本地 AI 终于不卡了。

07:00

07:00

官方一手marktechpost@Asif Razzaq

PrismML 推出了 Bonsai 27B，这是对 Qwen3.6-27B 进行低比特量化得到的模型，不修改原架构。三元版本使用 {−1, 0, +1} 权重，每个参数仅 1.71 bits，理想大小 5.9GB。1-bit 版本采用二进制 {−1, +1} 权重。两个版本均以 Apache 2.0 许可开源，可在笔记本和手机上本地运行。

AI模型 PrismML Bonsai 27B Qwen3.6-27B

推荐理由：PrismML 把 Qwen3.6-27B 压到 5.9GB，手机都能本地跑，还全开源，适合离线使用。

04:39

04:39

elvis@omarsar0

精选

PrismML 今日发布 Bonsai 27B，这是首个可在手机上本地运行的 27B 参数多模态模型。基于 Qwen3.6 27B，Bonsai 27B 支持多步推理、结构化工具使用、长上下文和智能体循环。Ternary 变体仅 5.9 GB（1.71 有效比特/权重），1-bit 变体仅 3.9 GB（1.125 有效比特/权重），大幅降低本地部署门槛。在 RTX 5090 上，1-bit 版本达到 163 tok/s，Ternary 版本达到 134 tok/s；在 M5 Max 上分别为 87 tok/s 和 58 tok/s。模型以 Apache 2.0 许可证开源。

AI模型 Bonsai 27B PrismML Qwen3.6

推荐理由：手机能跑 27B 模型了？PrismML 的 Bonsai 27B 实际做到了——体积最小 3.9GB，速度还不慢，开源免费。想本地用大模型又嫌大的可以看。