bonsai·general

Bonsai

别名
首次出现
2026-05-26
最近出现
2026-07-28
累计提及
32
§ 01综述

Bonsai 27B 是 PrismML 推出的基于 Qwen3.6-27B 的 1-bit 和三元量化版本多模态大模型,其最大特点是能够在手机(如 iPhone 17 Pro)和笔记本上本地运行,大幅降低部署门槛。

Bonsai 27B 近期进展

  • 内存占用从 54GB 降至 3.9GB:据 IT 之家报道,苹果评估 PrismML 量化技术后,Bonsai 27B 在 iPhone 15 上运行 27B 模型成为可能,内存需求大幅减少。 内存占用 54GB→3.9GB,苹果评估 PrismML 量化技术让 iPhone 15 运行 27B 模型
  • 在 iPhone 17 Pro 上原生运行:PrismML 正式发布 Bonsai 27B,宣称其为首个能在 iPhone 17 Pro 上运行的 27B 多模态模型,无需云端支持。 PrismML 发布 Bonsai 27B:首个能在 iPhone 17 Pro 运行的 27B 模型
  • 通过 Claude Code 可用:Bonsai 27B 现已通过 hf claude 集成到 Claude Code 中,开发者可直接在编码环境中调用。 Bonsai 27B 现已可通过 hf claude 在 Claude Code 中使用
  • 当前焦点与观察点

    Bonsai 27B 的推出标志着大模型端侧部署的重要突破。1-bit 和三元量化技术将模型体积压缩至传统 1/10 以下,同时保留对 27B 参数模型的多模态能力,使个人设备无需联网即可运行复杂 AI 任务。然而,量化带来的精度损失和实际应用效果仍待验证。此外,Bonsai 27B 依赖特定硬件(如 iPhone 17 Pro 的芯片),普及性受限。开源社区的反馈和量化标准的建立将是未来关注重点。

    § 02相关报道10 条在档
    1. 01
      用PrismML llama.cpp部署1位Bonsai-27B模型及本地推理工作流
      marktechpost
    2. 02
      Bonsai 27B:27B参数推理模型压缩至4GB,可在iPhone上运行
      Decoder
    3. 03
      Bonsai 27B:手机级尺寸的27B多模态模型
      Together AI
    4. 04
      内存占用 54GB→3.9GB,苹果评估 PrismML 量化技术让 iPhone 15 运行 27B 模型
      IT之家
    5. 05
      用Qwen3量化模型Ternary-bonsai-27b-mlx-2bit本地部署体验
      berryxia
    6. 06
      PrismML发布Bonsai 27B:首个能在iPhone 17 Pro运行的27B模型
      berryxia
    7. 07
      PrismML发布Bonsai 27B:可在手机本地运行的27B多模态模型
      berryxia
    8. 08
      Bonsai 27B 现已可通过 hf claude 在 Claude Code 中使用
      AK
    9. 09
      Bonsai 27B 模型登场,可在 iPhone 17 Pro 上原生运行
      IT之家
    10. 10
      PrismML 发布 Bonsai 27B:Qwen3.6-27B 的 1-bit 和三元量化版本,可在笔记本和手机上运行
      marktechpost
    § 03邻近话题

    本页综述由 AITOP 基于公开报道整理。原报道版权归各自来源所有。

    /topic/Bonsai