prismml·general

PrismML

别名
首次出现
2026-05-26
最近出现
2026-07-28
累计提及
31
§ 01综述

PrismML 是一家专注于大语言模型极端量化与端侧部署的初创公司,其技术核心是将数亿参数的模型压缩至可在手机等移动设备上原生运行的极小体积。

PrismML 近期进展

  • 内存占用从 54GB 降至 3.9GB:PrismML 通过 1-bit 和三元量化技术,将 Qwen3.6-27B 模型压缩至 3.9GB,并在 iPhone 15 上运行,保留约 90% 的性能。该成果已获苹果评估认可。 原文标题
  • 发布 Bonsai 27B 多模态模型:2026年7月14日,PrismML 正式推出 Bonsai 27B,这是首个能在 iPhone 17 Pro 上原生运行的 27B 参数多模态模型,同时支持笔记本和手机。 原文标题
  • Bonsai Image 4B 生图模型:PrismML 还推出了 Bonsai Image 4B 图像生成模型,在 iPhone 上仅需 9.4 秒即可生成 512×512 图像,进一步拓展端侧 AI 应用场景。 原文标题
  • 当前焦点与观察点

    PrismML 的技术路径将大模型的部署门槛大幅降低——在保持较高性能的前提下,把 27B 模型的运行平台从云端服务器转移至日常手机。这引发了行业对“端侧 AI 是否将取代部分云推理”的讨论。然而,量化带来的性能损失、模型泛化能力能否满足复杂任务仍需实际测试验证。此外,PrismML 的压缩方法是否具有普适性,能否应用于更多开源模型,也是后续关注的重点。

    § 02相关报道10 条在档
    1. 01
      用PrismML llama.cpp部署1位Bonsai-27B模型及本地推理工作流
      marktechpost
    2. 02
      古尔曼:苹果与PrismML合作AI量化技术可能性低
      IT之家
    3. 03
      Bonsai 27B:27B参数推理模型压缩至4GB,可在iPhone上运行
      Decoder
    4. 04
      Bonsai 27B:手机级尺寸的27B多模态模型
      Together AI
    5. 05
      PrismML 将 Qwen3.6-27B 压到 3.9GB 在 iPhone 上运行,保留 90% 性能
      小互
    6. 06
      内存占用 54GB→3.9GB,苹果评估 PrismML 量化技术让 iPhone 15 运行 27B 模型
      IT之家
    7. 07
      PrismML发布Bonsai 27B:首个能在iPhone 17 Pro运行的27B模型
      berryxia
    8. 08
      PrismML发布Bonsai 27B:可在手机本地运行的27B多模态模型
      berryxia
    9. 09
      Bonsai 27B 模型登场,可在 iPhone 17 Pro 上原生运行
      IT之家
    10. 10
      PrismML 发布 Bonsai 27B:Qwen3.6-27B 的 1-bit 和三元量化版本,可在笔记本和手机上运行
      marktechpost
    § 03邻近话题

    本页综述由 AITOP 基于公开报道整理。原报道版权归各自来源所有。

    /topic/PrismML