PrismML 相关 AI 资讯 · AI 热点

7月28日

16:20

16:20

官方一手marktechpost@Sana Hassan

本教程使用PrismML分支的llama.cpp部署1-bit Bonsai-27B模型。该分支提供了专门CUDA内核，用于解码模型的Q1_0_g128 GGUF量化格式。教程展示了如何设置本地服务器，并通过兼容OpenAI的API接口进行推理调用。整个过程省去了云端依赖，适合低成本本地部署。

技巧 Bonsai-27B PrismML llama.cpp

推荐理由：想本地跑Bonsai-27B？用PrismML的llama.cpp加上1位量化，速度起飞，还能直接用OpenAI API调用。

7月16日

11:15

11:15IT之家（博客/媒体）

彭博社马克·古尔曼在X平台表示，苹果大概率不会收购PrismML，且评估可能无实质进展。PrismML CEO巴博克·哈西称公司与苹果接洽，苹果正评估其AI量化技术。古尔曼认为双方洽谈没有实质性结果，即使有进展也已终止。Wccftech解读称PrismML公开披露反而降低苹果采用其技术的可能性，因苹果一贯偏好低调完成技术整合。

行业苹果 PrismML AI量化

推荐理由：古尔曼泼冷水，说苹果不太可能用PrismML的量化AI技术，苹果自己也很擅长这手。

00:29

00:29

官方账号Decoder@Jonathan Kemper

PrismML将27B参数模型Bonsai 27B压缩至4GB以下，使其能在iPhone上本地运行。在内部基准测试中，最小版本保留原模型90%的性能，数学和编码分数几乎未受影响。Apple据报正在测试该压缩技术，有望推动端侧AI发展。Bonsai 27B是一个完全开源的推理模型。

AI模型 Bonsai 27B PrismML iPhone

推荐理由：PrismML把27B模型压到4GB还能跑在iPhone上，苹果都在试，看看本地AI能有多强。

7月15日

22:20

22:20

官方账号Together AI@togethercompute

精选

PrismML发布了Bonsai 27B，一个270亿参数的多模态模型，能在手机级设备上本地运行。该模型采用三元量化技术压缩体积，同时保留图像理解等多模态能力。用户现可通过Together AI平台在线试用。这是本地AI在参数量和设备适配上的重要进展。

AI模型 Bonsai 27B PrismML Together AI

推荐理由：27B参数的多模态模型能塞进手机？Bonsai 27B做到了，性能还很强，快试试。

11:48

11:48

小互@imxiaohu

PrismML 基于 Qwen3.6-27B 模型，将原本 54GB 的 27B 参数模型压缩至 3.9–5.9GB，使其能在 iPhone 上运行。在 15 项测试中，5.9GB 的 Ternary 版本保留原版 95% 性能，3.9GB 的 1-bit 版本保留 90% 性能。在 RTX 5090 上推理速度达 163 token/s，在苹果 M5 Max 上达 87 token/s。

AI模型 Qwen3.6-27B PrismML iPhone

推荐理由：PrismML 把 27B 大模型压到几 GB 还能在手机上跑，性能几乎没缩水，iPhone 用户也能本地跑大模型了。

10:18

10:18IT之家（博客/媒体）

PrismML 的原生 1-bit 模型压缩技术可将模型体积压缩至全精度的 1/14，内存占用降低超 90%。基于该技术的 Bonsai 27B 模型（基于 Qwen 3.6 27B）从约 54GB 缩减至不足 4GB，可在 12GB 内存的 iPhone 15 及后续机型上原生运行。推理速度提升最高 8 倍，能耗降低 75%-80%，精度在 1-bit 下保留 90% 基准得分。苹果公司正在评估 PrismML 技术，会谈可能涉及授权或收购。

AI模型 PrismML Bonsai 27B 苹果

推荐理由：PrismML 这技术能把 27B 模型塞进 iPhone，内存从 54G 砍到 4G 不到，苹果都在看，手机跑大模型要成真了。

08:53

08:53

Paul Couvert@itsPaulAi

PrismML今天推出Bonsai 27B，首个能在手机上运行的27B参数多模态模型。基于Qwen3.6 27B，提供两个变体：三元版5.9GB（1.71位/权重）和1-bit版3.9GB（1.125位/权重）。该模型支持多步推理、结构化工具使用和长上下文智能体循环。全部代码和权重已开源（Apache 2.0），此前运行类似模型需要千美元级电脑。

AI模型 Bonsai 27B PrismML Qwen3.6

推荐理由：27B模型能塞进手机，3.9GB就跑得动，还完全开源。手机党不用再羡慕桌机了。

08:40

08:40

berryxia@berryxia

73°

PrismML推出Bonsai 27B模型，可在iPhone 17 Pro上直接运行，内存占用低于5GB。这是首个在手机端运行的27B参数级模型。演示视频显示实时响应且可用。通过量化技术将内存压缩至极致，同时保持模型可用性。该模型表明27B规模的大模型开始走进个人设备。

AI模型 PrismML Bonsai 27B iPhone 17 Pro

推荐理由：27B的模型在手机上跑，内存不到5GB，PrismML的Bonsai做到了。以后手机AI不连网也能用大模型了。

08:37

08:37

berryxia@berryxia

PrismML发布Bonsai 27B，这是首个能在手机上本地运行的27B级多模态模型。该模型通过端到端低比特技术，1-bit版本仅3.9GB，可在iPhone 17 Pro上运行；Ternary版本5.9GB，适合笔记本。其智能密度达0.53 per GB，比全精度基线高约10倍，比现有最佳低比特方案高2.7倍。在15个基准测试中，Ternary版平均保留95%性能，1-bit版保留90%，数学、编码和工具调用能力接近原版Qwen3.6 27B。模型已开源（Apache 2.0），支持GGUF格式，提供一键运行Demo和免费开发者预览API。

AI模型 Bonsai 27B PrismML 多模态

推荐理由：PrismML搞了个Bonsai 27B，在手机上就能跑27B多模态模型，压缩到3.9GB性能还能保留90%，挺牛的，还开源了，可以试试。

07:00

07:00

官方一手marktechpost@Asif Razzaq

PrismML 推出了 Bonsai 27B，这是对 Qwen3.6-27B 进行低比特量化得到的模型，不修改原架构。三元版本使用 {−1, 0, +1} 权重，每个参数仅 1.71 bits，理想大小 5.9GB。1-bit 版本采用二进制 {−1, +1} 权重。两个版本均以 Apache 2.0 许可开源，可在笔记本和手机上本地运行。

AI模型 PrismML Bonsai 27B Qwen3.6-27B

推荐理由：PrismML 把 Qwen3.6-27B 压到 5.9GB，手机都能本地跑，还全开源，适合离线使用。

04:39

04:39

elvis@omarsar0

精选

PrismML 今日发布 Bonsai 27B，这是首个可在手机上本地运行的 27B 参数多模态模型。基于 Qwen3.6 27B，Bonsai 27B 支持多步推理、结构化工具使用、长上下文和智能体循环。Ternary 变体仅 5.9 GB（1.71 有效比特/权重），1-bit 变体仅 3.9 GB（1.125 有效比特/权重），大幅降低本地部署门槛。在 RTX 5090 上，1-bit 版本达到 163 tok/s，Ternary 版本达到 134 tok/s；在 M5 Max 上分别为 87 tok/s 和 58 tok/s。模型以 Apache 2.0 许可证开源。

AI模型 Bonsai 27B PrismML Qwen3.6

推荐理由：手机能跑 27B 模型了？PrismML 的 Bonsai 27B 实际做到了——体积最小 3.9GB，速度还不慢，开源免费。想本地用大模型又嫌大的可以看。

7月10日

07:37

07:37IT之家（博客/媒体）

苹果正与PrismML接洽，评估其原生1-bit模型压缩技术。该技术将Qwen 3.6（27B参数）压缩至全精度1/14体积，内存占用降低超90%，推理速度提升最高8倍，能耗降低75%-80%，已在iPhone 17 Pro上完整运行。PrismML声称精度接近FP16模型，无“高精度逃生通道”。苹果希望借此增强本地AI推理性能。

AI模型 PrismML Qwen 3.6 iPhone 17 Pro

推荐理由：苹果想用这技术让27B的Qwen 3.6在手机上跑，速度比原来快8倍，能耗降75%，还能保持精度，挺牛的。

5月27日

07:22

07:22

berryxia@berryxia

PrismML 发布了 Bonsai Image 4B 扩散模型的 1-bit 和 Ternary 版本，分别仅 0.93GB 和 1.21GB，比全精度模型小 8.3 倍。在 Mac M4 Pro 上生成速度最高提升 5.6 倍，图像质量和提示词遵循度与更大模型相当。同时上线了 Bonsai Studio iOS App，支持 iPhone 本地离线生成图像，无需订阅或 API。这标志着高质量图像生成从云端真正走向个人设备。

AI模型端侧模型扩散模型图像生成

推荐理由：端侧生图终于不再妥协——Bonsai Image 4B 用极致压缩把云端级质量塞进手机，做移动端 AI 应用或离线创作工具的开发者可以直接在 iPhone 上试，无需联网和付费。