Models00:29
Chinese contentBonsai 27B:27B参数推理模型压缩至4GB,可在iPhone上运行PrismML把27B模型压到4GB还能跑在iPhone上,苹果都在试,看看本地AI能有多强。
PrismML把27B模型压到4GB还能跑在iPhone上,苹果都在试,看看本地AI能有多强。
PrismML 这技术能把 27B 模型塞进 iPhone,内存从 54G 砍到 4G 不到,苹果都在看,手机跑大模型要成真了。
27B模型能塞进手机,3.9GB就跑得动,还完全开源。手机党不用再羡慕桌机了。
27B的模型在手机上跑,内存不到5GB,PrismML的Bonsai做到了。以后手机AI不连网也能用大模型了。
PrismML搞了个Bonsai 27B,在手机上就能跑27B多模态模型,压缩到3.9GB性能还能保留90%,挺牛的,还开源了,可以试试。
现在你直接在 Claude Code 里就能调用 Bonsai 27B 了,不用自己部署,省事。
PrismML 把 Qwen 3.6 27B 压缩到 3.9GB,iPhone 17 Pro 直接跑,本地 AI 终于不卡了。
PrismML 把 Qwen3.6-27B 压到 5.9GB,手机都能本地跑,还全开源,适合离线使用。
手机能跑 27B 模型了?PrismML 的 Bonsai 27B 实际做到了——体积最小 3.9GB,速度还不慢,开源免费。想本地用大模型又嫌大的可以看。