08:40
berryxia@berryxia
berryxia@berryxia73°
推荐理由：27B的模型在手机上跑，内存不到5GB，PrismML的Bonsai做到了。以后手机AI不连网也能用大模型了。
iPhone 17 Pro
共 4 条相关 AI 资讯
7月15日
08:40
PrismML推出Bonsai 27B模型，可在iPhone 17 Pro上直接运行，内存占用低于5GB。这是首个在手机端运行的27B参数级模型。演示视频显示实时响应且可用。通过量化技术将内存压缩至极致，同时保持模型可用性。该模型表明27B规模的大模型开始走进个人设备。
07:06
07:06IT之家（博客/媒体）
推荐理由：PrismML 把 Qwen 3.6 27B 压缩到 3.9GB，iPhone 17 Pro 直接跑，本地 AI 终于不卡了。
7月10日
07:37
07:37IT之家（博客/媒体）
推荐理由：苹果想用这技术让27B的Qwen 3.6在手机上跑，速度比原来快8倍，能耗降75%，还能保持精度，挺牛的。