苹果 iPhone 18 Pro 可本地跑 270 亿参数模型,速度较 iPhone 17 Pro 翻倍
苹果发布了 iPhone 18 Pro,它可以在本地运行 270 亿参数的 AI 模型,速度比上一代翻倍,性能提升很明显。
苹果发布了 iPhone 18 Pro,它可以在本地运行 270 亿参数的 AI 模型,速度比上一代翻倍,性能提升很明显。
苹果调整了部分机型的系统要求,iPhone 17 Pro 等机型需要 14GB 存储空间,比之前 8GB 的要求更高。
想了解 iPhone 17 Pro 上 AI 模型的性能表现?看这篇,详细分析了 8GB 以内模型的跑分情况。
27B的模型在手机上跑,内存不到5GB,PrismML的Bonsai做到了。以后手机AI不连网也能用大模型了。
PrismML 把 Qwen 3.6 27B 压缩到 3.9GB,iPhone 17 Pro 直接跑,本地 AI 终于不卡了。
苹果想用这技术让27B的Qwen 3.6在手机上跑,速度比原来快8倍,能耗降75%,还能保持精度,挺牛的。