苹果评估PrismML 1-bit压缩技术,Qwen 3.6已在iPhone 17 Pro运行

已在 iPhone 17 Pro 上完整运行 Qwen 3.6,消息称 PrismML 模型 AI 压缩技术被苹果看中

精选理由

苹果想用这技术让27B的Qwen 3.6在手机上跑,速度比原来快8倍,能耗降75%,还能保持精度,挺牛的。

AI 摘要

苹果正与PrismML接洽,评估其原生1-bit模型压缩技术。该技术将Qwen 3.6(27B参数)压缩至全精度1/14体积,内存占用降低超90%,推理速度提升最高8倍,能耗降低75%-80%,已在iPhone 17 Pro上完整运行。PrismML声称精度接近FP16模型,无“高精度逃生通道”。苹果希望借此增强本地AI推理性能。

AI 翻译 · 中文

苹果正与PrismML接洽,评估其原生1-bit模型压缩技术。该技术将Qwen 3.6(27B参数)压缩至全精度1/14体积,内存占用降低超90%,推理速度提升最高8倍,能耗降低75%-80%,已在iPhone 17 Pro上完整运行。PrismML声称精度接近FP16模型,无“高精度逃生通道”。苹果希望借此增强本地AI推理性能。

IT之家IT之家 7 月 10 日消息,科技媒体 The Information 昨日(7 月 9 日)发布博文,报道称苹果公司正接洽 PrismML 初创公司, 评估在 iPhone 上直接运行更大规模 AI 模型的可行性。 IT之家查询公开资料,PrismML 是加州理工衍生出来的 AI 初创公司,核心突破为原生 1-bit 模型压缩技术,模型体积可压缩至全精度版本的 1/14 左右,内存占用降低超 90%。 原生 1-bit 模型压缩技术