14:05IT之家(博客/媒体)PrismML 发布 Bonsai Image 4B 系列图像生成模型,包含 1-bit 和 Ternary 两个版本,专为本地设备优化。该模型基于 LUX.2 Klein 4B 构建,通过二值/三值权重大幅压缩体积,1-bit 版 Transformer 仅 0.93GB,内存占用降至 1.5GB。在 iPhone 17 Pro Max 上生成 512×512 图像仅需 9.4 秒,Mac M4 Pro 上约 6 秒,速度比全精度模型快 5.6 倍。质量方面,Ternary 版在 1.21GB 体积下保留约 95% 的准确性,1-bit 版在不足 1GB 下保留约 88%。这标志着高质量图像生成模型首次在手机上实现实时可用。AI模型图像生成模型压缩本地部署Bonsai Image 4BiPhone推荐理由:手机端终于能跑正经的图像生成模型了,做移动端 AI 应用或创意工具的开发者可以直接在 iPhone 上体验,9.4 秒出图的速度已经可用。原文
13:26爱范儿@Selina中国 AI 公司成功将 600 亿参数的大模型部署到手机上,突破了模型体积与移动端算力的瓶颈。这一进展依赖于国产框架、芯片和模型的闭环生态,实现了从方法论到硬件的完全自主。该技术让手机端运行超大模型成为可能,显著提升本地 AI 能力,减少对云端的依赖。关键细节包括模型压缩和推理优化技术,使得在有限内存和功耗下高效运行。这对移动 AI 应用和国产技术生态具有重要意义。AI产品大模型手机部署国产技术模型压缩推理优化推荐理由:手机端跑 600 亿参数模型不再是梦,做移动端 AI 应用或关注国产技术生态的开发者,值得关注这一突破,它可能改变未来手机 AI 的玩法。原文