手机端部署相关 AI 资讯 · AI 热点

7月18日

00:10

00:10

AI Engineer@aiDotEngineer

精选

在 AIE Europe 会议上，Google DeepMind 团队展示了一个完整微调流程：以 Gemma 270M 模型为起点，通过生成合成任务数据、LoRA 微调、int4 量化，最终部署到 Pixel 手机上。整个流程仅需 21 分钟，准确率从 46% 提升至 90%，推理速度达到 2000 tokens/s。该方法对比 1500 美元的线下 AI 训练营有显著效率和成本优势。

技巧 Gemma LoRA 量化

推荐理由：Google 工程师教你怎么在手机上 21 分钟微调一个小模型，从 46% 干到 90%，比花 1500 美元买课还快。