270M 通常指 Google Gemma 系列中约 2.7 亿参数量级的小型开源模型(如 Gemma 3 270M),它是端侧 AI 部署的代表性尺寸——足够小到能跑在手机、嵌入式设备甚至打印机上,又保留了可微调、可完成实际任务的能力。随着端侧推理和小模型微调成为热点,这一参数档位正受到越来越多开发者关注。
Gemma 270M 的近期进展
当前焦点与观察点
围绕 270M 这类小模型的讨论主要集中在三点:一是压缩与部署的极限,14.1MB 内存运行打印机的案例说明量化技术已能把小模型压到传统嵌入式设备可承受的程度;二是微调性价比,21 分钟从 46% 到 90% 的数据让个人开发者和小团队看到了在端侧定制专属模型的可行性;三是除微调外的新优化路径,如权重空间编程这类免训练方法能否迁移到更小参数量的模型上。需要保持观察的是,小模型在通用能力上仍明显弱于大模型,其价值主要体现在垂直任务、离线场景和隐私敏感场景, evaluations 结果也多来自厂商或社区演示,实际效果需结合具体任务验证。