在边缘AI部署领域,Google的AI Edge Gallery近期取得关键进展。该平台专为在本地设备(如笔记本电脑、手机)上运行AI模型而设计,旨在降低对云端算力的依赖。
- 近期主要进展:
- Google将AI Edge Gallery扩展至macOS系统,用户可在搭载16GB内存的Mac上直接运行最新的Gemma 4 12B模型,无需联网或依赖云端API。 (谷歌 AI Edge Gallery 登陆 Mac,16GB 内存可跑 Gemma 4 12B 模型)
- 开发者已成功在笔记本上利用Gemma 4 12B构建Agentic工作流(自主任务执行流程),展示出边缘设备运行复杂AI智能体的潜力。 (Gemma 4 12B 与 Google AI Edge 打通,笔记本上跑 Agentic 工作流)
- 用户通过Gallery可直接下载并运行Gemma 4,实现本地化部署,简化了模型获取和推理流程。 (Google AI Edge Gallery 扩展到 macOS,下载即跑 Gemma 4 12B)
当前焦点在于:边缘设备能否承载足够复杂的AI任务(如智能体工作流),同时保持隐私和低延迟优势。未来观察点包括:Gallery支持的模型种类是否会进一步扩大,以及本地运行高性能模型对消费级硬件的实际要求能否持续降低。