oMLX 这次更新把 Gemma 4 的视觉路径和 DFlash 引擎塞进 Apple Silicon,图文解码速度明显提升,做本地 AI 开发的 Mac 用户可以直接体验,看看端侧能否替代云端。
oMLX 0.3.9.dev2 版本发布,针对 Apple Silicon 设备优化,集成了 Gemma 4 的 MTP 视觉路径、DFlash 引擎和 ParoQuant,显著提升图文解码速度。新增 ombx launch copilot 功能,可一键接入 Claude、Codex 等工具;oQ 自动代理解决显存不足问题,管理界面增加重启服务器按钮。作者认为苹果端侧 AI 在速度、集成度和易用性上已接近甚至超越云端大模型,真正将 AI 从云端拉回本地。
最近我鼓吹苹果的端侧模型和统一内存的优势! 前有MLX ,现在不断拓展的格式都出来比如之前也分享过…
最近我鼓吹苹果的端侧模型和统一内存的优势!
前有MLX ,现在不断拓展的格式都出来比如之前也分享过的oMLX又有更新!
Apple Silicon上的本地AI已经把云端大模型的很多优势直接干掉了。
oMLX 0.3.9.dev2直接把Gemma 4的MTP视觉路径、DFlash引擎、ParoQuant全塞了进来,图文解码速度大幅提升;
还新增了omlx launch copilot,一键接入Claude / Codex / OpenClaw等顶级工具;
oQ自动建proxy解决显存不够的问题;
管理界面也加了重启服务器按钮。
以前本地AI总觉得“差点意思”,现在它在速度、集成度、易用性上越来越离谱地强。
这才是真正把AI从云端拉回你自己电脑的节奏。
项目地址:https://t.co/y7ttuiUN43
- Google Developers Blog05-12 16:33原文