oMLX v0.3.11 发布:让 Mac 本地 AI 像原生 App 一样流畅

我最近在Mac上折腾本地AI时,发现一个叫oMLX的项目一直在默默更新。 它的作者是个有全职工作的…

精选理由

如果你在 Mac 上折腾本地 AI 但被复杂配置劝退,oMLX 让你像用原生 App 一样直接上手,solo 开发者把稳定性做到位了,值得一试。

AI 摘要

oMLX 是一个基于 Apple MLX 框架的本地 AI 项目,由一位有全职工作的 solo 开发者维护。最新 v0.3.11 版本重点提升了高内存压力下的稳定性,并优化了用户体验,让用户无需阅读文档或调整参数即可使用本地模型。项目支持模型下载过程中即可开始对话,旨在降低本地 AI 的使用门槛,推动其普及。

原文 · berryxia

我最近在Mac上折腾本地AI时,发现一个叫oMLX的项目一直在默默更新。 它的作者是个有全职工作的…

我最近在Mac上折腾本地AI时,发现一个叫oMLX的项目一直在默默更新。

它的作者是个有全职工作的solo开发者。

刚刚发布了v0.3.11版本。

这个也是基于Apple MLX 框架来延展出来的框架,让端侧模型在Apple 设备提速。

过去几轮更新,他把稳定性当成了头等大事。

尤其是高内存压力下的表现,这次他希望大家再多测测。

他的初心其实很简单。

哪怕你昨天刚买了MacBook,也能立刻打开工具就用本地模型。

不用看文档,不用调参数,不用等半天。

整个流程像用原生App一样自然流畅。

甚至模型还在下载的时候,你已经能开始对话了。

在大家都在卷参数规模和推理速度的时候,他却把精力全放在了让普通人真正用得爽这件事上。

这可能是本地AI真正走向普及的最关键一步。

项目地址见评论区👇