产品

oMLX v0.3.11 发布:让 Mac 本地 AI 像原生 App 一样流畅

精选理由

如果你在 Mac 上折腾本地 AI 但被复杂配置劝退,oMLX 让你像用原生 App 一样直接上手,solo 开发者把稳定性做到位了,值得一试。

oMLX 是一个基于 Apple MLX 框架的本地 AI 项目,由一位有全职工作的 solo 开发者维护。最新 v0.3.11 版本重点提升了高内存压力下的稳定性,并优化了用户体验,让用户无需阅读文档或调整参数即可使用本地模型。项目支持模型下载过程中即可开始对话,旨在降低本地 AI 的使用门槛,推动其普及。

原文 · berryxia

我最近在Mac上折腾本地AI时,发现一个叫oMLX的项目一直在默默更新。

它的作者是个有全职工作的solo开发者。

刚刚发布了v0.3.11版本。

这个也是基于Apple MLX 框架来延展出来的框架,让端侧模型在Apple 设备提速。

过去几轮更新,他把稳定性当成了头等大事。

尤其是高内存压力下的表现,这次他希望大家再多测测。

他的初心其实很简单。

哪怕你昨天刚买了MacBook,也能立刻打开工具就用本地模型。

不用看文档,不用调参数,不用等半天。

整个流程像用原生App一样自然流畅。

甚至模型还在下载的时候,你已经能开始对话了。

在大家都在卷参数规模和推理速度的时候,他却把精力全放在了让普通人真正用得爽这件事上。

这可能是本地AI真正走向普及的最关键一步。

项目地址见评论区👇