全部 AI 动态 · AI 热点

AITOP

6月16日

20:46

AITOP6月16日 20:46

600亿美元买下Cursor，xAI终于拿到了编程工具，但真正值得跟踪的或许不是AI

6月12日

12:57

AITOP6月12日 12:57

Claude代码里藏了个20260612，18个月后的AI记忆革命已经开始倒计时

6月11日

15:28

AITOP6月11日 15:28

1107 vs 303：谷歌悄悄开源了一个“拆打字机”的模型，把大模型速度翻了4倍

15:23

AITOP6月11日 15:23

DiffusionGemma颠覆文本生成？自回归模型的“统治”要结束了

15:07

AITOP6月11日 15:07

每秒1107个token，Google开源的扩散模型为什么能改变本地推理格局？

6月9日

19:58

Julien Chaumond@julien_c

精选

safetensors v0.8.0 在 Apple Silicon 上支持将张量直接加载到 Metal 的 MTLBuffer 中。通过 DLPack 协议，可无缝传递给 PyTorch 等框架。相比之前版本，跳过了不必要的内存拷贝，提升了推理效率。该更新适用于所有使用 safetensors 的 Apple Silicon 用户。

AI产品 safetensors Metal Apple Silicon PyTorch 模型加载

推荐理由：Apple 用户加载模型更快

原文

6月7日

00:59

berryxia@berryxia

精选

mlx-audio v0.4.4 发布，这是其功能最强大的版本，新增了 15 个 TTS、ASR 和 VAD 模型。新模型包括 VoxCPM2、Mega-ASR、Nemotron 3.5 ASR 等，支持 30 种语言、实时语音识别和长文本转录加速。服务器端新增 OpenAI 兼容格式和逐词时间戳功能，所有技术均运行在 Apple Silicon 上。该版本显著提升了 Apple 设备上的音频处理能力，适合开发者集成到本地应用中。

AI产品 mlx-audio TTS/ASR Apple Silicon 语音模型开源/仓库

推荐理由：Apple Silicon 用户终于有了一个本地化的音频处理利器，15 个新模型覆盖 TTS/ASR/VAD，做语音应用或音频工具的开发者可以直接安装测试，尤其关注中文支持效果。

原文

5月31日

00:34

berryxia@berryxia

精选

开发者 Ivan Fioravanti 在 mlx-vlm 项目中新增了对 Step 3.7 Flash 模型的支持，将其转换为 MLX 格式后，视觉理解和文本生成功能均可在本地运行。该模型在 128GB Apple Silicon 机器上，4bit 量化版本支持 32K 上下文，生成速度超过 53 tokens/s。实测中，模型能快速准确地从截图中提取结构信息和关键元素。这一更新将高质量视觉语言任务从云端迁移到个人 Mac，兼顾隐私、速度和零额外费用，推动本地多模态 AI 进入实用阶段。

AI产品 mlx-vlm Step 3.7 Flash 本地多模态 Apple Silicon 视觉理解

推荐理由：本地跑通高质量视觉语言模型，做多模态应用或隐私敏感项目的开发者可以直接在 Mac 上体验，无需依赖云端，值得一试。

原文

5月26日

16:20

Geek@geekbb

精选

一款名为 Ari 的开源 macOS 菜单栏 AI 启动器发布，使用 Swift 语言构建，基于 MLX 框架在 Apple Silicon 芯片上本地运行语言模型。它让用户无需联网即可在菜单栏快速调用 AI 能力，保护隐私且响应迅速。项目已托管在 GitHub，适合 macOS 开发者或注重隐私的 AI 用户尝试。

AI产品开源/仓库 macOS MLX Apple Silicon 本地 AI

推荐理由：macOS 用户终于有了一个本地化、轻量的 AI 入口，无需联网即可在菜单栏调用模型，隐私敏感或离线场景下的开发者值得一试。

原文

5月21日

08:00

Julien Chaumond@julien_c

HuggingFace 联合创始人 Julien Chaumond 在 X 上发起讨论，探讨 Apple Silicon 是否是本地 AI 的最佳平台。该话题引发社区热议，目前已有 7 个点赞和 715 次浏览。讨论聚焦于 Apple Silicon 在运行本地 AI 模型时的性能、能效和生态优势，与 NVIDIA GPU 等传统方案形成对比。这反映了本地 AI 部署正从云端向边缘设备迁移的趋势，Apple Silicon 的 M 系列芯片因其统一内存架构和高效能而备受关注。

行业 Apple Silicon 本地AI HuggingFace 边缘计算芯片对比

推荐理由：本地 AI 部署正在从云端走向桌面，Apple Silicon 的 M 系列芯片可能是最佳选择——做本地推理或边缘 AI 的开发者值得关注这场讨论。

原文

5月13日

18:18

berryxia@berryxia

oMLX 0.3.9.dev2 版本发布，针对 Apple Silicon 设备优化，集成了 Gemma 4 的 MTP 视觉路径、DFlash 引擎和 ParoQuant，显著提升图文解码速度。新增 ombx launch copilot 功能，可一键接入 Claude、Codex 等工具；oQ 自动代理解决显存不足问题，管理界面增加重启服务器按钮。作者认为苹果端侧 AI 在速度、集成度和易用性上已接近甚至超越云端大模型，真正将 AI 从云端拉回本地。

AI产品端侧AI Apple Silicon oMLX Gemma 4 本地推理

推荐理由：oMLX 这次更新把 Gemma 4 的视觉路径和 DFlash 引擎塞进 Apple Silicon，图文解码速度明显提升，做本地 AI 开发的 Mac 用户可以直接体验，看看端侧能否替代云端。

原文