10:33SuperTechFans（博客/媒体）
精选
推荐理由：想在老 Mac 上跑大模型？这个开源引擎让 Gemma 4 26B 只需 2GB 内存就能跑起来，M2 上还有 5-6 tok/s，挺实用的。
TurboFieldfare
共 1 条相关 AI 资讯
7月30日
10:33
TurboFieldfare 是一个采用 Swift 和 Metal 编写的开源推理运行时，专为 Apple Silicon Mac 设计。它通过 SSD 流式加载专家权重，使 Gemma 4 26B-A4B 模型仅需约 2GB 内存即可运行，无需加载完整的 14.3GB 模型。实测在 8GB M2 MacBook Air 上达到 5.1-6.3 tok/s，在 24GB M5 Pro 上达到 31-35 tok/s。项目提供本地 Mac 应用、CLI 和 OpenAI 兼容服务器，要求 macOS 26、Metal 4 和 Xcode 26。