开源引擎 TurboFieldfare 在 M 系列 Mac 上以 2GB 内存运行 Gemma 4 26B

TurboFieldfare 是一个采用 Swift 和 Metal 编写的开源推理运行时，专为 Apple Silicon Mac 设计。它通过 SSD 流式加载专家权重，使 Gemma 4 26B-A4B 模型仅需约 2GB 内存即可运行，无需加载完整的 14.3GB 模型。实测在 8GB M2 MacBook Air 上达到 5.1-6.3 tok/s，在 24GB M5 Pro 上达到 31-35 tok/s。项目提供本地 Mac 应用、CLI 和 OpenAI 兼容服务器，要求 macOS 26、Metal 4 和 Xcode 26。