Primary sourceshao__meng
View sourceEvent ·Multi-source
Perplexity 开源 Mac 本地推理引擎 Lily
Perplexity 为 Mac 端 Hybrid Compute 开发了本地推理引擎 Lily，使用 Rust 运行时和自定义 Metal 内核，专为 Qwen3.6-35B-A3B 模型和 Apple Silicon 硬件深度定制。在 M5 Max 上，Lily 的 prefill 吞吐为 MLX-LM 的 1.23 倍，decode 为 1.35 倍。Lily 通过 GPU 路径匹配推理阶段、最小化数据搬运和动态选择内核等策略实现性能优化。
Current read
Perplexity 为 Mac 开发了专用推理引擎 Lily，比 MLX-LM 快 23%-35%，专为 Qwen3.6-35B-A3B 和 Apple Silicon 优化。
3 sources78° AI heatLast updated 2026/9/3 03:35:47
Evidence
3 sourcesConflict check
Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.