AITOPAI热报
Event ·Single source

JustFit 让 27B 模型在 24GB 笔记本上处理 20万token

JustFit 是一种 MLX 推理运行时，通过 KVExec、PhaseSwap 和 StateTrans 机制，让 Qwen3.8-27B 模型在 24GiB MacBook 上处理 196,608 个输入 token 和 16,384 个输出 token，单次请求上下文从 30,720 增加到 212,992，支持更长的推理。

Current read

朋友，刚看到 JustFit 这个技术，它能让 27B 的 Qwen 模型在 24GB 笔记本上处理 20万token，比之前的方法快很多，对本地开发很有用。

2 sources44° AI heatLast updated 2026/9/15 17:15:48

Evidence

2 sources

Conflict check

Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.

Open the story