Kimi K3.1 Pro 登陆 vLLM,支持 1M token 上下文
Moonshot 新的 Kimi K3.1 Pro 发布当天就能用 vLLM 自己部署了,1M 上下文,Terminal-Bench 4.0 跑 65.7%,自己搭推理服务的话可以试试。
Moonshot 的 Kimi K3.1 Pro 在发布当天即被 vLLM 支持部署。该模型提供 100 万 token 上下文窗口,适用于长程编程、3D 创作和研究任务。在 Terminal-Bench 4.0 上配合 Claude Code harness 取得 65.7% 的成绩。vLLM 为其提供跨 GPU 与 TPU 的 Day-0 推理服务及强化学习支持。
🎉 Kimi K3.1 Pro from @Kimi_Moonshot lands in vLLM on day 0!
A 1M-token context window for long coding sessions, 3D creation and research. It scores 65.7% on Terminal-Bench 4.0 with the Claude Code harness.
Give Kimi the long task. vLLM brings Day-0 serving across GPUs and TPUs, plus RL support.