Event ·Official first-hand

RidgeFill:免训练的后期层缓存填充方法加速长文本 prefill

RidgeFill 是一种免训练的 prefill 加速方法:模型下半部分层正常计算,从分割层的状态用一次岭回归拟合出的映射预测后续各层输入,直接填充 KV 缓存。在 Qwen3.8-27B 上的 llama.cpp 分支中,16K 到 120K token 场景下首 token 时间加快 1.25 到 1.31 倍,RULER 下降 1.2 到 1.4 分;在 Qwen3.8-Flash-Next 的 vLLM 上达到 1.50 到 1.60 倍加速,RULER 检索任务得分 99.8 对比完整计算的 100.0。与 YOCO 和 DeepSeek-V4.1-Flash 需要把投影训练进模型不同,RidgeFill 无需训练即可改装到已有模型上。

Current read

不用重新训练模型,靠一次岭回归就能把长文本 prefill 提速到 1.5 倍以上,LLM 推理部署的可以看看这套测量方法。

5 sources51° AI heatLast updated 2026/11/6 16:52:41

Evidence

5 sources
Primary sourcearXiv: DeepSeek
View source
Related source 1@atomic_chat_hq
View source
Related source 2Hugging Face
View source
Related source 3marktechpost
View source

Conflict check

Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.