Primary sourcearXiv: DeepSeek
View sourceEvent ·Official first-hand
RidgeFill:免训练的后期层缓存填充方法加速长文本 prefill
RidgeFill 是一种免训练的 prefill 加速方法:模型下半部分层正常计算,从分割层的状态用一次岭回归拟合出的映射预测后续各层输入,直接填充 KV 缓存。在 Qwen3.8-27B 上的 llama.cpp 分支中,16K 到 120K token 场景下首 token 时间加快 1.25 到 1.31 倍,RULER 下降 1.2 到 1.4 分;在 Qwen3.8-Flash-Next 的 vLLM 上达到 1.50 到 1.60 倍加速,RULER 检索任务得分 99.8 对比完整计算的 100.0。与 YOCO 和 DeepSeek-V4.1-Flash 需要把投影训练进模型不同,RidgeFill 无需训练即可改装到已有模型上。
Current read
不用重新训练模型,靠一次岭回归就能把长文本 prefill 提速到 1.5 倍以上,LLM 推理部署的可以看看这套测量方法。
5 sources51° AI heatLast updated 2026/11/6 16:52:41
Evidence
5 sourcesRelated source 1@atomic_chat_hq
View sourceRelated source 2Hugging Face
View sourceRelated source 3marktechpost
View sourceRelated source 4AI Will
View sourceConflict check
Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.