#EAGLE

共 1 条 · 7 天 1 条 · 30 天 1 条

MTP 1 vLLM 1 推测解码 1 推理加速 1

信息流里打上「EAGLE」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月15日

产品 Agent 与开发者精选71°06:00

vLLM 自适应验证不再依赖训练置信头，兼容 MTP、EAGLE 等草稿模型

用 vLLM 跑推测解码的可以升级了：MTP、EAGLE 草稿模型不训置信头也能开自适应验证，免重训练。

#vLLM #推测解码 #EAGLE #MTP

官方账号vLLM@vllm_project原文