#调度

1 stories · 1 in 7 days · 1 in 30 days

dLLM 1 SGLang 1 扩散语言模型 1 推理优化 1

Stories, products and papers tagged "调度", newest first.

Oct 30

Papers Builders12:58

Chinese contentDWISE 调度引擎让扩散语言模型推理延迟降低至 1/5.4

扩散语言模型跑得慢可能不是模型的问题，是调度策略拖了后腿。这篇把延迟砍了 5 倍以上，做推理服务的值得看看。

#dLLM #SGLang #推理优化 #扩散语言模型

arXiv cs.LG@Lie Li et al. (5)Source