#LLM推理加速

1 stories · 0 in 7 days · 0 in 30 days

Stories, products and papers tagged "LLM推理加速", newest first.

Jul 10

这篇论文把各种无训练松弛推测解码的方法放一起对比，告诉你哪些真有效、哪些有坑，适合搞推理加速的朋友看。

arXiv cs.AI@Guoxuan Xia et al. (3)Source