#并行解码
共 3 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「并行解码」标签的资讯、产品与论文,按刊登时间排,新的在上。
6月16日
5月27日
5月19日
Elastic-dLLM:位置保持的扩散LLM上下文压缩与增强
扩散LLM的并行解码效率一直是痛点,这篇工作直接戳中计算冗余的核心,做模型推理加速或长上下文应用的开发者值得关注,压缩方法可以直接集成到现有dLLM中。
扩散LLM的并行解码效率一直是痛点,这篇工作直接戳中计算冗余的核心,做模型推理加速或长上下文应用的开发者值得关注,压缩方法可以直接集成到现有dLLM中。