主要来源arXiv cs.LG
查看原文事件专题 ·单一信源
LoopCD提升循环Transformer解码效率
研究人员提出LoopCD,一种无需训练的对比解码框架,通过对比最终预测与早期循环传递来指导token选择。LoopCD-Logits将Ouro-2.6B-Thinking的AIME 2024准确率从61.88%提升至73.33%,LoopCD-Hidden将Huginn的HumanEval准确率从22.56%提升至31.71%。该方法可将循环次数减半,同时保持或超越全深度基线性能,减少22.5%至48.2%的前向计算量。
当前结论
LoopCD让循环Transformer在不增加计算成本的情况下大幅提升解码质量,还能减少计算量。
2 个信源58° AI 热度最后更新 2026/10/1 17:58:38
证据链
2 个信源相关来源 1Aran Komatsuzaki (论文推介)
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。