事件专题 ·单一信源

LoopCD提升循环Transformer解码效率

研究人员提出LoopCD,一种无需训练的对比解码框架,通过对比最终预测与早期循环传递来指导token选择。LoopCD-Logits将Ouro-2.6B-Thinking的AIME 2024准确率从61.88%提升至73.33%,LoopCD-Hidden将Huginn的HumanEval准确率从22.56%提升至31.71%。该方法可将循环次数减半,同时保持或超越全深度基线性能,减少22.5%至48.2%的前向计算量。

当前结论

LoopCD让循环Transformer在不增加计算成本的情况下大幅提升解码质量,还能减少计算量。

2 个信源58° AI 热度最后更新 2026/10/1 17:58:38

证据链

2 个信源
相关来源 1Aran Komatsuzaki (论文推介)
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。