#HiLo-RD

1 stories · 1 in 7 days · 1 in 30 days

GSM8K 1 MDLM 1 推理模型 1 自蒸馏 1

Stories, products and papers tagged "HiLo-RD", newest first.

Oct 28

Papers BuildersMulti-source09:47

Chinese contentHiLo-RD：用跨预算自蒸馏提升掩码扩散语言模型小窗口推理

arXiv上新出的自蒸馏方法，专门修MDLM小窗口推理时过早下结论的毛病，GSM8K涨了9.4个点还更省token。

#MDLM #HiLo-RD #自蒸馏 #推理模型

arXiv cs.LG@Xiang Li et al. (8)3 sourcesSource