Papers11:08
Chinese contentMDLMPE：面向掩码扩散语言模型的分布感知位置编码掩码扩散模型的位置编码一直照搬自回归那套，MDLMPE 第一个把遮盖状态算进去，在 LLaDA 和 DREAM 上效果更好。
#MDLMPE
1 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "MDLMPE", newest first.
Aug 5
掩码扩散模型的位置编码一直照搬自回归那套，MDLMPE 第一个把遮盖状态算进去，在 LLaDA 和 DREAM 上效果更好。