#双流架构

共 1 条 · 7 天 0 条 · 30 天 0 条

信息流里打上「双流架构」标签的资讯、产品与论文，按刊登时间排，新的在上。

7月2日

状态-预测分离假设：双流Transformer提升语言建模

这篇论文把Transformer的预测和记忆分开了，实验证明效果更好，下游任务平均提了2-3个点，搞LLM架构的值得细看。

#Transformer #状态-预测分离 #语言建模 #双流架构

arXiv cs.AI@Giovanni Monea 等 4 人原文