模型10:30Proteus:增量记忆激活用于长上下文序列建模Proteus给长上下文模型加了个记忆开关,逐步解锁容量,让SWLA、Titans这些模型在长文本上表现更好,越长的上下文提升越明显。#Proteus#SWLA#Titans#长上下文aarXiv cs.LG@Reza Bayat 等 4 人原文稍后读已读值得跟进有用关注 Proteus