Muennighoff等提出Prefix Sliding方法，通过遗忘部分上下文信息，提高长任务中全注意力机制的效率，避免信息丢失。新论文发表于斯坦福大学AI实验室。
斯坦福大学AI实验室提出Prefix Sliding，优化长任务中全注意力机制的效率，值得一读。
现有去重数据只说明这些来源讨论同一事件，不代表立场相同。当前没有结构化的支持或反驳证据，不自动推断冲突。