Primary sourcearXiv cs.LG
View sourceEvent ·Multi-source
MemT-1.0 发布:把记忆内化为模型自身能力的新架构
MemT-1.0 是一套记忆基础模型架构,基于 Metis 骨干,采用 Gated DeltaNet-2 实现轮次内稳定的 token 级记忆更新,并通过 Mixture-of-Storage 扩展原生记忆容量。训练采用继续预训练加后训练的两阶段流程,使用了 340 亿 token 的训练数据。评测显示 MemT-1.0-Nano 和 MemT-1.0-Flash 平均优于参数化记忆基线,与检索增强方法竞争力相当。在 128K 历史长度下,MemT-1.0-Nano 相比完整上下文 KV 缓存获得约 1.86 倍端到端推理加速和 66 倍持久存储缩减,同时提升了智能体任务的成功率。
Current read
这篇论文提出了把记忆直接做进模型计算里的 MemT-1.0 架构,128K 长度下推理快 1.86 倍、存储省 66 倍,做智能体的可以看看记忆方案怎么做。
3 sources63° AI heatLast updated 2026/10/19 17:54:35
Evidence
3 sourcesConflict check
Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.