AITOPAI热报

#Memorilla

1 stories · 1 in 7 days · 1 in 30 days
Qwen3-8B 1RAG 1open-source models 1
Stories, products and papers tagged "Memorilla", newest first.
Nov 14
ModelsBuildersOfficial20:13
Chinese content斯坦福开源 Memorilla：16 个记忆 token 让冻结 LLM 具备文档记忆

斯坦福这次开源的 Memorilla 思路很巧：不微调 Qwen3-8B，只塞 16 个压缩 token 就记下整个文档库，输入量比全上下文少 108 倍还在 FactKG 拿到 84.33%。做长文档问答或想省 token 成本的开发者可以拿代码直接试。

#Memorilla#Qwen3-8B#RAG#open-source models
Primary sourcemarktechpost@Asif RazzaqSource