论文精选12:12Express 语言建模:高效因果注意力近似工具做长上下文语言模型推理优化的团队,Express 能同时提升预填充和解码效率,值得直接集成到现有流水线中。#注意力近似#因果注意力#长上下文#KV缓存压缩aarXiv cs.LG@Albert Gong 等 4 人原文稍后读已读值得跟进有用关注 注意力近似