PapersSelected12:12Chinese contentExpress 语言建模:高效因果注意力近似工具做长上下文语言模型推理优化的团队,Express 能同时提升预填充和解码效率,值得直接集成到现有流水线中。#注意力近似#因果注意力#长上下文#KV缓存压缩aarXiv cs.LG@Albert Gong et al. (4)SourceRead laterReadWorth followingUsefulFollow 注意力近似