Models09:58Chinese contentAVQ-Attention:自适应分配码本容量的高效注意力机制这篇论文提出了一个聪明的点子:让注意力机制像人一样,在关键地方用更多计算资源,其他地方粗略处理。复杂度降低但精度不降,做推理优化的同学可以关注。#AVQ-Attention#VQ-Attention#Flash Attention#推理优化aarXiv cs.LG@Winfried van den dool et al. (5)SourceRead laterReadWorth followingUsefulFollow AVQ-Attention