Models09:58
Chinese contentAVQ-Attention：自适应分配码本容量的高效注意力机制这篇论文提出了一个聪明的点子：让注意力机制像人一样，在关键地方用更多计算资源，其他地方粗略处理。复杂度降低但精度不降，做推理优化的同学可以关注。
#Flash Attention
2 stories · 0 in 7 days · 0 in 30 days
Stories, products and papers tagged "Flash Attention", newest first.
Jul 15
Jul 12
Chinese contentNVIDIA 基于块的 GPU 编程教程：从 cuTile 和 Triton 内核到 Flash Attention
手把手教你用 TileGym 在 Colab 上跑 cuTile 和 Triton，从向量加法到 Flash Attention，每个步骤都和 PyTorch 对照，适合想深入 GPU 编程的人。
