02:33
Fireworks AI@FireworksAI_HQ
Fireworks AI@FireworksAI_HQ精选76°
推荐理由：Fireworks 和 MiniMax 把稀疏注意力内核开源了，实测吞吐快了1.6倍，搞推理优化的不可错过。
MSA
共 2 条相关 AI 资讯
7月30日
02:33
Fireworks AI 和 MiniMax 联合公开了 MiniMax Sparse Attention（MSA）内核的代码仓库。Fireworks 优化了注意力内核的加载与存储流水线，实现了 1.6 倍吞吐量提升。两个内核仓库已分别在 GitHub 上开源（fw-ai/minimax-… 和 MiniMax-AI/MSA…）。这项工作旨在推动开源实现的实际价值。
6月17日
23:33
23:33
官方一手marktechpost@Asif Razzaq
官方一手marktechpost@Asif Razzaq精选
推荐理由：MiniMax 搞了个新稀疏注意力 MSA，1M 上下文计算量降 28 倍，准度却一点没掉，适合长文本场景。