主要来源arXiv cs.LG
查看原文事件专题 ·多源确认
TurboPairFormer：优化三角注意力内核，加速蛋白质折叠模型训练
三角注意力是 AlphaFold3 类生物分子模型的核心计算，token 数增加时开销呈三次方增长。TurboPairFormer 针对 NVIDIA Hopper GPU 重新实现了这一计算，采用 key-tile 并行反向算法，避免浮点原子操作和完整 score 梯度存储。其输出残差补偿方法将各梯度相对 FP64 参考的 RMSE 降低 28-47%，且在全部 600 个输入案例中五次重复调用梯度 bitwise 一致。集成进 OpenFold3 后，在 16 张 H100 上 crop size 768 时比 OpenFold3 的 Triton 后端快 1.73 倍，比 cuEquivariance 快 1.13 倍。
当前结论
搞蛋白质结构预测的可以看看，这个 TurboPairFormer 把 AlphaFold3 式训练的三角注意力算子重写了一遍，比 Triton 后端快 1.73 倍，数值还更稳定。
6 个信源42° AI 热度最后更新 2026/10/5 06:16:34
证据链
6 个信源冲突核查
现有去重数据只说明这些来源讨论同一事件，不代表立场相同。当前没有结构化的支持或反驳证据，不自动推断冲突。