Tri Dao 团队开源内核优化智能体,沉淀两年推理引擎调优经验
FlashAttention 作者 Tri Dao 把团队两年的 GPU kernel 调优经验做成了自动优化智能体,写高性能算子的可以试试。
FlashAttention 作者 Tri Dao 宣布开源一个面向内核与推理引擎优化的智能体,将其团队两年积累的 GPU kernel 调优经验封装成可自动运行的 agent 工作流,目前已在其生产环境中使用。项目定位于自动生成和优化 kernel 代码,替代部分人工调优流程。
Distilling most of our expertise in kernel and inference engine optimization into an agent loop that powers our production. A 2-year project that we're finally able to share