ProductsSelected

Tri Dao 团队开源内核优化智能体,沉淀两年推理引擎调优经验

Why we picked it

FlashAttention 作者 Tri Dao 把团队两年的 GPU kernel 调优经验做成了自动优化智能体,写高性能算子的可以试试。

FlashAttention 作者 Tri Dao 宣布开源一个面向内核与推理引擎优化的智能体,将其团队两年积累的 GPU kernel 调优经验封装成可自动运行的 agent 工作流,目前已在其生产环境中使用。项目定位于自动生成和优化 kernel 代码,替代部分人工调优流程。

Original · Tri Dao (FlashAttention)

Distilling most of our expertise in kernel and inference engine optimization into an agent loop that powers our production. A 2-year project that we're finally able to share