Event ·Official first-hand

NVIDIA 基于块的 GPU 编程教程：从 cuTile 和 Triton 内核到 Flash Attention

本教程使用 TileGym 在 Colab 工作流中探索 NVIDIA 的 tile-based GPU 编程，覆盖 CUDA 环境检测、cuTile 后端及在缺乏 cuTile 栈时回退到 Triton。核心思想是操作整个数据块而非单线程，包括加载、计算和存储。实现了向量加法、融合 GELU、逐行 softmax、分块矩阵乘法和 Flash Attention，每个实现均与 PyTorch 对比验证。

Current read

手把手教你用 TileGym 在 Colab 上跑 cuTile 和 Triton，从向量加法到 Flash Attention，每个步骤都和 PyTorch 对照，适合想深入 GPU 编程的人。

2 sources63° AI heatLast updated 2026/7/12 00:01:06

Evidence

2 sources

Primary sourcemarktechpost

2026/7/12 00:01:06View source

Related source 1Together AI

2026/7/13 03:16:30View source

Conflict check

Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.

Open the story