#FP8

想让你自己训练的Transformer跑得更快？这篇手把手教你用NVIDIA Transformer Engine和FP8，还有代码和GPU跑分对比。

官方一手marktechpost@Sana Hassan原文

联想新方案单节点塞40张GPU，FP8算力28 PFLOPS，专为万亿参数大模型打造，部署快、扩展灵活，适合大规模训练和推理。

DeepGEMM 解决了 FP8 矩阵乘法的性能瓶颈，做大规模模型训练或推理的团队可以直接集成，获得接近理论峰值的算力利用率，值得一试。