02:35
官方一手marktechpost@Sana Hassan
官方一手marktechpost@Sana Hassan78°
推荐理由：想让你自己训练的Transformer跑得更快？这篇手把手教你用NVIDIA Transformer Engine和FP8，还有代码和GPU跑分对比。
混合精度
共 2 条相关 AI 资讯
8月2日
02:35
教程演示如何在PyTorch中配置NVIDIA Transformer Engine的融合GPU内核。使用FP8延迟缩放和BF16混合精度训练GPT风格因果语言模型。文章提供了可运行的代码示例，并给出不同GPU上的基准测试对比。还解释了FP8延迟缩放的数值稳定性调参方法。
6月12日
09:37
09:37
官方账号arXiv cs.LG@Mariya Pavlova, Harrison Bo Hua Zhu, Elizsveta Semenova, Yingzhen Li
推荐理由：时序模型部署时量化误差会随时间累积，TQS用动力系统理论解决了这一痛点，做边缘设备或IoT部署的工程师可以直接参考。