TFLOPs

general · First seen 2026-06-11 · Last seen 2026-10-26 · 46 mentions

Overview

TFLOPs(每秒万亿次浮点运算)是衡量 AI 芯片算力的核心指标,无论英伟达 GPU、华为昇腾还是国产 NPU,厂商都用它标定硬件性能上限。不过这一指标近期正经历一场语义上的考验:同样的数字背后,精度格式、功耗条件和实际利用率差异巨大,单纯堆 TFLOPs 数字正在失去说服力。

TFLOPs 相关近期进展

  • RTX 3090 被社区解锁 FP16 限制:2025 年末,开发者 Lxfater 发布方案解锁 RTX 3090 的 FP16 算力限制,PyTorch 实测算力从约 75 TFLOPS 提升至 135 TFLOPS,同功耗下 AI 性能提升约 80%——一张老卡改个限制就能翻倍,说明标称 TFLOPs 与可用算力之间常有人为或软件层面的差距(3090 被解锁 FP16 限制、RTX 3090 被社区解锁 AI 算力限制)。
  • Blackwell Ultra 刷新单卡 TFLOPS 纪录:英伟达宣布在 Blackwell Ultra GB300 上预训练 DeepSeek-V3 671B(MoE 架构)达到 1648 TFLOPS/GPU,刷新 MoE 预训练世界纪录,展示顶级 GPU 在大规模训练中的实际吞吐(NVIDIA Blackwell Ultra 创纪录、GB300 刷新 MoE 预训练世界纪录)。
  • 国产与新兴 AI 芯片持续追赶:SemiAnalysis 实测华为 Ascend 950PR,性能约为 H100 的 44%;HyperAccel 的 Bertha 4nm AI 芯片进入量产;国科亿道与后摩智能发布集成 160TOPS NPU 的 FN008 笔电,端侧算力也在快速上行(Ascend 950PR 实测、Bertha 4nm 量产、FN008 笔电)。
  • 基建层面瓶颈转向电力:谷歌 TPU 集群规模已达百万级,但报道指出电力供应正成为 AI 算力扩张的核心瓶颈;摩尔线程王东亦表示推理市场没有万能芯片,最终靠解决方案组合取胜(谷歌 TPU 基建、摩尔线程观点)。
  • 当前焦点与观察点

    TFLOPs 的争议集中在三点:一是精度口径,FP16、FP8、INT8 的数字不可直接对比,3090 解锁事件更提醒用户留意厂商在软件层的限制;二是利用率,1648 TFLOPS/GPU 这类纪录是在特定模型与优化下的峰值,日常训练推理往往远低于此;三是能耗比,百万级 TPU 集群面临电力瓶颈,意味着每瓦 TFLOPs 正比绝对算力数字更重要。观察后续硬件评测,建议同时关注实测吞吐、功耗与单位成本,而非只看标称峰值。

    Coverage

    10 on file