FP16 是一种 16 位半精度浮点数格式，在深度学习训练和推理中被广泛用作 FP32 的替代，能在几乎不损失模型效果的情况下将显存占用和计算开销减半。围绕 FP16 的讨论近主要集中在两个方向：一是社区发现消费级 RTX 30 系列显卡存在被限制的 FP16/BF16 算力，可通过开源工具解锁；二是 BF16 与 FP16 等不同精度格式对大语言模型输出一致性的影响开始受到学术关注。
FP16 解锁工具的近期进展
社区针对消费级 GPU 的 FP16 限制掀起了不小的波澜。据 社区项目解锁 RTX GPU 的 FP16/BF16 限制，Tensor 基准提升最高 80% 报道，相关开源工具解除限制后 Tensor 基准测试性能最高提升 80%。随后 N 卡解锁隐藏算力工具推出 Windows 版，3090 Ti 矩阵性能提升 86% 提到该工具已登陆 Windows 平台，3090 Ti 矩阵性能提升达 86%。
具体到单卡表现，3090 被解锁 FP16 限制，PyTorch 算力从 75 提到 135 TFLOPS 显示 RTX 3090 在 PyTorch 环境下的算力从 75 TFLOPS 提升至 135 TFLOPS，几乎翻倍。另一条 RTX 3090 被社区解锁 AI 算力限制，同功耗下性能提升约 80% 强调提升是在相同功耗下实现的。此外，开源项目 GPU Unlock 可释放 RTX 30 系列显卡隐藏算力，性能提升可达 60% 指出整个 RTX 30 系列均可受益，幅度在 60% 左右。
当前焦点与观察点
精度格式本身的学术讨论也在升温。一项研究 研究发现 LLM 推理输出随数值精度变化：BF16 与 FP16 会产生不同结果 表明，BF16 与 FP16 在大模型推理中会产生可观测的输出差异，这意味着精度选择不只是效率问题，也关系到结果复现性。同时，SpecQuant框架通过多父量化实现LLM自适应高效推理 显示更低比特量化正在成为 FP16/BF16 之外的优化路径，端侧场景中 在手机 NPU 上跑 LoRA 微调：不传数据也能个性化训练 也说明低精度计算正下沉到移动设备。
综合来看，FP16 领域的争议点在于：消费级 GPU 的算力限制属于厂商的产品策略，社区解锁虽然在技术上有效，但其稳定性、保修风险以及是否长期可用仍存不确定性；而在产业层面，从 FP16 到 BF16 再到量化与 FP8 的精度演进，正在重塑模型部署的性价比计算方式。对普通用户而言，解锁 RTX 30 系列 FP16 算力是目前性价比最高的本地 AI 提速手段之一，但建议先评估兼容性与风险。