OpenAI 通过系统底层优化将推理成本减半

OpenAI 工程师透露，通过一系列系统底层优化，AI 模型推理成本已降低超过50%。优化主要依靠提升现有服务器资源利用率，而非新增计算芯片。此举可减少英伟达芯片使用量，节省的成本可能用于降低API定价或提高用户使用限额。