AI计算资源紧缺：Kimi K3部署成本高达400万美元，推理性能大幅下降

Deedy指出，Kimi K3上线2天即成为OpenRouter第10大模型，每日处理约1400亿token。但由于基础设施承压，吞吐量从30tok/s降至13tok/s，端到端延迟增至72秒，首token延迟超20秒。部署K3最低需购买8块B300（成本约50万美元），推荐配置GB300 NVL72机架耗资约400万美元。Moonshot及多数美国推理提供商均面临算力瓶颈，Meta拥有约7GW算力但无明确模型规划，成为最大变数。算力需求增长超3个数量级，前沿智能性能按METR任务时间提升32倍，算力锁定者受益显著。