Capacity(算力容量)指大模型服务可提供的推理与训练计算资源总量,是 AI 行业当前最稀缺的资源之一。随着模型使用量激增,容量不足直接表现为用户端的"at capacity"报错、响应降级,以及企业端的算力争夺与长协锁定,已从技术问题演变为商业与产业博弈的焦点。
Capacity 的近期进展
当前焦点与观察点
当前的 capacity 之争呈现三层结构。第一层是用户侧体验:容量告急时厂商往往降级模型或限流,"at capacity"报错与质量波动成为用户最直接的感知。第二层是商业侧分配:OpenAI 的 Guaranteed Capacity 把容量变成可签长约的商品,类似云时代的预留实例,但价格与优先级机制尚不透明。第三层是基础设施侧约束:TEPCO 治理"占位不用电"表明,真正的瓶颈正从 GPU 转向电力与机房,抢占资源而未投产的行为开始受到监管约束。
值得关注的问题包括:长协锁定是否会挤压中小开发者的可用容量;闲置容量的动态调度(如 Meta 的做法)能否成为行业标配;以及离线审计与容量感知类研究(如针对医院再入院预测偏差的容量感知策略)提示的方向——容量约束不应只被视为工程问题,也会影响模型部署决策与公平性。总体来看,capacity 在未来一段时间仍将是衡量 AI 厂商真实供给能力的核心指标。