Fireworks 每日托管超 40 万亿 token 的专用模型推理
Why we picked it
Fireworks 晒了自家数据:每天处理 40 万亿 token,全是给客户定制的后训练模型,可以看看企业定制模型的需求规模到底有多大。
Fireworks AI 透露其平台每天服务的 token 量超过 40 万亿(40T)。这些 token 来自所谓的"专用模型",即针对客户需求做后训练(post-training)的定制模型。创始人 Nathan Lambert 用这一数据说明定制化模型推理已成为其业务的主要构成。
Original · Nathan Lambert
Fireworks serves >40T tokens a day of "specialized models." I'd define this as any post-trained model for a customer.