22:40
Guillermo Rauch@rauchg
Guillermo Rauch@rauchg精选
推荐理由：Vercel放出了AI Gateway的TTFT基准，冷热启动都最快，还开源了测试代码，想比一比可以去跑。
TTFT
共 1 条相关 AI 资讯
7月22日
22:40
Vercel AI Gateway在首个token时间（TTFT）基准测试中表现最佳，无论冷启动还是热启动。开源基准测试由Ronny Badilla发布，结果显示Vercel在端到端延迟上胜出，而Cloudflare和OpenRouter在连接阶段（DNS+TCP+TLS）更快。开发者可根据工作负载选择不同网关。