智谱 GLM-5.1 高速版发布,输出速度达 400 tokens/s

智谱 GLM-5.1 高速版 AI 模型发布,跑出全球最快速度 400 tokens/s

精选理由

智谱把旗舰模型的推理速度拉到 400 tokens/s,做实时交互、AI 编程的团队可以直接用,延迟敏感场景终于有了国产高性能选项,建议点开看技术细节。

AI 摘要

智谱今日面向部分企业客户推出 GLM-5.1 高速版 API,输出速度达到 400 tokens/s,刷新全球大模型 API 速度上限。该模型首次在国产大模型中实现旗舰级能力与低延迟的结合,打破了高速模型通常为轻量级模型的行业惯例。GLM-5.1 高速版由智谱 GLM 团队与 TileRT 团队联合打造,在推理引擎、调度系统和基础设施三个层面进行系统级优化,确保 400 TPS 是稳定可用的生产级能力。该模型适用于 AI 编程、实时交互、商业决策、实时语音等对响应延迟要求高的场景,现已面向部分企业客户开放服务。

AI 翻译 · 中文

智谱今日面向部分企业客户推出 GLM-5.1 高速版 API,输出速度达到 400 tokens/s,刷新全球大模型 API 速度上限。该模型首次在国产大模型中实现旗舰级能力与低延迟的结合,打破了高速模型通常为轻量级模型的行业惯例。GLM-5.1 高速版由智谱 GLM 团队与 TileRT 团队联合打造,在推理引擎、调度系统和基础设施三个层面进行系统级优化,确保 400 TPS 是稳定可用的生产级能力。该模型适用于 AI 编程、实时交互、商业决策、实时语音等对响应延迟要求高的场景,现已面向部分企业客户开放服务。

IT之家IT之家 5 月 22 日消息,智谱今日宣布面向部分企业客户提供 GLM-5.1 高速版 API“GLM-5.1-highspeed” 。 该模型输出速度达到 400 tokens/s ,刷新当前全球大模型厂商 API 的速度上限。 更重要的是,在过去,“快”往往意味着“小”,高速模型几乎总是轻量级模型。GLM-5.1 高速版打破了这一行业惯例, 首次在国产大模型中,将旗舰级能力与低延迟同时带入生产环境 。 GLM-5.1 高速版 AP