AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：高速推理×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月9日
00:27
00:27IT之家（博客/媒体）
78°
小米 MiMo 与 TileRT 联合发布 MiMo-V2.5-Pro 的 UltraSpeed 模式，通过模型与系统的极致协同设计，在通用 GPU 上将万亿参数模型的生成速度首次突破 1000 tokens/s。该模式 API 同步上线，定价为原版的 3 倍，但输出速度提升约 10 倍。由于高速推理资源有限，该模式采取申请制限时开放，时间从 2026 年 6 月 9 日至 6 月 23 日，优先审核有真实业务需求的企业与开发者。通过审核的用户可获得限时免费的 Chat 体验，但每日最多成功进入队列 10 次，单次会话时长上限 30 分钟。
AI产品小米 MiMoUltraSpeed 模式万亿参数模型高速推理API 体验
推荐理由：万亿参数模型生成速度首次突破 1000 tokens/s，做高吞吐 AI 应用的企业和开发者值得申请体验，3 倍价格换 10 倍输出效率，性价比极高。
原文
5月22日
10:08
10:08IT之家（博客/媒体）
83°
智谱今日面向部分企业客户推出 GLM-5.1 高速版 API，输出速度达到 400 tokens/s，刷新全球大模型 API 速度上限。该模型首次在国产大模型中实现旗舰级能力与低延迟的结合，打破了高速模型通常为轻量级模型的行业惯例。GLM-5.1 高速版由智谱 GLM 团队与 TileRT 团队联合打造，在推理引擎、调度系统和基础设施三个层面进行系统级优化，确保 400 TPS 是稳定可用的生产级能力。该模型适用于 AI 编程、实时交互、商业决策、实时语音等对响应延迟要求高的场景，现已面向部分企业客户开放服务。
AI模型智谱GLM-5.1高速推理API国产大模型
推荐理由：智谱把旗舰模型的推理速度拉到 400 tokens/s，做实时交互、AI 编程的团队可以直接用，延迟敏感场景终于有了国产高性能选项，建议点开看技术细节。
原文