速度优化相关 AI 资讯 · AI 热点

8月14日

12:30

12:30

官方账号Greg Brockman@gdb

73°

OpenAI 预览了 GPT-5.6 Sol 的 Ultrafast 模式，推理速度最高可达 14 倍。该模式将率先通过 OpenAI API 向选定客户开放，后续随容量增长扩展至更多企业。目前该模式仅处于 API 预览阶段，具体价格与正式上线时间尚未公布。

AI模型 GPT-5.6 Sol OpenAI API

推荐理由：OpenAI 刚展示了 GPT-5.6 Sol 的 Ultrafast 模式，速度拉到 14 倍，API 客户能先尝鲜。

7月9日

10:08

10:08

Cognition@cognition_labs

Cognition 推出 SWE-1.7 模型，在多项基准测试中得分仅落后最强前沿模型几个百分点，但推理成本降低一个数量级。该模型推理速度达到 1000 tok/s，已开放使用。Cognition 通过改进强化学习配方，在扩展模型规模时持续获得性能提升。

AI模型 SWE-1.7 Cognition 推理模型

推荐理由：Cognition 新模型 SWE-1.7 又快又便宜，性能只比顶尖模型差一点点，适合做低成本推理。

6月28日

13:09

13:09

官方一手pandaily@contact@pandaily.com (Pandaily)

精选73°

DeepSeek 在获 70 亿美元融资后发布首篇论文，提出 DSpark 推测解码框架，在无需额外训练的情况下将大模型生成速度提升 85%。该框架通过轻量级草稿模型配合验证机制加速推理，在多个基准测试中达到与原始模型相当的质量。DSpark 支持即插即用，可适配现有 DeepSeek 系列模型，显著降低延迟。

AI模型 DeepSeek DSpark 推理模型

推荐理由：DeepSeek 刚发了 DSpark，跑大模型生成能快 85%，还是即插即用的。搞推理加速的朋友可以关注。