AITP
精选全部 AI 动态AI 日报Agent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOP

推测性解码

共 1 条相关 AI 资讯
7月30日
14:08
14:08IT之家(博客/媒体)
83°
OpenAI 于7月29日部署 GPT-5.6 Sol 模型优化 GPT-5.6 系列推理链路。该模型通过 Codex 分析生产流量并学习 Triton 和 Gluon 语言,自主改写 GPU 内核,使端到端服务成本降低最多20%。此外,优化推测性解码后,token 生成效率提升超过15%。OpenAI 还使用开源工具 FpSan 验证内核正确性。
AI模型GPT-5.6 SolOpenAI推理优化
事件专题

推荐理由:OpenAI 让自家模型 GPT-5.6 Sol 反过来优化自己的推理,成本降了20%,token 生成快了15%,挺有意思的。
原文
精选全部日报登录