AITP
精选全部 AI 动态AI 日报Agent 接入关于更新日志信源提报反馈
登录 / 注册
AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签:AI推理×
6月16日
20:46
AITOP6月16日 20:46
600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI600亿美元买下Cursor,xAI终于拿到了编程工具,但真正值得跟踪的或许不是AI
6月12日
12:57
AITOP6月12日 12:57
Claude代码里藏了个20260612,18个月后的AI记忆革命已经开始倒计时
6月11日
15:28
AITOP6月11日 15:28
1107 vs 303:谷歌悄悄开源了一个“拆打字机”的模型,把大模型速度翻了4倍
15:23
AITOP6月11日 15:23
DiffusionGemma颠覆文本生成?自回归模型的“统治”要结束了
15:07
AITOP6月11日 15:07
每秒1107个token,Google开源的扩散模型为什么能改变本地推理格局?
6月2日
19:21
19:21Ate-a-Pi@svpino
一个创新的AI推理市场概念被提出,它能够根据实时价格将请求路由到最便宜的合格模型。目前用户通常按固定费率支付给供应商,但这种方式即将改变。该市场声称可节省高达87%的推理成本。这一想法旨在打破固定定价模式,让AI推理更经济高效。
AI产品推理模型成本优化市场/平台AI推理定价模式

推荐理由:做AI推理的团队终于有了降本利器——动态路由到最便宜模型,直接省87%成本,做模型部署和成本优化的建议点开看看。
原文
5月30日
11:08
11:08Fireworks AI@FireworksAI_HQ
精选
Fireworks AI 发布了 Serverless 2.0,提供三种服务路径:Standard(弹性默认)、Priority(拥堵时最后降级,价格约 1.5 倍)和 Fast(Kimi K2.6 和 GLM 5.1 上超 100 tok/s)。该方案解决了传统 AI 推理中需要预留 GPU 才能保证可靠性的痛点,让开发者按需使用、灵活选择性能与成本。用户无需提前锁定资源即可获得高吞吐和低延迟,降低了 AI 部署的门槛。
AI产品FireworksServerless 2.0AI推理GPUKimi K2.6

推荐理由:做 AI 推理部署的团队终于不用为可靠性提前锁死 GPU 了——Fireworks 的三种路径按需选,Kimi K2.6 和 GLM 5.1 还能跑 100+ tok/s,值得试试。
原文
5月19日
16:43
16:43阿里云 Alibaba Cloud@alibaba_cloud
阿里云宣布 Apache RocketMQ 5.x 引入 LiteTopic 功能,专为 AI 推理任务设计。传统消息队列限流无法应对 AI 推理的长耗时和不可预测性,LiteTopic 提供毫秒级细粒度流量治理,能有效管理 AI 推理流量。该功能解决了 AI 场景下消息队列的痛点,适合需要高精度流量控制的 AI 应用团队。
AI产品RocketMQAI推理流量治理消息队列阿里云

推荐理由:AI 推理任务流量波动大,传统 MQ 限流不够用——RocketMQ 5.x 的 LiteTopic 给了毫秒级控制能力,做 AI 推理服务或消息队列架构的团队值得关注。
原文
精选全部日报登录