AITOP

推理服务

共 4 条相关 AI 资讯
8月13日
18:08
18:08官方账号Groq@GroqInc
精选
Groq 宣布成为 NVIDIA 云合作伙伴。公司称这是对现有客户体验的验证，即其 AI 基础设施运行达到最高标准。CEO Adam Winter 表示，推理正在成为 AI 中最大最关键的一层，Groq 打算比任何人都运行得更好。
行业GroqNVIDIA推理服务
事件专题
推荐理由：Groq 成了 NVIDIA 的云合作伙伴，等于推理基础设施拿到官方认证，CEO 还放话要跑赢所有人。
原文
7月28日
11:30
11:30官方一手歸藏(guizang.ai)@op7418
Kimi K3已如期开源，并在多家推理服务上线。各平台的API价格保持一致，但部分Token plan已开始打折，例如OpenCode Zen和Cline Pass。Cursor提供的额度也较高。用户预计明天即可在各大平台的Token Plan中使用Kimi K3。
AI模型Kimi K3开源模型推理服务
事件专题
推荐理由：Kimi K3开源了，各平台价格统一，但有些套餐已经开始打折，Cursor给的额度也高，想用便宜算力的可以留意了。
原文
7月17日
00:31
00:31官方账号Together AI@togethercompute
Together AI宣布在生产环境中为Cursor AI提供推理支持，助力其代码生成功能。Cursor AI是一款AI编程助手，Together AI的推理基础设施将提升其响应速度和稳定性。此次合作标志着双方伙伴关系的进一步深化。
行业Together AICursorAI编程助手
事件专题
推荐理由：Together AI给Cursor AI加了推理引擎，编程助手用起来会更顺滑，竞争格局又变了。
原文
5月19日
12:25
12:25Cognition@cognition_labs
72°
Cognition 宣布其 Devin Auto-Triage 工具已被 Modal 等团队用于推理服务的事故排查。该工具能自动监控频道、结合代码库和可观测性栈进行主动调查，无需人工提示即可返回有用分析。Modal 技术成员 Hari Subbaraj 评价其比以往自动排查工具更先进。这标志着 AI 运维自动化从被动响应向主动智能排查的演进。
AI产品DevinAuto-Triage事故排查
推荐理由：做推理服务运维的团队终于有了能主动干活的事故排查工具——Devin Auto-Triage 自动监控、分析代码和指标，省去手动提示的麻烦，建议有运维痛点的团队试试。
原文