18:34
Together AI@togethercompute
Together AI@togethercompute推荐理由：Together AI 把 DeepSeek V4 Pro 调到了速度与延迟双第一，还公开了优化方法，搞推理部署的值得看看。
全部 AI 动态
AI 相关资讯全量信息流
6月19日
18:34
Together AI 部署的 DeepSeek V4 Pro 在 Artificial Analysis 基准测试中同时获得输出速度和延迟两项第一。该成绩通过优化 KV 缓存、前缀复用、内核及端点配置实现。Together AI 公开了其推理系统的具体工程方案，包括缓存策略和内核调优。
6月16日
20:46
AITOP6月16日 20:46
6月13日
13:11
13:11
LMSYS Org (SGLang)@lmsysorg
LMSYS Org (SGLang)@lmsysorg精选73°
推荐理由：SGLang在GB300上跑DeepSeek V4 Pro，每GPU超1.2万token
6月12日
12:57
AITOP6月12日 12:57
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
