#NVIDIA Blackwell

共 6 条 · 7 天 0 条 · 30 天 0 条

AI加速 1 TensorRT-LLM 1 Together ATLAS 1 推理优化 1

信息流里打上「NVIDIA Blackwell」标签的资讯、产品与论文，按刊登时间排，新的在上。

7月13日

产品多源确认精选11:16

Together ATLAS 联合 NVIDIA Blackwell 等实现推理延迟优化

Together AI 把底层优化玩出花，ATLAS 加上 NVIDIA Blackwell 和一套 CUDA/TensorRT 工具，推理速度能快不少。搞部署的可以看看这套方案。

#Together ATLAS #NVIDIA Blackwell #TensorRT-LLM #推理优化

官方账号Together AI@togethercompute5 个信源在谈原文

7月2日

模型中美对照多源确认72°20:29

Qwen3.6-27B-NVFP4发布，vLLM支持Blackwell GPU推理

Qwen3.6-27B-NVFP4来了！在Blackwell上内存减半，MMLU Pro 86.3分，用vLLM就能跑，开源模型本地AI更省显存。

#Qwen #vLLM #NVIDIA Blackwell #推理优化

官方账号vLLM@vllm_project11 个信源在谈原文

6月26日

技巧 Agent 与开发者官方一手精选00:55

使用NVIDIA Blackwell优化Amazon SageMaker AI模型训练

AWS发了篇实战教程，教你用NVIDIA Blackwell在SageMaker上调优训练，从选精度到调batch size都讲清了，搞大模型训练的人别错过。

#Amazon SageMaker AI #NVIDIA Blackwell #P6-B200实例 #训练优化

官方一手AWS Machine Learning Blog@Andrea Gallo6 个信源在谈原文

6月24日

模型中美对照官方一手76°15:30

DFlash投机解码：并行起草整块token，在Blackwell上吞吐量提升15倍

UC San Diego搞了个新方法DFlash，用扩散模型直接生成整段token，比自回归快几倍，Qwen3-8B上6倍加速，Blackwell上15倍，还开源了检查点，搞推理加速的可以看看。

#DFlash #Qwen3-8B #NVIDIA Blackwell #投机解码

官方一手marktechpost@Asif Razzaq9 个信源在谈原文

6月19日

行业多源确认18:38

DecagonAI 借助 Together AI 将语音代理成本降低近6倍

DecagonAI 把语音成本砍到原来的1/6，延迟还压到400ms以下，实时语音项目可以参考他们迁移开源模型的做法。

#DecagonAI #Together AI #NVIDIA Blackwell #语音代理

官方账号Together AI@togethercompute7 个信源在谈原文

5月22日

模型中美对照精选14:56

Cohere Command A+ 模型与 NVIDIA Blackwell 深度合作

Cohere 与 NVIDIA 的深度合作让 Command A+ 在 Blackwell 上跑出最佳性能，做企业级 AI 部署的团队值得关注这个新选择。

#Cohere #Command A+#NVIDIA Blackwell #AI 基础设施

官方账号Cohere@cohere原文