Together ATLAS 联合 NVIDIA Blackwell 等实现推理延迟优化

Together AI 展示了 ATLAS 系统与 NVIDIA Blackwell、CUDA、TensorRT-LLM、Dynamo 以及自定义内核的协同优化。这套组合拳从 API 底层加速推理过程，降低用户端延迟。项目由 @realDanFu 及其团队主导，旨在提升大规模模型部署的推理效率。