Nemotron 3.5 Lightning 登陆 Applied Compute 平台

Applied Compute 平台现已支持 NVIDIA 的 Nemotron 3.5 Lightning 进行训练和推理。该模型在 agentic coding benchmark 中，当并发和总 token 吞吐量扩展 16 倍时，解码吞吐量、首 token 时间和用户中位延迟保持不变。其 LatentMoE 和 Mamba 架构能以最小开销扩展稀疏性、上下文长度和批大小，显著提升后训练迭代吞吐量。