NVIDIA Nemotron 3.5 Lightning 上线 Baseten,主打长时智能体

https://t.co/pDrxCmnxHe

精选理由

跑长时任务的智能体注意了,Nemotron 3.5 Lightning 上线 Baseten,吞吐翻 4 倍、成本砍半,输出还更精简。

AI 摘要

NVIDIA Nemotron 3.5 Lightning 已在 Baseten 上线,定位为长时运行智能体设计。相比同类开源模型,其吞吐量提升 4 倍,成本降低 50%。在生产测试中,输出 token 数量减少 63.4%。该模型采用 30B MoE 架构,仅激活 3B 参数,支持 100 万 token 上下文。

原文 · NVIDIA AI

https://t.co/pDrxCmnxHe

x.com/baseten/status… Baseten @baseten NVIDIA Nemotron 3.5 Lightning is live on Baseten day 0! This is the fastest open model in its class, built for long-running agents. Compared to similar-sized open models, it offers: - 4x higher throughput - 50% lower cost - 63.4% fewer output tokens in production testing - 30B MoE architecture (3B active) - 1M token context length 🔗 View Quoted Tweet 💬 0 🔄 0 ❤️ 2 👀 74 ⚡

NVIDIA Nemotron 3.5 Lightning 上线 Baseten,主打长时智能体 · AI 热点