DeepSeek这个Flash新模型参数够劲,304B总参只激活13B,还有1M上下文,配GB300机柜看挺直观。
DeepSeek-V4-Flash-0731参数总规模304B,其中基础模型284B,激活参数仅13B,上下文长度达1M。官方权重采用FP8+FP4混合精度,并包含DSpark speculative decoding模块。配套展示的GB300 NVL72机柜搭载72颗Blackwell Ultra GPU与36颗Grace CPU,总显存约20.7TB,NVLink带宽约130TB/s。
一台 GB300 NVL72: → 72 颗 GB300 (Blackwell Ultra) GPU + 36 颗 Grace CPU。 → 单卡显存:GB300 288 GB HBM3e → 整机柜...
一台 GB300 NVL72: → 72 颗 GB300 (Blackwell Ultra) GPU + 36 颗 Grace CPU。 → 单卡显存:GB300 288 GB HBM3e → 整机柜总显存:72 × 288 GB ≈ 20.7 TB → NVLink 总带宽约 130 TB/s → 全机柜通过 NVLink 5 连成统一内存池,可以视为一张拥有 20TB 显存的“超大 GPU”。 DeepSeek-V4-Flash-0731 核心规格: →304B 参数(0731 仓库包含 DSpark speculative decoding 模块) → 基础模型 284B → 13B activated → 1M context → 官方权重为 FP8 + FP4 Mixed 加油 OpenCode ! 💬 2 🔄 0 ❤️ 2 👀 468 📊 2 ⚡