精选理由
有人晒了 DeepSeek V4 Flash 在 DGX Station 上的实测数据,单机每秒能跑 1875 个 token,128k 上下文首字只要 5 秒,你可以拿这个数去衡量本地部署值不值。
Alec Fong 在单台 GB300 DGX Station 上部署 DeepSeek V4 Flash,测得聚合峰值吞吐 1875 tok/s,单流 300 tok/s,128k 上下文下首 token 延迟 5 秒。推文感叹能在家部署该模型的人相当于 80 年代万元户,令人羡慕。
原文 · Geek
现在能在家部署 DeepSeek V4 Flash 的就相当于80年代的万元户,90年代有私家车,让人羡慕。
现在能在家部署 DeepSeek V4 Flash 的就相当于80年代的万元户,90年代有私家车,让人羡慕。 Alec Fong @alecqfong The DGX Station is a beast at serving DeepSeekV4 Flash On a single GB300 Station I’m getting Peak aggregate 1875 tok/sec Single stream 300 tok/sec TTFT 5s for 128k context 🔗 View Quoted Tweet 💬 1 🔄 0 ❤️ 2 👀 1307 📊 1 ⚡