#FlashBoot

共 2 条 · 7 天 0 条 · 30 天 1 条

信息流里打上「FlashBoot」标签的资讯、产品与论文，按刊登时间排，新的在上。

8月11日

论文多源确认精选10:43

SGLang团队搞的FlashBoot，把大模型权重加载从20秒压到0.4秒，跨节点复制只要10毫秒。跑DeepSeek-V4系列，NVL72上实测数据，做弹性部署的值得看。

arXiv: DeepSeek@Issac Zhu 等 6 人9 个信源在谈原文

7月21日

产品精选04:20

Runpod让部署大模型像serverless函数一样快，冷启动200ms，成本降90%，不用再纠结闲置GPU还是等待加载了。

Ate-a-Pi@svpino原文