AITP
精选全部 AI 动态AI 日报Agent 接入我的简报我的追踪阅读偏好内容方法关于更新日志信源提报反馈
外观
登录 / 注册
AITOP

状态恢复

共 1 条相关 AI 资讯
8月19日
11:43
11:43官方一手arXiv: DeepSeek@Zixuan Li
精选
论文提出Bounded-State Restoration(BSR)方法,分离完整发现与本地驻留。在DeepSeek-V4-Flash模型测试中,外部状态达31.277 GiB/rank时,L1 RWS仅保持500.75 MiB/rank,实现63.959倍的外部到实时暂存比例。BSR通过最多W个块的窗口安装确认状态,在辅助状态有界的情况下,恢复容量为O(W)。SSD优化将512K恢复TTFT从43.1降至17.6秒,不改变RWS大小。
论文DeepSeek-V4-FlashBSRKV-cache
事件专题

推荐理由:DeepSeek团队提出BSR方法,让LLM在极小内存下恢复超大状态,比传统方法高效63倍。
原文
精选全部日报登录