384k

general · First seen 2026-08-13 · Last seen 2026-10-21 · 12 mentions

Overview

384K 指的是大语言模型一次推理所能处理的最大上下文长度达到约 38.4 万个 token,相当于数百万字的文本输入,是当前长上下文模型的重要指标之一。围绕 384K 的讨论主要集中在新发布模型如何兼顾超长上下文与低延迟、低价格之间的平衡。

384K 上下文模型的近期进展

  • SubQ Snap 发布:面向企业决策的 384K 长上下文模型:Subquadratic 发布的决策类模型 SubQ Snap 单次推理支持 384K tokens,定位企业级决策场景,并在 Decision Index 榜单上处于领先位置(相关报道)。
  • SubQ Snap 决策模型实现线性扩展,384K 上下文 660ms 起步:该模型声称在 384K 上下文下实现线性扩展,起步延迟仅 660ms,试图解决超长上下文模型响应慢的痛点。
  • DeepSeek 发布 V4.1-Flash-1017 并下调 API 价格:DeepSeek 在模型迭代的同时下调 API 价格,调价方案于 8 月 17 日生效,并将节假日、调休周末划入空闲时段计费,加剧了长上下文推理的价格竞争。有评论称这次DeepSeek V4.1 Flash 的发布"一次把自家旗舰送走"。
  • 千问办公首发上线 GLM-5.3 和 DeepSeek V4 Pro 模型:办公类应用开始直接接入最新模型,长上下文能力正从开发者 API 向终端应用渗透。
  • 当前焦点与观察点

    围绕 384K 级别上下文的竞争已经从"能不能做到"转向"做得是否够快、够便宜"。SubQ Snap 主打决策场景,把 660ms 的起步延迟作为卖点;DeepSeek 则通过连续降价把长上下文推理的成本继续往下压。值得关注的问题包括:384K 上下文在实际业务中的有效利用率(模型是否真正"读完"长文本)、超长输入下的推理成本结构,以及决策专用模型与通用模型在评测基准上的可比性。此外,长上下文能力正成为办公软件的默认配置,未来模型的差异化可能更多体现在延迟与价格,而非单纯的 token 窗口大小。

    Coverage

    10 on file
    384k · AI 话题观测|AI热报