模型71°

DeepSeek 疑似在新架构上推进,V4.1 或将采用 YOCO 相关设计

精选理由

有人推测 DeepSeek V4.1 会用 YOCO 这类新架构,如果靠谱,KV 缓存开销可能大幅下降,架构党可以留意。

DeepSeek 曾将 YOCO(You Only Cache Once)架构重新带回公众视野,引发对中国模型底层架构新一轮演进的关注。这条推文认为 DeepSeek V4.1 可能会采用相关骨干架构并产生较大影响。推文未给出具体参数、基准成绩或发布时间,内容属于作者的推测与评价。作者同时称 DeepSeek 是中国最好的 AI 研究机构。

原文 · Teortaxes

> Ever since DeepSeek brought YOCO back into the spotlight, Chinese model backbones seem to have entered another wave of architectural evolution. V4.1 will probably be very influential. Liang Sheng be like: "let me show you the way… again". Best Chinese AI research institute. https://t.co/29vZNHGRF2