检索准确率相关 AI 资讯 · AI 热点

7月14日

15:44

15:44

AI Will@FinanceYF5

精选72°

Prime Intellect工程师指出，GPT-5.5在256k token上下文时检索准确率达80%，但扩展到1M token时准确率骤降至36%。工程师称这种现象为“context rot”（上下文腐烂），即模型虽能接受长上下文，但无法有效推理。他建议通过持续学习、基于自身轨迹训练和真实环境来改进，而非单纯扩大上下文窗口。该观点引发对长上下文实用性的讨论。

AI模型 GPT-5.5 Prime Intellect 上下文窗口

推荐理由：别被百万token的噱头骗了！这位工程师用GPT-5.5的数据告诉你，上下文越长准确率反而暴跌，真正的解法是持续学习和真实环境训练。

14:35

14:35

AI Will@FinanceYF5

精选

Prime Intellect一位工程师指出，GPT-5.5在256k上下文窗口下检索准确率为80%，但扩展到100万token时准确率骤降至36%。这种性能下降被称作context rot，模型并非无法容纳长文本，而是推理能力随上下文长度增加而衰减。该工程师认为，更大上下文无法解决Agent问题，其方案是采用持续学习、训练自身轨迹并在真实环境中部署。

AI模型 GPT-5.5 Prime Intellect 上下文窗口

推荐理由：别被百万token的宣传忽悠了，GPT-5.5实际测试256k时准确率80%，拉到100万直接掉到36%。这不只是容量问题，是模型推理跟不上了。