AI模型精选

GPT-5.5百万token上下文检索准确率从80%降至36%:context rot问题

大家都在吹百万token上下文,但Prime Intellect一位工程师说了句大实话: GPT-5.5在256k时检索准确率80%,拉到一百万直接掉到36%。模型不是装不下,是装进去了推理不动——...

精选理由

别被百万token的宣传忽悠了,GPT-5.5实际测试256k时准确率80%,拉到100万直接掉到36%。这不只是容量问题,是模型推理跟不上了。

AI 摘要

Prime Intellect一位工程师指出,GPT-5.5在256k上下文窗口下检索准确率为80%,但扩展到100万token时准确率骤降至36%。这种性能下降被称作context rot,模型并非无法容纳长文本,而是推理能力随上下文长度增加而衰减。该工程师认为,更大上下文无法解决Agent问题,其方案是采用持续学习、训练自身轨迹并在真实环境中部署。

原文 · AI Will

大家都在吹百万token上下文,但Prime Intellect一位工程师说了句大实话: GPT-5.5在256k时检索准确率80%,拉到一百万直接掉到36%。模型不是装不下,是装进去了推理不动——...

大家都在吹百万token上下文,但Prime Intellect一位工程师说了句大实话: GPT-5.5在256k时检索准确率80%,拉到一百万直接掉到36%。模型不是装不下,是装进去了推理不动——所谓的context rot。 为什么更大上下文救不了Agent,方案是持续学习+训练自己的轨迹+真实环境。 Your browser does not support the video tag. 🔗 View on Twitter 💬 2 🔄 0 ❤️ 1 👀 392 📊 2 ⚡

GPT-5.5百万token上下文检索准确率从80%降至36%:context rot问题 · AI 热点