Primary sourcearXiv: DeepSeek
View sourceEvent ·Official first-hand
TRUST 框架为递归自我改进加统计检验门槛
arXiv 论文提出 TRUST(Trustworthy Recursive Updates with Statistical Testing)框架,用于让 AI 智能体在不重训底层 LLM 的前提下通过修改自身 harness 实现可靠的递归自我改进。核心问题在于更新门控:贪心门控只看验证集分数提升就接受更新,实验中 45.59% 的被接受更新实际是劣化更新,导致性能退化。 TRUST 的机制是把在线多重假设检验流程移植到进化轮次中,控制跨轮次的虚假进化率,并由 LLM 分析历史上下文来决定接受一次更新需要多少证据。论文在可解释的假设下证明了 TRUST 能限制被接受更新中造成不可接受性能损失的比例,并推导出最终性能增益的下界。 在 HotpotQA、DROP、APPS 三个基准上,使用 DeepSeek-V4-Flash 和 Qwen-3.8-Flash 两个模型,TRUST 把劣化更新接受比例从贪心门控的 45.59% 降到 2.78%,最终分数也高于现有的统计门控基线。
Current read
智能体改自己的代码时最怕把噪声当进步,贪心门控近一半更新其实是在变差。这篇论文用在线假设检验把劣化率压到 2.78%,还给了性能增益下界证明。做自进化智能体框架的开发者值得把这套门控思路搬过去。
2 sources41° AI heatLast updated 2026/11/7 15:12:01
Evidence
2 sourcesRelated source 1Suhail
View sourceConflict check
Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.