技巧精选

上下文达到80%不必过度干预,compact与Handoff经验谈

频繁到 80% 并不是什么大问题,compact 并不会频繁执行,因为执行太多一方面影响正在执行任务上下文准确性(也许压缩后,需要重新补充上下文),一方面也不能充分利用 Prompt Caching。...

精选理由

别盯着上下文进度条了,compact没那么可怕。Handoff治标不治本,多设验证才是真省心。

AI 摘要

针对 gpt-5.6 sol max 在长任务中 auto compact 频繁突破 80% 的疑问,dotey 认为无需紧张。compact 执行过多会损害正在执行任务的上下文准确性,同时无法充分利用 Prompt Caching。目前模型长上下文处理能力已足够强,Harness 层会在 prompt 末尾补充提示,保障任务注意力。Handoff 只能缓解问题,新 session 会因补充上下文再次占满,更有效的是设置验证机制减少人工干预。

原文 · 宝玉

频繁到 80% 并不是什么大问题,compact 并不会频繁执行,因为执行太多一方面影响正在执行任务上下文准确性(也许压缩后,需要重新补充上下文),一方面也不能充分利用 Prompt Caching。...

频繁到 80% 并不是什么大问题,compact 并不会频繁执行,因为执行太多一方面影响正在执行任务上下文准确性(也许压缩后,需要重新补充上下文),一方面也不能充分利用 Prompt Caching。 x.com/Tz_2022/status… 并不用太担心上下文 80% 影响性能的问题,因为现在模型处理长上下文能力已经很强,Harness 层也会补充一些提示信息,最新要做的事都在 prompt 最后的位置,能保证模型执行当前任务的注意力,所以对任务执行影响不大。 Handoff 并不能解决这种问题,只能适当缓解,因为新开session 也会很快因为补充上下文又会满。你不可能一直盯着它也没必要。 最佳方式就是相信它能自己处理好,设置好如何验证让它少走弯路少人工干预才是最佳使用方式。 Tz @Tz_2022 @dotey 我就是因为这两天 gpt-5.6 sol max 做任务 auto compact 频繁突破 80%,才逼得我开始用 handoff 来解决问题。。。🙃🙃🙃 🔗 View Quoted Tweet 💬 0 🔄 0 ❤️ 0 👀 284 ⚡