AITOP

自我修复

共 2 条相关 AI 资讯
7月1日
09:42
09:42官方账号arXiv cs.LG@Mehmet Iscan
研究使用安慰剂对照方法分解反馈包，针对0.5B-1.5B的冻结代码模型（共3个）在HumanEval+/MBPP+基准上的290个死任务单元进行测试。主实验生成7000个新样本，盲重采样比纯代码重试多解锁18个（25/7，p=0.0021），代码加事实比纯代码多解锁18个（21/3，p=0.00042），与通用子弹安慰剂相比多15个（p=0.0041）。指令单独效果不明显（+3，p=0.36）。研究结论是反馈价值来自与外部可执行反例的比较，而非重新暴露于失败代码。
论文代码模型自我修复反馈安慰剂对照HumanEval+/MBPP+
推荐理由：这篇论文通过精心设计的安慰剂对照实验，拆解了自我修复反馈中真正起作用的成分——不是重新看到失败代码，而是比对可执行反例。方法严谨，结果清晰。
原文
5月21日
08:00