精选理由
这篇论文用86k条实际数据告诉你:AI写的测试代码虽然多,但八成没用断言,光靠数量验收会翻车。建议读读他们总结的oracle信号分类。
该论文分析了33,596个AI Agent(OpenAI Codex、GitHub Copilot、Devin、Cursor、Claude Code)提交的86,156个测试文件补丁,发现80.2%的测试补丁包含弱或没有显式断言(oracle signals)。研究者总结出8种oracle信号类型,并发现经过回归分析调整后,强oracle信号使PR合并可能性提高28%(OR=1.28, p<0.001)。结果表明仅凭测试文件数量会高估验证强度。
AI 翻译 · 中文
该论文分析了33,596个AI Agent(OpenAI Codex、GitHub Copilot、Devin、Cursor、Claude Code)提交的86,156个测试文件补丁,发现80.2%的测试补丁包含弱或没有显式断言(oracle signals)。研究者总结出8种oracle信号类型,并发现经过回归分析调整后,强oracle信号使PR合并可能性提高28%(OR=1.28, p<0.001)。结果表明仅凭测试文件数量会高估验证强度。
Software practitioners increasingly use AI coding agents that generate test code alongside production code in open source pull requests (PRs). Recent studies report more than 932,000 agent-authored PRs across more than 1…