All Smoke, No Alarm:AI Agent生成测试代码缺乏断言的实证研究

All Smoke, No Alarm: Oracle Signals in Agent-Authored Test Code

精选理由

这篇论文用86k条实际数据告诉你:AI写的测试代码虽然多,但八成没用断言,光靠数量验收会翻车。建议读读他们总结的oracle信号分类。

AI 摘要

该论文分析了33,596个AI Agent(OpenAI Codex、GitHub Copilot、Devin、Cursor、Claude Code)提交的86,156个测试文件补丁,发现80.2%的测试补丁包含弱或没有显式断言(oracle signals)。研究者总结出8种oracle信号类型,并发现经过回归分析调整后,强oracle信号使PR合并可能性提高28%(OR=1.28, p<0.001)。结果表明仅凭测试文件数量会高估验证强度。

AI 翻译 · 中文

该论文分析了33,596个AI Agent(OpenAI Codex、GitHub Copilot、Devin、Cursor、Claude Code)提交的86,156个测试文件补丁,发现80.2%的测试补丁包含弱或没有显式断言(oracle signals)。研究者总结出8种oracle信号类型,并发现经过回归分析调整后,强oracle信号使PR合并可能性提高28%(OR=1.28, p<0.001)。结果表明仅凭测试文件数量会高估验证强度。

arXiv: OpenAISoftware practitioners increasingly use AI coding agents that generate test code alongside production code in open source pull requests (PRs). Recent studies report more than 932,000 agent-authored PRs across more than 1