12:08arXiv cs.AI@Ali Pourghasemi Fatideh, Wilder Baldwin, Maria Dhakal, Collin McMillan, Sepideh Ghanavati本研究聚焦LLM对话系统在处理非功能需求(NFRs)时的准确性和对话质量。49名程序员使用GitHub Copilot对148个HIPAA衍生NFR进行评估,基于iTrust代码库,从需求满足度、推理和代码定位三个维度分析。结果显示开发者倾向于认同LLM评估,但与专家标注的真实标准相比准确率较低。更长系统响应和更多信息提供轮次会降低用户满意度,而主动交互则提升满意度。论文为设计面向NFR评估的LLM对话系统提供了经验证据。论文LLMNFRHIPAAGitHub Copilot多轮对话推荐理由:这篇论文用49个程序员和148个实例,实测了GitHub Copilot评估HIPAA合规NFR的准确度,发现开发者容易被带偏,但主动交互反而让人更满意。原文
12:34arXiv: OpenAI@Haoran Yu, Lifei Liu, Xiaochong Jiang, Yuwen Jia, Su Wang, Pin Qian, Yihang Chen一项基于AIDev数据集的长达七个月的纵向分析(400名重复审查者,共11,429条审查记录)发现,审查者对AI生成代码的批准率从30.1%上升至36.8%(Wilcoxon符号秩检验p<10^{-6})。随经验增加,批准率累计差距达14.5个百分点。与此同时,行内评论量下降22%(p=0.0014),但审查延迟增加3.5倍。这种模式提示审查者可能因工作负荷而产生习惯性麻木,而非理性信任调整。论文GitHub CopilotDevinOpenAI CodexCursor代码审查智能体2 个信源在谈推荐理由:这篇论文用真实数据告诉你,人类审查AI代码时会越来越松懈——批准率涨了,评论却少了。做AI代码审核的团队应该看看。原文
09:31arXiv cs.AI@Ali Arabat, Mohammed Sayagh该研究分析了148个项目中15549个由AI智能体(如GitHub Copilot)生成的拉取请求(Agentic-PRs),探讨指令文件对AI智能体性能的影响。研究发现,创建指令文件并不总是提升合并率:27.7%的项目合并率提升至少20%,但26.35%的项目反而下降。代码变更量和合并所需时间等指标也呈现类似分化。初步探索表明,成功提升合并率的项目拥有更长、结构更清晰的指令文件。研究呼吁将指令文件开发视为软件工程活动(Instructions-as-Code),以帮助实践者优化AI协作。论文AI智能体指令文件拉取请求软件工程GitHub Copilot推荐理由:做AI辅助开发的团队会发现,指令文件不是写得越多越好——研究揭示了哪些写法真正有效,建议点开看看如何优化你的项目指令。原文