精选理由
做 AI 编程智能体或评估基准的团队,这篇论文揭示了主流基准(如 SWE-Bench)掩盖的能力差距——强智能体在陌生语言上的元编程策略值得借鉴,建议点开看具体实现方法。
一项新研究评估了六个当代编程智能体在四种冷门编程语言(如 Brainfuck 和 Befunge-98)上的表现,发现最强智能体(Claude Opus 4.6 和 GPT-5.4 xhigh)会采用元编程策略——先写 Python 程序生成目标语言代码并本地调试,而非直接写目标语言。禁止这种策略会导致性能大幅下降。研究还发现,从强模型提炼的文本指导对弱模型帮助有限,但提供 Python 辅助代码能显著提升 Sonnet 4.6 和 GPT-5.4 mini 的表现。这表明强智能体通过工具、反馈和工作区状态构建目标语言的工作模型来适应陌生环境,元编程只是最明显的例子。
AI 翻译 · 中文
一项新研究评估了六个当代编程智能体在四种冷门编程语言(如 Brainfuck 和 Befunge-98)上的表现,发现最强智能体(Claude Opus 4.6 和 GPT-5.4 xhigh)会采用元编程策略——先写 Python 程序生成目标语言代码并本地调试,而非直接写目标语言。禁止这种策略会导致性能大幅下降。研究还发现,从强模型提炼的文本指导对弱模型帮助有限,但提供 Python 辅助代码能显著提升 Sonnet 4.6 和 GPT-5.4 mini 的表现。这表明强智能体通过工具、反馈和工作区状态构建目标语言的工作模型来适应陌生环境,元编程只是最明显的例子。
LLM-based coding agents are usually evaluated in familiar software settings: mainstream languages, common libraries, and public repositories. These benchmarks remain important, but they can hide how agents behave when th…