RevengeBench:从行为实验逆向工程代码策略

RevengeBench: Reverse Engineering Code-Space Policies from Behavioral Experiments

精选理由

这篇论文出了个RevengeBench基准,能从行为实验反推LLM的策略代码,测了12个模型恢复率34%-72%,弱模型受益最大。

AI 摘要

RevengeBench基准包含75个LLM生成的、基于Elo校准的策略,覆盖5个游戏环境,数据来自CodeClash比赛轨迹。学习者观察隐藏目标策略与对手对战,设计自定义对手策略作为行为探针,并提交可执行假设,用连续动作距离指标评估。在12个前沿LLM上,恢复质量差异显著,从34%到72%的初始距离闭合。重建策略在玩家对玩家锦标赛中提供可衡量的竞争优势,尤其对较弱模型更有帮助。

AI 翻译 · 中文

RevengeBench基准包含75个LLM生成的、基于Elo校准的策略,覆盖5个游戏环境,数据来自CodeClash比赛轨迹。学习者观察隐藏目标策略与对手对战,设计自定义对手策略作为行为探针,并提交可执行假设,用连续动作距离指标评估。在12个前沿LLM上,恢复质量差异显著,从34%到72%的初始距离闭合。重建策略在玩家对玩家锦标赛中提供可衡量的竞争优势,尤其对较弱模型更有帮助。

arXiv cs.LGFor most of scientific history, researchers studying behavior could only infer hidden mechanisms from outward actions: an inverse problem that becomes more tractable when observation is augmented by targeted intervention