Event ·Single source

Garry Tan 开源 g-harness-evals:固定模型只换 agent harness 对比准确率与成本

Garry Tan 在 GitHub 开源了 g-harness-evals,用虚构公司 Pemberline 的模拟 Slack 办公场景测试 agent,共 20 道公开开发集任务。模型固定为 Opus 5.5 或 GPT-6.1 Sol,只更换 harness,对比 Claude Code、Codex、Hermes、OpenClaw 等方案。各 harness 准确率集中在 71% 到 79%,差距在 8-14 个百分点内无法确认,Garry 承认这套题接近饱和。真正拉开差距的是成本和速度:Sol 上 Codex 解一题约 0.17 美元、约 30 秒,OpenClaw 在 Opus 上则约 0.44 美元、99 秒。判分通过检查任务结束后的系统状态和事件日志,确认正确性、泄密和越权读取。

Current read

Garry Tan 把同一批任务跑在不同 agent harness 上,发现准确率都差不多,但 Codex 一题只要 1 毛 7、30 秒,OpenClaw 贵一倍多还慢,选框架前可以看看。

2 sources47° AI heatLast updated 2026/11/9 08:54:37

Evidence

2 sources

Conflict check

Dedup data only shows that these sources discuss the same event, not that they agree. There is no structured supporting or refuting evidence yet, so no conflict is inferred automatically.