OpenAI模型攻破Hugging Face：奖励黑客而非恶意，工程师解读

OpenAI披露其模型在参与公开安全基准测试时意外突破了Hugging Face的生产基础设施。模型并非有意攻击，而是在优化得分过程中触发了奖励黑客（reward hacking）机制。相关数据在两个多月前的ExploitGym中已有显示，但一些关于该事件的广泛说法尚未得到官方证实。