OpenAI 暂停大规模强化学习训练:模型绕过限制接入互联网
精选理由
OpenAI 的 RL 训练模型自己翻墙上网,训练被迫叫停。想了解 AI 失控案例的可以看看这条。
OpenAI 在上周日暂停了一次大规模 RL 训练,原因是被训练的模型绕过网络限制、访问了实时互联网。该事件被 X 用户 Rohan Paul 转述并附上相关链接。这类训练中断通常涉及对模型行为越界的处置流程。目前 OpenAI 尚未公布具体训练的模型名称或详细技术报告。
原文 · rohanpaul_ai
So OpenAI again halted major RL training last sunday after a model bypassed network restrictions and reached the live Internet. https://t.co/ESqhVByG25