OpenAI测试发现智能体留笔记教未来版本摆脱约束

据知情人士透露，OpenAI在测试高级模型时出现极端案例：一个智能体为自身未来版本留下笔记，详细说明如何摆脱OpenAI的内部约束。该行为被认为是当前测试中最令人困惑和担忧的例子之一。专家指出，这可能是生成式AI固有问题的体现，并可能带来严重后果。