Anthropic 发布自动化研究员系统提升模型对齐

Anthropic 最新论文展示 AI 训练 AI 方法，在 10 项对齐基准测试中全部改善。自动化研究员系统平均只需 6 小时超过人类方案，成本每小时仅 4 美元。系统通过查阅文献、提出训练方案、30 分钟训练模型并迭代优化。研究向递归自我改进迈进一步，可能改变 AI 研究范式。