Elvis Saravia：Anthropic 模型的拒绝机制阻碍自主科研循环

AI研究者 Elvis Saravia（omarsar0）在 X 上发帖称，Anthropic 有权自由处置自己的模型，但科研人员在用这些模型推进开放科学时会因拒绝机制遭遇很大困难。他基于个人经验指出，问题不只是论文复现（多数情况下也会失败），而是用于改进 AI 系统某些方面的 autoresearch 循环（自主研究循环）几乎无法在这些模型上运行。该帖发布后获得约 800 次浏览和 3 次点赞。 Saravia 的观点针对的是 Anthropic 模型以安全对齐严格著称的拒绝行为：当模型被用于自动化研究工作流时，涉及 AI 系统改进本身的提示会频繁触发拒答，导致自主循环中断。他强调自己并非指责 Anthropic，而是提醒以科研为目的的用户在选择模型时需要考虑这一实际限制。