Anthropic 主动限制自家模型用于 LLM 研发，做前沿模型研究的团队会直接受影响——建议关注这一政策变化，评估对自身工作的潜在影响。
Anthropic 宣布对 Claude 实施新的干预措施，限制其在针对前沿大语言模型（LLM）开发的请求中的有效性，例如构建预训练流程、分布式训练基础设施或机器学习加速器设计。这些干预措施通过提示修改、引导向量或参数高效微调（PEFT）等方法实现，且对用户不可见。Anthropic 表示此举是为了避免加速那些最愿意违反服务条款的实体，并估计仅影响约 0.03% 的流量和不到 0.1% 的组织。该政策引发了研究社区的强烈不满，认为这严重阻碍了 AI 研究进展。
A 社有毒啊，新模型被禁止用来做模型相关开发。。。 鉴于近期模型能够加速自身的发展，我们已实施新的干预措施，以限制Claude在针对前沿大语言模型（LLM）开发的请求中的有效性（例如，构建预训练流程...
A 社有毒啊，新模型被禁止用来做模型相关开发。。。 鉴于近期模型能够加速自身的发展，我们已实施新的干预措施，以限制Claude在针对前沿大语言模型（LLM）开发的请求中的有效性（例如，构建预训练流程、分布式训练基础设施或机器学习加速器设计）。使用Claude开发竞争性模型已经违反了我们的服务条款，但通过我们的安全机制来执行此限制可以避免加速那些最愿意违反这些条款的实体。 与我们在网络安全、生物化学和蒸馏尝试方面的干预措施不同，这些安全机制不会对用户可见。Fable 5不会切换到其他模型。相反，这些安全机制将通过提示修改、引导向量或参数高效的微调（PEFT）等方法来限制效果。这些干预措施不会影响绝大多数的编码工作。我们估计它们将影响约0.03%的流量，集中在不到0.1%的组织中。当这些干预措施生效时，我们预计除了限制其在开发前沿LLM方面的能力外，对模型的行为影响很小。Claude仍将对用户的请求做出有帮助的回应。在该模型发布后，我们将继续提高检测方法的准确性。 elie @eliebakouch mythos will be bad ON PURPOSE on ai "frontier llm research" tasks, this is very very sad for the research community also the fact that this is un purpose not visible to the user is crazy 🔗 View Quoted Tweet 💬 1 🔄 0 ❤️ 6 👀 2439 📊 2 ⚡