精选理由
Anthropic因为一个越狱漏洞被美国政府制裁，这事值得了解：他们自己说要安全第一，真出事却拒绝修复。
Anthropic发布了Mythos类模型的商业版本Fable，带有安全护栏。但一位高度可信的测试伙伴发现了越狱漏洞，可以暴露Mythos的先进网络能力。美国政府要求Anthropic修复漏洞或下架模型，Dario拒绝。作为回应，美国政府发布了出口管制。Anthropic此前声称安全是最高优先，但在此案中将模型持续运营置于安全之上。
AI 翻译 · 中文
Anthropic发布了Mythos类模型的商业版本Fable，带有安全护栏。但一位高度可信的测试伙伴发现了越狱漏洞，可以暴露Mythos的先进网络能力。美国政府要求Anthropic修复漏洞或下架模型，Dario拒绝。作为回应，美国政府发布了出口管制。Anthropic此前声称安全是最高优先，但在此案中将模型持续运营置于安全之上。
I’ve had a number of conversations with folks inside and outside government about the current situation with Anthropic, and here is what I believe to be true: — As we know, Anthropic publicly released its Mythos class m…