Anthropic用Claude Mythos发现HAWK和弱AES的数学缺陷

Anthropic研究人员使用Claude Mythos在60小时内发现了HAWK和弱版AES（AES-128 r7）的数学弱点，但两者对当前系统无实际影响。研究花费约10万美元API费用，关键干预是反复用自然语言提示模型“找点值得发表的东西”。研究人员公开了带拼写错误的prompt，例如“no again the goal is that we have highly inteligent model as good top researcher”。实验表明，即使强大模型也需要明确引导才能坚持解决困难问题。