大模型无需微调即可遭受密码攻击

研究人员发现前沿大模型无需微调即可通过提示词学习密码通信技能。该攻击方法绕过了Anthropic、Google和OpenAI等公司开发的模型的安全防护机制。攻击者通过加密有害内容，使模型输出看似无意义的文本，从而绕过有害内容分类器。