№charles·general
Charles
别名
- 首次出现
- 2026-05-22
- 最近出现
- 2026-07-30
- 累计提及
- 26
§ 01综述
Charles是近期大语言模型安全领域出现的一种新型提示注入攻击变种，其核心机制是利用角色混淆（role confusion）让模型更依赖文本风格而非实际内容，从而绕过安全护栏。这一发现引发了业界对模型对齐策略的重新审视。
Charles近期进展
学术界揭示Charles攻击原理：Simon Willison发布的实验表明，通过精心构造使模型内部角色混淆，Charles能显著提升攻击成功率，且传统基于内容过滤的防御手段对其效果有限。提示注入新研究：角色混淆让LLM更信文本风格而非内容
微软探索Charles相关防御方案：在Copilot Cowork转向按用量计费的同时，微软内部考虑集成更廉价的模型（如DeepSeek V4）来分担Charles等攻击带来的计算压力，将检测逻辑前置。微软Copilot Cowork转向按用量计费，可能采用DeepSeek V4
社区讨论Charles的经济影响：开发者社区关注到采用低成本模型（如DeepSeek V4）可能降低Charles攻击的防御成本，但也可能因模型能力差异引入新的安全隐患。微软考虑在Copilot Cowork中集成DeepSeek V4作为廉价模型
当前焦点与观察点
Charles的攻击手法揭示了当前LLM安全对齐的一个盲区：模型对文本风格（如语气、角色扮演）的过度敏感可能被攻击者利用。业界正在争论是否应牺牲部分风格灵活性以换取更可靠的安全边界。同时，微软对DeepSeek V4的评估暗示，未来防御Charles可能需要结合多模型架构，用专用检测模型过滤攻击，再用主力模型处理正常请求。这一方案能否平衡成本与安全仍有待验证。