08:23Simon Willison’s Weblog（博客/媒体）
推荐理由：这篇论文揭示了一个反直觉的发现：LLM会被文本的风格欺骗，而不是内容。研究者用简单的'去风格化'就能把攻击成功率从61%打到10%，对理解AI安全很有启发。
全部 AI 动态
AI 相关资讯全量信息流
6月23日
08:23
Charles Ye、Jasmine Cui和Dylan Hadfield-Menell的论文发现，LLM在区分角色标签（如<system>、<think>、<assistant>）与用户输入时，更关注文本的书写风格而非实际语义。通过将攻击文本“去风格化”（destyling）改写，使其看起来与特权文本格式不同，平均攻击成功率从61%骤降至10%。该研究表明，当前模型缺乏真正的角色感知，持续提示注入防御仍是难题。
6月20日
01:55
01:55
宝玉@dotey
宝玉@dotey精选
推荐理由：Mitchell 这招挺狠，在项目文件里埋 prompt injection，谁不审代码直接提交就封号。搞开源维护的可以学学这招防饭圈。
6月16日
20:46
AITOP6月16日 20:46
6月12日
12:57
AITOP6月12日 12:57
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
5月19日
08:42
08:42
岚叔@lufzzliz
岚叔@lufzzliz推荐理由：语音AI的安全漏洞正在从文本扩展到音频，做语音助手或音频处理应用的开发者需要警惕，建议立即检查模型输入的安全防护。