08:23Simon Willison’s Weblog（博客/媒体）
推荐理由：这篇论文揭示了一个反直觉的发现：LLM会被文本的风格欺骗，而不是内容。研究者用简单的'去风格化'就能把攻击成功率从61%打到10%，对理解AI安全很有启发。
全部 AI 动态
AI 相关资讯全量信息流
6月23日
08:23
Charles Ye、Jasmine Cui和Dylan Hadfield-Menell的论文发现，LLM在区分角色标签（如<system>、<think>、<assistant>）与用户输入时，更关注文本的书写风格而非实际语义。通过将攻击文本“去风格化”（destyling）改写，使其看起来与特权文本格式不同，平均攻击成功率从61%骤降至10%。该研究表明，当前模型缺乏真正的角色感知，持续提示注入防御仍是难题。
6月16日
20:46
AITOP6月16日 20:46
6月12日
12:57
AITOP6月12日 12:57
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
5月16日
22:42
22:42
向阳乔木@vista8
推荐理由：想快速吃透 YouTube 视频或学术论文的读者，Knowly 是 NotebookLM 之外的好选择，Chrome 插件已被谷歌精选，值得一试。