10:44
arXiv cs.AI@Nicola Franco
推荐理由：Anthropic公开了Fable 5和Opus 4.8的对抗性测试结果：树状攻击破Opus 4.8的11.5%，但Fable 5更抗打，仅6.1%。别被整体数字骗了，残存风险不小。
全部 AI 动态
AI 相关资讯全量信息流
6月17日
10:44
Anthropic发布了对两个前沿模型Fable 5和Opus 4.8的红队研究。研究使用HackAgent框架，对7,826个有害意图进行自动化越狱攻击，覆盖十类危害。最强自适应树状攻击在Opus 4.8上成功率达11.5%，而在Fable 5上仅为6.1%。两个模型分别产生了1,620和702个经专家确认的有害输出。结论表明，即使经过充分测试的前沿模型仍可在持续自动化攻击下被可靠破解。
6月16日
20:46
AITOP6月16日 20:46
10:04
10:04
arXiv: Anthropic@David Huang, Jaewon Chang, Avidan Shah, Prateek Mittal, Chawin Sitawarin
推荐理由：这篇论文讲了对Anthropic等用的越狱检测防御框架的投毒攻击方法，投毒率才1%就能让检测器几乎失效，搞安全的一定要看。
6月12日
12:57
AITOP6月12日 12:57
6月11日
15:28
AITOP6月11日 15:28
15:23
AITOP6月11日 15:23
15:07
AITOP6月11日 15:07
5月29日
12:59
12:59
arXiv: Anthropic@Will Jack, Noah Lehman, Keller Maloney, Sarah Xu
精选
推荐理由：做AI产品评测或品牌策略的团队会发现，用户画像对推荐结果的影响比想象中大得多——Anthropic的模型尤其容易“看人下菜碟”，建议点开了解如何避免测量偏差。
5月22日
11:38
11:38
arXiv: OpenAI@Andrii Kryshtal
精选72°
推荐理由：做 AI 安全评估或部署在敏感地区的团队，这篇论文给出了第一个可复用的冲突场景测试框架，能直接用来检查模型是否会在关键议题上“和稀泥”——看完你会重新审视“中立”输出的代价。