#jailbreak detection

4 stories · 0 in 7 days · 0 in 30 days

Stories, products and papers tagged "jailbreak detection", newest first.

Sep 30

这篇论文揭示了梯度检测在多轮对话中的局限性，对AI安全研究人员和模型开发者有重要参考价值。

arXiv cs.LG@Omar Sheta et al. (4)Source

Jul 2

ProductsMulti-source73°10:45

Fable 5现在免费试用一半额度，Anthropic拉上微软谷歌搞统一安全评分，两件事都值得看看。

AI Will@FinanceYF5Source

Models PolicyOfficial04:44

Anthropic 重新上线 Fable 5，新分类器能拦掉 99% 的安全漏洞，还拉了亚马逊和谷歌一起定规矩。

Primary sourcemarktechpost@Michal SutterSource

Jun 1

Papers76°10:30

这篇论文解决了AI安全监控的结构性盲区——分布式攻击，做安全防御的团队值得关注，它展示了如何通过跨用户推理来提前捕获恶意行为。

arXiv cs.AI@Davis Brown et al. (10)Source