#蒸馏攻击

共 5 条 · 7 天 0 条 · 30 天 3 条

信息流里打上「蒸馏攻击」标签的资讯、产品与论文，按刊登时间排，新的在上。

9月29日

说蒸馏防御没用的人来了：只要蒸馏后再跑一轮 RL，很多防御就失效。做模型安全或 API 防护的值得看看。

arXiv cs.LG@Shidan Javaheri 等 5 人原文

9月25日

Anthropic 要对被拒请求收费了，专门针对搞蒸馏攻击和生物类敏感请求的人，做 API 的可以看看自己会不会被波及。

TestingCatalog@testingcatalog11 个信源在谈原文

9月11日

行业中美对照多源确认05:22

Anthropic 告诉我们，阿里、月之暗面、深寻这些中国 AI 公司在最近几个月里一直在做蒸馏攻击，竞争太激烈了。

techcrunch@Russell Brandom11 个信源在谈原文

6月25日

行业多源确认88°11:48

Anthropic 跑出来告状了，说阿里用了两万多个假账号狂薅 Claude 的羊毛，次数比之前三家加起来还多一倍，还牵扯到美国商务部自己的限制令，挺拧巴。

宝玉@dotey11 个信源在谈原文

5月22日

论文精选11:16

这篇论文戳破了蒸馏防御的假象——被动评估下的鲁棒性在自适应攻击面前不堪一击。做模型安全或部署的团队，建议用文中的自适应评估框架重新审视你的防御方案。

arXiv cs.AI@Youssef Allouah 等 4 人原文