#SceneSafetyBench

1 stories · 1 in 7 days · 1 in 30 days
Stories, products and papers tagged "SceneSafetyBench", newest first.
Nov 18
Papers12:29
Chinese content研究揭示视觉语言模型场景状态安全漏洞,提出 SceneSafetyBench 与 S3TA 攻击法

这篇论文把一个很隐蔽的漏洞讲清楚了:不改指令、只摆图片场景,八个主流 VLM 的攻击成功率能到七成。做视觉模型安全或部署多模态产品的人应该看看 S3TA 的攻击拆解思路和 SceneSafetyBench 的测试设计。

arXiv cs.AI@Tongxi Wu et al. (7)Source
SceneSafetyBench · AI news | AITOP