精选理由
做AI安全验证的团队终于有了兼顾精度和效率的方案——STBP用混合策略解决了传统方法要么太松要么太慢的困境，做视频/3D视觉鲁棒性验证的开发者可以直接参考。
随着AI在安全关键系统中的部署，形式化鲁棒性保证变得至关重要。现有验证方法要么过于保守，要么计算成本高昂。本文提出STBP（时空边界传播）框架，针对处理视频和体积输入的3D CNN，通过建模真实的时空约束（如攻击者只能修改连续帧中的子集或补丁）来获得更紧的近似。STBP对第一卷积层计算精确闭式解，后续层使用可扩展近似，在UCF-101、Udacity和MedMNIST等基准上实现了1.7倍更高的认证鲁棒准确率。同时，作者发布了ST-Bench基准，用于系统评估自动驾驶和活动识别中的可验证鲁棒性。
AI 翻译 · 中文
随着AI在安全关键系统中的部署，形式化鲁棒性保证变得至关重要。现有验证方法要么过于保守，要么计算成本高昂。本文提出STBP（时空边界传播）框架，针对处理视频和体积输入的3D CNN，通过建模真实的时空约束（如攻击者只能修改连续帧中的子集或补丁）来获得更紧的近似。STBP对第一卷积层计算精确闭式解，后续层使用可扩展近似，在UCF-101、Udacity和MedMNIST等基准上实现了1.7倍更高的认证鲁棒准确率。同时，作者发布了ST-Bench基准，用于系统评估自动驾驶和活动识别中的可验证鲁棒性。
With AI increasingly deployed in safety-critical systems, providing formal robustness guarantees for the underlying models is essential. Existing verification methods either rely on overly conservative approximations or …