robustness

Robustness（鲁棒性）是当前AI系统面临的核心挑战，指模型在面对对抗性扰动、分布偏移或异常输入时保持稳定正确的能力。近期研究集中在对抗攻击与防御、风险评估及评估基准构建三个方面。

当前焦点：如何将针对特定攻击的防御泛化到未知威胁，以及设计更接近真实场景的鲁棒性评估标准。未来需要关注鲁棒性与其他性能指标（如准确性、效率）的平衡，以及从理论层面建立保证。