Robust CurveMoE: Multi-Norm Adversarial Defense for Mixture-of-Experts Models via Mode Connectivity
Robust CurveMoE 提出了一种高效的混合专家模型框架,通过低损失路径连接针对不同扰动范数的模型,并利用模型沿此路径的互补鲁棒性配置。在 CIFAR-100 和 ImageNet-100 数据集上,与 MSD 和 ERMC 相比,Robust CurveMoE 在干净、规范特定和联合准确率方面持续改进,特别是在 CIFAR-100 和 ImageNet-100 上分别提高了 2.37 和 2.13 个百分点的联合准确率。