Transformer引导的群体智能实现经济型神经架构搜索

该论文提出了一种结合自回归Transformer控制器（强化学习训练）和人工蜂群算法（ABC）的混合NAS框架，可在消费级GPU（NVIDIA RTX 3060）上运行。在CIFAR-10数据集中，该方法用3小时搜索到参数量约17.4万的架构，达到84.85%准确率，规模和搜索成本均低于ResNet-20。在信用卡欺诈检测任务上，优化F1-Score达到0.71，模型仅需约4600参数。该框架解决了元启发式方法的冷启动问题，并通过深度惩罚抑制模型臃肿。