Chinese contentFlowGenesis:基于表征变化自动增删神经元的自适应架构框架
arXiv 上这篇论文挺有意思:网络自己决定加神经元还是砍神经元,不用预先定架构,持续学习场景还能省参数,做 NAS 的可以看看。
arXiv 上这篇论文挺有意思:网络自己决定加神经元还是砍神经元,不用预先定架构,持续学习场景还能省参数,做 NAS 的可以看看。
This research presents a new method for neural architecture search that improves the accuracy of ranking models while reducing computational cost.
这篇论文用可微优化替代离散搜索,Neuron Gating和Mixed Activation找紧凑网络,MNIST上0.26M参数就达99.63%准确率,比DARTS表现更好。
论文给嵌入式设备上的可供性分割提供了新思路,用Jetson Nano和RealSense做出实时方案,能耗跟手机电池差不多,比同类tiny方法更能处理复杂场景。
这篇论文告诉你,不用几千GPU天也能搜出好架构,普通3060显卡3小时就能找到比ResNet-20更小的CIFAR-10模型,还能直接优化欺诈检测的F1分数。