ENAS Pytorch
NAS简介
对于老版本强化学习的NAS,需要21天搜索出的cnn模型,ENAS只需要3小时就可以搜索出相同准确率的模型。
从上图我们可以发现NAS-CNN和DenseNet有很多相通的地方:
都是密集连接;
Feature Map的个数都比较少;
Feature Map之间都是采用拼接的方式进行连接。
在生成NAS-CNN的实验中,使用的是CIFAR-10数据集。网络中加入了BN和跳跃连接。卷积核的高的范围是 [公式] ,宽的范围也是 [公式] ,个数的范围是 [公式] 。步长分为固定为1和在 [公式] 中两种情况。控制器使用的是含有35个隐层节点的LSTM。