动态滤波网络论文解读及代码实现

论文题目：Dynamic Filter Networks

论文链接：https://arxiv.org/pdf/1605.09673.pdf

summary

在传统的卷积层中，经过训练后的学习滤波器保持不变。相反本篇论文引入了一种动态过滤器网络，根据输入动态生成。

动态滤波网络组成

 总体框架如下图所示：

动态滤波网络由过滤生成网络和动态过滤层组成。过滤生成器网络根据输入动态生成过滤器，而动态过滤层将生成的过滤器应用于另外一个输入。两部分都是可微的。

• 过滤生成网络

过滤生成网络输入是：, h为高，w为宽，Ca为输入A通道的数目，输出为，,s为滤波器的尺寸，n为滤波器的数目，动态卷积d=1，Cb为输入B通道的数目，hxW为局部滤波。将过滤器应用于输入，输出。

过滤生成网络可以用任何可微分的架构来实现，比如多层感知器或卷积网络。当使用图像作为过滤器生成网络的输入时，卷积网络尤其适用。

• 动态过滤层

动态卷积层：动态过滤层动态参数θ由过滤生成网络生成。

动态局部滤波层：在这个层中，过滤操作不再是平移不变量，不同的滤波器被应用到输入的不同位置上。对于输入的每个不同位置，一个特定的局部滤波器Fθ(i,j)被应用到以（i，j）为中心的区域。G(i, j) = Fθ(i,j)(IB(i, j))。动态局部滤波层不仅可以像动态卷积层那样执行单个的变换，还可以像局部变形那样执行特定位置的变换。与传统的局部连接层相比，动态局部滤波层的另一个优点是我们不需要太多的模型参数。所学习的模型更小，这是嵌入式系统应用所需要的。