Fast and Accurate Single Image Super-Resolution via Information Distillation Network

本文主旨为了再生成深度网络的同时降低计算复杂性和减少内存消耗，因此本文提出了一个信息蒸馏网络，降低复杂性和内存消耗。
总体网络框架分为三个部分①特征提取模块②增强模块（蒸馏模块）③特征融合与生成图片模块
总体来说首先低分辨率图片输入到网络中经过双三次插值放大到指定大小输入后层形成残差网络，后低分辨率图片首先经过FBLOCK提取浅层特征，后经过DBLOCK经过信息蒸馏再提取深层特征的同时减少内存消耗和计算复杂性，后经过反卷积生成指定大小图片。

其中这篇文章的精髓在于它的蒸馏模块如何降低计算复杂性，DBLOCK分为两部分一部分为蒸馏模块一部分为降维模块，其中蒸馏模块分为上下两部分一共六个33的conv层其中输入的特征图都经过了上层的三个卷积，网络称这三个卷积为浅层网络，在这三个卷积后将生成的特征图再通道上切割为两部分1/s和1-1/s，其中的1/s通道的特征图与输入作拼接使特征图在深层网络中能保留浅特征提取信息，而剩下的1-1/s的特征图输入下层的三个卷积输出作为得到的深层提取特征，并与前文的浅特征提取信息与初始特征图的拼接做加和使最终得到的特征图既有深度提特征也由浅层提取特征，而且在一定程度上减小了运算量和内存占用量。

因为本文主旨在于降低深度网络的运算量和内存占用所以再蒸馏得到深度特征的过程中，通过卷积先降低后升高特征图的维数从而达到在深度网络中降低参数数量

在最后通过一个降维卷积进行降维如compress所示通过一个11的卷积将前文concat后的特征图降维到输入的特征图大小