WEEK TEXTURE INFORMATION MAP GUIDED IMAGE SUPER-RESOLUTION WITH DEEP RESIDUAL NETWORKS

本文针对线性超分网络无法充分提取特征信息的问题,提出了一个基于图像边缘细节先验的方法,该论文在RCAN(通道注意力网络)基础上进行实验。
WEEK TEXTURE INFORMATION MAP GUIDED IMAGE SUPER-RESOLUTION WITH DEEP RESIDUAL NETWORKS
在此本文创新点主要为通过sobel算子得出图像边缘高频纹理细节作为先验,使生成图像相对于传统超分辨率重建方法重建的图像具有更多的纹理细节,首先在此介绍下sobel算子
WEEK TEXTURE INFORMATION MAP GUIDED IMAGE SUPER-RESOLUTION WITH DEEP RESIDUAL NETWORKS
sobel算子其实就是通过卷积计算横向与竖向的梯度和并且在最后为了简便起见通常将根下gx^2+gy ^2简写为|gx|+|gy|,此处由于pytorch没有sobel内置函数利用functional.nn.conv2d进行复现
WEEK TEXTURE INFORMATION MAP GUIDED IMAGE SUPER-RESOLUTION WITH DEEP RESIDUAL NETWORKS
WEEK TEXTURE INFORMATION MAP GUIDED IMAGE SUPER-RESOLUTION WITH DEEP RESIDUAL NETWORKS
效果如上图所示通过sobel算子可以很好的检测出图像的边缘高频纹理细节。
网络总体架构分三个模块,首先生成模块RCAN网络利用输入的lr图片生成SR图片,利用sobel算子对生成的SR图片进行边缘检测,后纹理细节预测模块主要学习了前文SRCAN网络未能学习到的边缘纹理细节利用SR图片的边缘检测图片生成较为真实的富含纹理的边缘图片,后将预测的边缘检测图片进行下采样作为先验与lr图片拼接输入RCAN生成富含边缘高频纹理的SR图片,训练过程中,第一个RCAN与细节预测两个网络联合进行训练,利用HR的边缘检测图片与SR的边缘检测图片进行损失约束使边缘检测出的图片能够包含RCAN学习不到的边缘纹理细节,后将得到的边缘检测图片下采样作为先验与lr图片一起输入第二个RCAN进行训练,从而通过添加先验来提高图像质量,并通过比较发现添加先验可以很好的提高图像质量。