深度估计卷积神经网络的论文及损失函数总结
深度估计卷积神经网络的论文及损失函数总结
本文涉及以下概念，深度估计depth estimation, 深度学习deep learning, 卷积神经网络convolutional neural network, 损失函数loss function, 重点介绍近年来视觉图像通过深度学习方式获取图像深度和运动的几篇重要论文，以及论文涉及到的神经网络损失函数
1、Zhou T, Brown M, Snavely N, et al. Unsupervised learning of depth and ego-motion from video[C]. 30th IEEE Conference on Computer Vision and Pattern Recognition, CVPR, 2017: 6612-6621.
论文链接: link.
总体损失函数包括3个部分，一是计算当前上某一点投影到原始图后的差值；
二为平滑损失，计算像素梯度的L1；
三是regularization term，交叉熵损失，防止出现过拟合。
2、Godard C, Aodha O M, Brostow G J. Unsupervised Monocular Depth Estimation with Left-Right Consistency[C]. IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2017: 6602-6611.
论文链接: link.
使用两幅图像作为输入，对两幅图像的视差进行优化，完成单目的深度估计，函数包括3个部分，一是Appearance Matching Loss，主要是SSIM和L1范数；
二是平滑项，也是计算像素梯度的L1；
三是Left-Right Disparity Consistency Loss，两个图像像素的L1。
3、 Alhashim I, Wonka P. High Quality Monocular Depth Estimation via Transfer Learning[C]. IEEE/CVF Conference on Computer Vision and Pattern Recognition, 2018.
论文链接: link.
4、Lee J, Heo M, Kim K, et al. Single-Image Depth Estimation Based on Fourier Domain Analysis[C]. IEEE/CVF Conference on Computer Vision and Pattern Recognition, 2018: 330-339.
论文链接: link.
在计算差值时，大多数是使用L1范数，在使用L1的过程中，远处物体和近处计算时的标准是一样的，对于近处估计出来的深度的误差，计算的偏差的抖动很大，所以欧几里得损失时对于远处物体的深度估计更好，针对以上问题，作者提出了一个新的损失函数Depth-Balanced Euclidean Loss(DBE)。
5、Laina I, Rupprecht C, Belagiannis V, et al. Deeper Depth Prediction with Fully Convolutional Residual Networks[C]. 2016 Fourth International Conference on 3D Vision (3DV), 2016: 239-248.
论文链接: link.
1981年的Huber函数，
2006年出现反向Huber函数(the reverse Huber)—berHU，
这篇论文当中作者使用berHU作为损失函数，取代单纯的L1\L2，当x小于c时使用L1，大于c时用L2，公式如下。
6、 S P, R A, A G. SuperDepth: Self-Supervised, Super-Resolved Monocular Depth Estimation[C]. 2019 IEEE International Conference on Robotics and Automation (ICRA), 2019
论文链接: link.
函数有三个部分，一、首先结合SSIM和L1范数；
二是像素梯度的L1；
三是像素差值的L1。
总结以上论文，深度学习方法在深度估计中损失函数大体包括以下几类：
一、 L1|、L2；
二、 SSIM
三、 像素梯度的L1
四、 berHU函数
五、 DBE损失函数
六、 交叉熵损失函数