论文阅读笔记 - Dual Attention Network for Scene Segmentation

论文阅读笔记 - Dual Attention Network for Scene Segmentation

Abstrct

在文章中,通过基于自注意力机制来得到上下文依赖信息,解决场景分类任务。以前的通过多尺度特征融合来获取上下文信息,和以前的的网络不同,我们提出双注意力网络来自适应地把局部特征和全局特征结合在一起。具体地说,我们将两种类型的注意力模块放到全卷积网络的上面,这是为了模拟空间上和通道上的语义之间的相互依赖。通过在所有位置上的特征加权平均,位置注意力模块有选择性地汇聚每个位置的特征。无论距离如何,相似的特征总能相互联系在一起。同时,通道注意力模块对通道的特征选择性地加权,把这两个模块合起来去提高特征表达的能力,带来更好的分割结果。

related work

pass

Dual attention network

overview

一张图片里面包含不同尺度,亮度,形状的物体。由于卷积操作的局部感受野,同一物体上的像素卷积之后会变得有些不一样,这些差异会带来类别内的不连续性,影响识别的精度。为了解决这个问题,我们用attention 机制来建立特征之间的联系,进而得到全局的上下文信息。
论文阅读笔记 - Dual Attention Network for Scene Segmentation
如图二所示。

implement

参见 https://gitee.com/Ryanxusir/DANet

refrence

https://gitee.com/Ryanxusir/DANet
Dual Attention Network for Scene Segmentation