我是靠谱客的博主 善良雪糕,这篇文章主要介绍【Network】通道注意力网络和空间注意力网络,现在分享给大家,希望可以做个参考。

  • CBAM:论文地址

  • 目的:
    卷积操作是通过混合通道和空间两个维度的信息来特征提取的。在注意力方面,SE仅关注了通道注意力,没考虑空间方面的注意力。因此,本文提出了 CBAM——一种同时关注通道和空间注意力的卷积模块,可以用于CNNs架构中,以提升feature map的特征表达能力。

  • 网络结构:
    网络主结构在这里插入图片描述
    CAM和SAM的结构
    在这里插入图片描述
    CAM:通道注意力机制就是学习一个不同通道的加权系数,同时考虑到了所有区域
    在这里插入图片描述
    在这里插入图片描述
    SAM:空间注意力机制就是学习整个画面不同区域的系数,同时考虑到了所有通道。
    在这里插入图片描述

  • Pytorch代码实现:

    复制代码
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    import torch from torch import nn class ChannelAttention(nn.Module): def __init__(self, in_planes, ratio=16): super(ChannelAttention, self).__init__() self.avg_pool = nn.AdaptiveAvgPool2d(1) self.max_pool = nn.AdaptiveMaxPool2d(1) self.fc1 = nn.Conv2d(in_planes, in_planes // 16, 1, bias=False) self.relu1 = nn.ReLU() self.fc2 = nn.Conv2d(in_planes // 16, in_planes, 1, bias=False) self.sigmoid = nn.Sigmoid() def forward(self, x): avg_out = self.fc2(self.relu1(self.fc1(self.avg_pool(x)))) max_out = self.fc2(self.relu1(self.fc1(self.max_pool(x)))) out = avg_out + max_out return self.sigmoid(out) class SpatialAttention(nn.Module): def __init__(self, kernel_size=7): super(SpatialAttention, self).__init__() assert kernel_size in (3, 7), 'kernel size must be 3 or 7' padding = 3 if kernel_size == 7 else 1 self.conv1 = nn.Conv2d(2, 1, kernel_size, padding=padding, bias=False) self.sigmoid = nn.Sigmoid() self.register_buffer() def forward(self, x): avg_out = torch.mean(x, dim=1, keepdim=True) max_out, _ = torch.max(x, dim=1, keepdim=True) x = torch.cat([avg_out, max_out], dim=1) x = self.conv1(x) return self.sigmoid(x)
  • 参考: https://blog.csdn.net/oYeZhou/article/details/116664508

最后

以上就是善良雪糕最近收集整理的关于【Network】通道注意力网络和空间注意力网络的全部内容,更多相关【Network】通道注意力网络和空间注意力网络内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(89)

评论列表共有 0 条评论

立即
投稿
返回
顶部