双注意力模块DAB详解及代码复现
DAB定义
双注意力块（DAB）是一种创新的神经网络结构，旨在提高模型对雾霾成分的检测能力，同时降低模型复杂度。它由两个关键模块串联而成：
-
通道-空间注意力模块（CSAM） ：该模块整合了通道和空间信息，能够有效捕捉特征图中的重要信息。
-
并行注意力模块（PAM） ：通过并行连接三种不同的注意力机制（全局通道注意力、局部通道注意力和空间注意力），PAM能够更全面地分析输入特征。
DAB的设计基于 注意力机制 ，这是一种模拟人类视觉系统的方法，可以让模型自动聚焦于输入图像中的关键区域或特征。具体而言，DAB通过以下步骤实现其功能：
-
通道-空间注意力 ：计算每个通道的重要性权重，然后将这些权重应用于整个特征图。这有助于模型关注对当前任务最相关的通道信息。
-
并行注意力 ：同时应用全局通道注意力、局部通道注意力和空间注意力，使模型能够从多个角度分析输入特征。
-
特征融合 ：将通道