YOLOv11改进 | 注意力篇 | YOLOv11引入24年空间和通道协同注意模块(SCSA),并构建C2PSA_SCSA
1.SCSA介绍
1.1 摘要:通道关注和空间关注分别为各种下游视觉任务的特征依赖和空间结构关系提取带来了显著的改进。通道和空间注意力的结合使用被广泛认为有利于进一步提高性能,然而,通道和空间注意力之间的协同效应,特别是在空间指导和减轻语义差异方面,尚未得到深入研究。这促使我们提出了一个新的空间和通道协同注意模块(SCSA),需要我们的调查在多个语义层次上的空间和通道的注意力之间的协同关系。我们的SCSA由两部分组成:可共享多语义空间注意力(SMSA)和渐进通道自我注意力(PCSA)。SMSA融合了多语义信息,并利用渐进压缩策略将具有区分性的空间先验信息注入到PCSA的通道自注意中,有效地指导通道重新校准。此外,在PCSA中的鲁棒的特征交互的基础上的逐行单头自注意机制,进一步减轻SMSA中的不同子特征之间的多语义信息的差异。我们在七个基准数据集上进行了广泛的实验,包括ImageNet-1 K上的分类,MSCOCO上的对象检测,ADE 20 K上的分割以及其他四个复杂场景检测数据集。我们的研究结果表明,我们提出的SCSA不仅超越了目前的即插即用的最先进的注意力,但也表现出增强的泛化能力,在各