【Block总结】门控轴向注意力Gated Axial-Attention|即插即用

论文信息

标题: Medical Transformer: Gated Axial-Attention for Medical Image Segmentation
论文链接: https://arxiv.org/pdf/2102.10662
GitHub链接: https://github.com/jeya-maria-jose/Medical-Transformer

创新点

1. 门控轴向注意力机制: 该机制通过引入可学习的门控参数，增强了模型对长距离依赖关系的捕捉能力，克服了传统自注意力模型的不足。

2. 局部-全局（LoGo）训练策略: 结合局部特征和全局上下文信息的学习，提升了模型在小样本数据集上的表现。

3. 适应性强: MedT在多个医学图像分割任务中表现优异，尤其是在样本数量较少的情况下，显示出较强的适应性。
   

方法

1. 模型架构: MedT结合了Transformer的优势与医学图像分割的需求，采用了门控轴向注意力机制来处理输入特征图。

2. 门控机制: 通过四个门控参数（Go, Gk, Gv1, Gv2）控制位置编码对键、查询和值的影响，从而增强模型对空间信息的敏感性。

3. 训练策略: 采用局部-全局训练策略，优化了特征提取和分割性能，特别适合小样本数据集。

门控机制模块

在论文《Medical Transformer: Gated Axial-Attention for Medical Image Segmentation》中，门控机制模块是一个重要的创新，旨在提升医学图像分割的性能。以下是对该模块的详细解读：

1. 门控机制的基本概念

门控机制通过引入可学习的参数来控制信息流的权重，使模型能够根据输入数据的特征动态调整不同信息的影响力。这种机制在处理复杂数据时，尤其是在医学图像分割中，能够显著提高模型的灵活性和适应性。

2. 门控轴向注意力的实现

在MedT模型中，门控机制主要体现在门控轴向注意力（Gated Axial-Attention）模块中，其实现过程包括以下几个关键步骤：

• 引入门控参数: 该机制使用四个门控参数（Go, Gk, Gv1, Gv2）来控制位置编码对键（Key）、查询（Query）和值（Value）的影响。这使得模型能够根据不同数据集的特性进行调整。

• 修改自注意力公式: 在自注意力计算中加入门控机制，以调整位置编码的权重，从而优化对非局部上下文的编码能力。

• 多头自注意力分组: 输入特征被划分为多个组，每个组独立计算注意力。这种设计允许模型在不同特征子空间中关注局部关系和长距离依赖。

• 轴向分解的注意力机制: 该机制只在一个轴（宽度或高度）上计算注意力，避免了全局自注意力的高计算量。这种分解将计算复杂度从二维降低到一维，显著提高了效率。

• 相对位置编码: 通过引入相对位置编码，增强了模型对位置信息的敏感性，使得每个特征位置能够感知其在输入序列中的相对位置。

3. 门控机制的优势

• 提高模型的鲁棒性: 动态调整信息流的权重使得模型在面对不同类型的医学图像时能够更好地适应，从而提高了整体的鲁棒性。

• 优化计算效率: 门控机制的引入使得模型在处理大规模数据时能够更高效地学习，减少了计算资源的消耗。

效果

实验结果表明，MedT在多个医学图像分割数据集上均取得了优异的性能，尤其是在处理小样本数据时，其表现明显优于传统的卷积神经网络（CNN）和其他Transformer架构。

实验结果

1. 数据集: 论文中使用了多个医学图像分割数据集进行验证，包括CT和MRI图像。

2. 性能评估: 通过与现有的最先进模型进行对比，MedT在分割准确性、鲁棒性和计算效率等方面均表现出色。

3. 结果展示: 实验结果通过定量指标（如Dice系数、IoU等）和定性分析（分割结果可视化）进行了全面展示，证明了模型的有效性。

总结

该论文通过提出医学Transformer（MedT）及其门控轴向注意力机制，为医学图像分割提供了一种新的解决方案。MedT在多个医学图像分割任务中表现优异，尤其在小样本数据集上显示出强大的适应性和有效性。未来的研究可以进一步探索该模型在其他医学图像任务中的应用，以及如何优化其在大规模数据集上的表现。

代码