当前位置：首页 > article >正文

中科院二区idea：多尺度注意力+特征融合！把准11个创新套路，直通毕业！

article 2024/12/25 2:11:50

多尺度注意力+特征融合一直是热门且能发高区的方向！

近来其更是取得了新突破！模型PMFSNet在医学图像分割任务中，参数量狂降87.18％；模型AmaCNN则在跨域故障诊断中，准确率提升了40％。除此以外，其在各大顶会上也是独领风骚，光是CVPR就有多篇！

主要在于：一方面，其在提高模型性能和准确性方面不可替代！多尺度注意力机制，通过动态调整不同特征的权重，能使模型更加专注关键信息；而特征融合则能将这些信息进行整合，形成更全面、丰富的特征表示。另一方面，结合的方式灵活多样，既能适应多种任务需求，也给我们论文创新提供了空间。比如换一种特征融合策略，便能是新的idea！

为让大家能够紧跟领域前沿，找到更多灵感启发，我给大家准备了11种创新思路，并提供了开源代码。

论文原文+开源代码需要的同学看文末

Multi-scale Attention-Based Inclination Angles Estimation for Panoramic Camera

内容：论文提出了一个基于多尺度注意力机制的全景相机倾斜角度估计网络，该网络结合了几何法和深度学习方法的优势，通过关注局部畸变特征和全局浅层几何特征，首次引入像素级图像损失，以提高网络在全景图像倾斜角度估计任务中的收敛精度，并在多个误差范围内超越了当前领先的最先进方法。

Dual-Attention Frequency Fusion at Multi-Scale for Joint Segmentation and Deformable Medical Image Registration

内容：论文提出了一个基于多尺度双注意力频率融合（DAFF-Net）的多任务学习框架，用于同时实现医学图像的分割和可变形注册。DAFF-Net结合了全局编码器、分割解码器和粗到细的金字塔注册解码器，并在注册解码过程中设计了双注意力频率特征融合（DAFF）模块来融合不同尺度的注册和分割特征，充分利用两个任务之间的相关性。

PMFSNet: Polarized Multi-scale Feature Self-attention Network For Lightweight Medical Image Segmentation

内容：论文介绍了一种新型轻量级医学图像分割网络PMFSNet，该网络通过优化网络架构和引入基于自注意力机制的多尺度特征增强模块PMFS块，有效地平衡了全局和局部特征处理，避免了大型模型中常见的计算冗余。PMFSNet在保持模型参数数量低于100万的同时，在不同数据规模的各种分割任务中实现了优异的性能。

MAFormer: ATransformer Network with Multi-scale Attention Fusion for Visual Recognition

内容：论文介绍了一种名为MAFormer的新型视觉Transformer网络，该网络通过多尺度注意力融合（MAF）模块，结合局部聚合和全局特征提取的双流框架，以提高视觉识别任务的性能。MAFormer在ImageNet数据集上达到了85.9%的Top-1准确率，并在MSCOCO数据集上在目标检测和实例分割任务中超越了先前的技术，展现了其作为通用视觉骨干网络的潜力。