计算机系统应用教程网站

网站首页 > 技术文章 正文

性能再升级!UNet+注意力机制,新SOTA分割准确率高达99%

btikc 2024-09-11 01:38:08 技术文章 11 ℃ 0 评论

UNet结合注意力机制能够有效提升图像分割任务的性能。

具体来说,通过将注意力模块集成到UNet的架构中,动态地重新分配网络的焦点,让其更集中在图像中对于分割任务关键的部分。这样UNet可以更有效地利用其跳跃连接特性,以精细的局部化信息来提升分割精度。

这种策略可以帮助UNet更精确地界定目标边界,提升分割精度和效率。同时引导网络关注更有信息量的局部区域,减少模型对计算资源的需求

以CAS-UNet算法为例:

CAS-UNet是一种基于注意机制的视网膜血管分割算法,它通过引入跨融合通道注意机制、加性注意门模块和SoftPool池化模块,改进了传统的U-Net算法,提高了模型的分割能力和对细节图像区域的分割效果。


在CHASEDB1和DRIVE数据集上的实验结果表明,CAS-UNet分别达到了96.68%和95.86%的准确率,以及83.21%和83.75%的灵敏度,优于现有的基于U-Net的经典算法。

本文挑选了12个UNet结合注意力机制最新成果,可借鉴的方法和创新点做了简单提炼,原文以及相应代码都整理了,方便同学们学习和复现。

论文原文+开源代码需要的同学关注“学姐带你玩AI”公众号,那边回复“UNet结合”获取。

High-Resolution Model for Segmenting and Predicting Brain Tumor Based on Deep UNet with Multi Attention Mechanism

方法:论文提出了一种利用增强注意机制的UNet框架分割脑肿瘤的新技术。通过在记录全面的上下文信息的同时,通过选择性地强调重要方面的注意过程,该策略克服了脑肿瘤分割的挑战。在总体准确率方面表现出色,达到了99%的准确率。

创新点:

  • 建立了一种基于UNet和多重注意机制的深度学习模型,用于精确分割和预测脑肿瘤。该模型通过在UNet架构中整合注意机制来强化特征提取和上下文理解,从而克服了传统分割技术的局限性。
  • 通过引入空间注意和通道注意机制,提高了模型对肿瘤和非肿瘤区域的区分能力,并加强了对多尺度层次的上下文理解。
  • 利用离散余弦变换(DCT)从医学图像中提取特征,降低了计算复杂度和内存需求。这有助于减少UNet模型的输入数组维度。

DA-TransUNet: Integrating Spatial and Channel Dual Attention with Transformer U-Net for Medical Image Segmentation

方法:论文提出一种新的深度医学图像分割框架DA-TransUNet,旨在将Transformer和双注意力块(DA-Block)与传统的U-shaped架构相结合,以改善医学图像分割的性能。通过在嵌入层和每个跳跃连接层中引入DA-Block,提高特征提取能力和编码器-解码器结构的效率,从而改善医学图像分割的性能。

创新点:

  • DA-TransUNet:将双重注意机制集成到Transformer U-net框架中,将位置和通道信息处理与编码器-解码器结构相结合,提高了医学图像分割任务的性能。
  • 双重注意块(DA-Block):在编码器的Transformer层之前和跳跃连接中引入了DA-Block,增强了特征提取能力,改善了图像分割性能。

SCTV-UNet: a COVID-19 CT segmentation network based on attention mechanism

方法:论文提出了一种新的COVID-19分割网络SCTV-UNet,结合了编码器上的注意力机制。同时,还提出了一种新的复合损失函数DTVLoss,可以解决传统U型网络预测图像边界模糊和病变区域与背景之间对比度弱的问题。

创新点:

  • 提出了一种新的COVID-19分割网络SCTV-UNet,结合了编码器上的注意机制。通过引入SC注意力到编码器中,可以捕获更多的语义信息,突出病变区域的特征,并抑制其他区域。因此,SCTV-UNet比TV-UNet有更好的分割效果和分割准确性。
  • 提出了一种新的复合损失函数DTVLoss。它可以解决传统U型网络预测图像边界模糊和病变区域与背景之间对比度弱的问题。通过将DTVLoss替换TVLoss,可以解决TV-UNet预测图像中边界模糊和病变区域与背景之间对比度弱的问题。

Road Extraction From Satellite Images Using Attention-Assisted UNet

方法:作者采用了UNet模型,并在解码器部分辅助使用了注意力机制,同时使用了经过补丁、旋转和增强的数据集进行训练。预处理步骤包括图像和掩模的补丁化、旋转、排除仅包含背景的图像以及排除道路面积很小的图像。

为了解决数据集固有的偏差问题,预处理中采用了补丁化和背景排除技术,模型中采用了注意力机制。通过这些技术的组合,提出的模型在遥感图像分割方面取得了98.33%的准确率。

创新点:

  • 使用UNet和注意力机制在模型中,通过数据准备、背景排除和旋转等预处理步骤,克服了数据集偏差问题并实现了更好的性能。
  • 在结果分析步骤中,重点关注精确度和召回率,以更好地评估性能并找出应考虑的缺点。

论文原文+开源代码需要的同学关注“学姐带你玩AI”公众号,那边回复“UNet结合”获取。

Tags:

本文暂时没有评论,来添加一个吧(●'◡'●)

欢迎 发表评论:

最近发表
标签列表