具有亮度嵌入和混合引导嵌入的注意力感知网络,用于腹腔镜图像去烟雾处理

时间:2025年12月27日
来源:Computerized Medical Imaging and Graphics

编辑推荐:

手术烟雾去除方法研究。提出SAGNet网络,通过烟雾注意力估计器(SAE)与混合引导嵌入模块(HGE)协同工作,利用光亮度嵌入增强烟雾分布预测,结合软场变换生成残差项,在保持细节的同时有效抑制过曝。实验表明在合成数据集上PSNR提升3.71%,Cholec80数据集上达到最低图像质量评分24.55,实时处理速度174帧/秒,烟雾去除区域PSNR超过40dB。

广告
   X   

刘子腾|张成宏|何东东|杨晨阳|刘浩|高文鹏|傅一丽
哈尔滨工业大学生命科学技术学院,中国哈尔滨南岗区二匡街2号,150080

摘要

在计算机辅助手术中,去除手术烟雾对于提高腹腔镜图像质量至关重要。虽然现有方法利用估计的烟雾分布来处理非均匀特性,但大多数方法仅将这些信息作为先验输入,经常会出现过度去雾的伪影。为了解决这些限制,本研究提出了一种去雾网络,该网络通过明确利用烟雾分布信息来重建无烟雾图像。该网络包括两个关键模块:烟雾注意力估计器(SAE)和混合引导嵌入(HGE)。SAE通过带有亮度先验的通道感知位置嵌入生成烟雾注意力图以提高准确性。HGE以SAE预测的烟雾注意力图为输入,并使用卷积层以及一种新颖的场变换方法生成残差项。通过将这些残差项与原始图像结合,HGE保留了无烟雾区域的细节,从而防止了过度去雾。实验结果表明,与最先进的方法相比,所提出的方法在合成数据集上的峰值信噪比(PSNR)至少提高了3.71%,在Learned Perceptual Image Patch Similarity指标上提高了18.75%,同时在Cholec80数据集上获得了最低的基于感知的图像质量评估分数(24.55)。该网络的运行速度约为每秒174帧,表明其具有强大的实时处理能力。在无烟雾区域,该网络的PSNR超过了40分贝,在颜色恢复和细节保留方面表现出色。该工作的更多信息可访问:https://homepage.hit.edu.cn/wpgao?lang=en

引言

图像去雾
是计算机视觉应用中的一个关键问题,近年来研究人员提出了许多去雾方法(Yuan等人,2021年)。然而,这些方法大多是为室外环境设计的,忽略了烟雾比雾具有更大的非均匀性这一事实。在腹腔镜手术中,烟雾会严重降低图像质量并遮挡关键的解剖结构,从而增加手术风险和并发症(Venkatesh等人,2020年)。直接应用为室外环境设计的去雾方法可能会导致颜色失真和过度去雾等问题(Kotwal等人,2016年)。因此,腹腔镜图像的去雾已成为一个越来越受关注的研究课题。
在图像去雾领域,大气散射模型(ASM)(McCartney,1976年)被广泛用作基本模型,它描述了光与大气中的粒子和分子之间的相互作用。基于ASM的方法通常依赖于手动设计的特征,并假设被遮挡的场景本质上是清晰的(He等人,2011年)。通过引入正则化技术来优化透射率图的估计,有望在复杂场景中获得更稳定和高质量的去雾效果(Ali等人,2023年)。然而,这些方法在应用于复杂的实际场景(如腹腔镜手术)时可能会遇到困难(Li等人,2017年)。近年来,深度学习技术,特别是卷积神经网络,在图像去雾任务中取得了显著进展(Ren等人,2016年)。例如,端到端网络可以直接生成无烟雾图像(Qin等人,2020年),绕过了传统去雾方法中涉及的多个复杂中间步骤,并且性能优于传统的基于ASM的方法(Liu等人,2019年)。最近,视觉变换器(ViT)(Dosovitskiy等人,2021年)在去雾任务中超越了卷积神经网络(CNN)。然而,这些方法通常是为通用场景设计的,并未针对腹腔镜手术中观察到的非均匀烟雾分布进行优化。因此,它们容易在无烟雾区域过度去雾,甚至可能将医疗仪器误认为是需要去除的烟雾(Guo等人,2022年)。
一种有效的腹腔镜图像去雾方法必须能够准确检测烟雾的密度和分布(Chen等人,2020年),不仅要准确重建受烟雾影响的区域的清晰场景,还要保持无烟雾区域的图像质量(Sengar等人,2021年)。因此,最近的腹腔镜图像去雾方法,如De-smokeGCN(Chen等人,2020年)和MARSGAN(Hong等人,2023年),倾向于使用预测的烟雾分布来指导去雾过程。然而,这些方法通常将预测的烟雾分布视为隐式约束,要么作为去雾网络的额外输入,要么作为损失函数中的约束项,而没有将其明确整合到无烟雾区域的重建中。这些方法未能充分利用估计的烟雾分布中固有的区域约束信息,导致无烟雾区域容易过度去雾。
在这项研究中,提出了一种名为烟雾注意力引导去雾网络(SAGNet)的新型深度学习架构。为了确保在无烟雾区域准确重建的同时防止失真,该网络首先通过烟雾注意力估计器估计烟雾分布,然后明确使用这一估计来指导去雾过程。本研究的主要贡献如下:
  • 一种亮度嵌入方法,将通道先验集成到烟雾注意力估计器中,提高了其解释烟雾分布的能力,并提高了预测烟雾注意力图的准确性。
  • 混合引导嵌入模块利用学习到的烟雾注意力图以及来自大气散射模型的先验知识来准确重建无烟雾图像。它还将去雾过程限制在预测烟雾注意力图指示的区域,从而降低了过度去雾的风险。
  • 一种软场变换,将烟雾注意力图转换为权重矩阵,用于引导项,确保重建过程集中在预测烟雾注意力图突出的区域。

部分摘录

基于大气散射模型的去雾

ASM是图像去雾中最经典的模型之一。它对模糊图像提出了一个简单的假设:

生物通微信公众号
微信
新浪微博


生物通 版权所有