医学图像分割是计算机辅助诊断中的一个基本任务，涉及从超声、MRI和CT扫描等不同模态获得的医学图像中精确勾画解剖结构或感兴趣的区域（Du等人，2023年）。深度学习的发展，特别是通过卷积神经网络（Dar和Ganivada，2023年；Ning等人，2022年）以及基于变压器的模型（Kai等人，2023年；Zhou等人，2023年），显著推动了医学图像分割领域的发展。这些模型的性能在很大程度上受到损失函数选择的影响，损失函数用于量化模型预测与真实值之间的差异，以指导学习过程（Ansari等人，2024年）。常用的损失函数（如交叉熵、Dice、Tversky和Hausdorff距离）往往难以处理医学图像中病变边界的固有模糊性和变异性（Qiao等人，2024年）。这种限制通常会导致次优的分割结果，尤其是在病变边界不清晰的情况下（Chen等人，2023年）。
在基于深度学习（DL）的分割模型中常用的损失函数包括像素级（例如，交叉熵）和区域级（例如，Dice损失）损失函数。像素级损失函数仅关注单个像素，没有考虑相邻像素之间的空间关系和对象边界的结构完整性。区域级损失函数在测量预测区域与真实区域之间的重叠方面是有效的，但它们对细微边界细节的敏感度较低。尽管这些方法推动了该领域的发展，但在应用于医学图像时存在根本性限制，因为在医学图像中精确的边界勾画对于准确的诊断和治疗计划至关重要（Chen等人，2023年）。
尽管现有研究中的DL模型已经使用了损失函数，但在图像分割过程中仍面临边界模糊和数据不平衡的问题。此外，基于模糊的损失函数在医学图像中的可行性尚未得到充分研究。如图1所示，恶性肿瘤边界的不规则形状和重叠区域导致了模糊性。准确分割医学图像是一个重大挑战，尤其是在勾画模糊的病变边界时。传统损失函数在处理模糊边界时表现不佳，这降低了DL模型的鲁棒性和可靠性，而数据不平衡问题限制了它们在医学图像分割中的应用，从而导致过拟合和DL模型泛化能力的下降。
为了解决这些问题，尽管模糊相似性成分在数学上较为复杂，本研究提出了一种基于模糊粗糙集的损失函数。具体来说，它在设计中使用了模糊相似性成分。目前还缺乏将模糊相似性关系与能够处理边界模糊和数据不平衡问题的损失函数相结合的方法。为了弥合这一差距，本研究提出了一种新的损失函数，通过将模糊粗糙集与损失函数结合，利用模糊相似性关系来定义模糊集的下界和上界近似。所提出的损失函数提高了深度神经网络的训练稳定性。将模糊相似性与损失函数结合使用，提升了DL模型的分割性能。
模糊粗糙损失函数的方法如下：FRS损失函数是通过将新的模糊相似性损失和边界不确定性模型与凸组合相结合而开发的。在这里，边界不确定性模型是通过使用模糊下界和上界近似以及隶属权重来形成的。模糊相似性损失涉及像素的模糊加权隶属关系和预测分割与真实分割之间的相似性关系。FRS损失函数受到模糊粗糙集原理的启发，旨在以可微分且计算效率高的方式模拟病变外观的不确定性和变异性。具体而言，它利用模糊集隶属函数来表示每个像素属于病变类或背景类的程度。它还利用边界近似来考虑定义这些类别之间精确边界的不确定性。
本研究的主要贡献有三方面：
- •
设计了一种新的FRS损失函数，该函数使用模糊相似性关系、模糊下界和上界近似（模糊粗糙集）以及权重隶属关系。它有效地处理了医学图像分割中的边界模糊问题。
- •
在五个不同的医学成像数据集上对该损失函数进行了广泛实验，证明了其在分割准确性和边界精度方面的持续改进。
- •
对我们的方法的计算效率和参数敏感性进行了全面分析，展示了其在临床环境中的实际应用性。
本文的其余部分组织如下：第2节回顾了医学图像分割损失函数和模糊粗糙集理论的相关工作。第3节详细介绍了所提出的FRS损失函数及其组成部分。第4节描述了实验设置，包括数据集、实现细节和评估指标。第5节展示了实验结果并进行了分析。第6节讨论了结果。最后，第7节总结了本文并讨论了潜在的未来研究方向。
