语义分割中的损失

语义分割中的损失

loss list:

• CE
• BCE
• WCE
• Focal loss
• Dice loss
• IOU loss
• Tversky loss
• 敏感性–特异性 loss
• Generalized Dice loss
• BCE + Dice loss
• Dice + Focal loss
• Exponential Logarithmic loss
  以上部分有一篇博客讲得比较清楚：
  原文博客链接: (https://blog.csdn.net/m0_37477175/article/details/83004746)

---

• Lov´asz-Softmaxloss
  请看我的另一篇博客：（https://blog.csdn.net/weixin_41134246/article/details/103280203）

---

• Boundary loss

---

提出generalized Dice loss，对Dice loss在计算中加上权重，主要是为了解决样本不平衡问题。


根据这一个权重函数可以看出来，$r_{ln}$代表这一个类的label map之和，当这一个类别像素值少的时候权重会变大，像素值大的时候权重会变小。
主要还是应用权重来解决不平衡的问题。

• 还有一个部分是边界损失
  想法比较简单，用groundtruth计算出边界部分，然后在预测值对这一部分进行损失计算，对各像素损失求和。
  
  代码链接：（https://github.com/LIVIAETS/surface-loss）

---

• ConservativeLoss

---

核心思想是为了在不同领域的适应能力中，有较强的泛化性。对表现极度好的结果进行惩罚，从而鼓励中等表现得结果。

如图所示，根据置信度来计算CL loss，相应得进行惩罚。$\lambda$为5， $a$为$e$。

---

• combo loss
  代码地址：https://github.com/asgsaeid/ComboLoss/blob/master/combo_loss.py
  
  dice loss + weighted ce
  $\beta$控制 假阳性和假阴性的权重，大于0.5惩罚假阳性，小于0.5惩罚假阴性。
  $a$控制dice loss 和weighted ce loss的权重。

---

边界部分有权重的loss

---

• Active Contour Loss
  代码地址：（https://github.com/xuuuuuuchen/Active-Contour-Loss/blob/master/Active-Contour-Loss.py）
  
  
  • 最终的loss是Length 和Region 的和，代码中$\lambda$设为的1，这是一个超参数。
  • 首先看一下整个损失，它的计算方式都是用的差的平方的形式。
  • 然后Length loss部分，只用了pred的信息，最小化梯度的大小，在这里我的理解是，它想达到的目的是让物体的内部尽量平滑，只有边界部分有这个梯度的变化。
  • 接着是Region部分，使用label的监督信息对每一个点进行监督训练。
  • 总结一下整个地方，感觉在边界部分，这两个Loss有冲突的地方，Length损失在边界部分会变大，但是它因为没有监督信息，它趋向于对所有位置都平滑处理，但是Region部分有监督信息，为了让边界部分损失变小会将物体和边界分开。也因为是用的差的平方的形式，边界部分的预测值概率应该是平滑下降的，骤降的loss太大，也就是惩罚太大。感觉是对整个预测结果作了一个平滑处理。

---

• Distance Map Loss Penalty Term for Semantic Segmentation

$\varphi$代表 边界的距离图，如图所示：

结合上面的公式，就代表着边界部分的权重会高于其他地方，其他的没有改动。

---

• NonAdjacencyLoss
  代码地址：https://github.com/trypag/NonAdjLoss
  创新点是加入了各个类之间的邻接矩阵，用一个子网络去预测这个矩阵。即可以监督学习也可以半监督的学习。
  
  前面一部分是一般的损失，如dice或交叉熵等，后面是用邻接矩阵加的限定损失。

求$a_{ij}\left(\varphi \right)$这个过程是离线的过程，根据总的有标签的数据求一个最后求和的邻接矩阵“模板”。形成一个先验的知识，对于半监督无标签时，这个G(w)这一项的损失也可以根据这个“模板”进行计算。对于医疗图像来说，这样做也是有一定道理的。
但是我自己认为这样做会无法考虑到空间中的信息，只是考虑了类与类之间的信息。