The hidden label-marginal biases of segmentation losses

概述

1. 分析了CE和Dice Loss的关系，用理论证明了CE是Dice的upper bound。
2. Dice偏向小型目标，而CE隐式的约束了真实的大小。
3. 在理论分析后，我们添加L1正则化项，鼓励预测接近类别比例，不降低泛化性的同时解决类别不均衡问题。
4. 多种实验多个任务，比较不同的loss设计，ablation study，证明我们的正则化项有效性。

现有工作解决类别不均衡问题

1. CE：直接从分类获得，增加少数类的权重，修改Loss等。如focal loss和topk loss。
2. Dice：基于geometry-based度量，引入class weights。Linear Dice, logarithmic or generalised dice loss.度量prediction和ground truth的关系
   （描述不是特别clear）
   动机：不知道哪个流派更好，有人根据经验认为Dice更好，这也是Dice广泛应用于医学图像分割的原因。