focal loss

https://zhuanlan.zhihu.com/p/80594704

---

\alpha 解决正负样本不平衡
\gamma 解决难学样本

image.png

image.png

focal loss 对样本进行加权：

1. 易判别的样本，1-p接近于0，样本被降权，对于总的loss的贡献很小（p=0.9，r=2时，样本loss被降权100倍）；
2. 不易判断的样本，1-p接近于1，样本权重没大改变（p<0.5，r=2时，样本loss最多被降权4倍）

image.png