常用损失函数公式整理

常用损失函数公式整理

---

基于距离度量的损失函数

---

• MSE损失函数

  $$Loss=\frac{1}{n}\sum _{i=1}^n(y_i-{\hat{y}}_i{)}^2$$

• L2损失函数

  $$Loss=\sqrt{\frac{1}{n}\sum _{i=1}^n(y_i-{\hat{y}}_i{)}^2}$$

• L1损失函数

  $$Loss=\frac{1}{n}\sum _{i=1}^n(|y_i-{\hat{y}}_i|)$$

• Smooth L1损失函数

$$\begin{array}{c}Loss=\{\begin{array}{ll}\frac{1}{2}(y-\hat{y}{)}^2,& |y-\hat{y}|<1\\ |y-\hat{y}|-\frac{1}{2},& |y-\hat{y}|>=1\end{array}\end{array}$$

基于概率分布度量的损失函数

---

• KL散度函数

$$Loss=\sum _{i=1}^n(y_i\times \log (\frac{y_i}{\widehat{y_i}}))$$

• 交叉熵损失

  $$Loss=-\sum _{i=1}^n{y}_i\log {\hat{y}}_i$$

结尾

原始的Latax文件可以进群拿哦
如果觉得文章对你有用请点赞、关注 ->> 你的点赞对我太有用了
群内交流更多技术
130856474 <-- 在这里