Huber Regression（Huber回归）

Huber回归未忽略掉outlier，对oulier的采用线性损失，从而相对地降低了outlier的权重，最终降低了outlier对回归结果的影响。¹相对地降低了outlier的权重是相对于MSE而言的，因为MSE采用平方，而Huber损失采用的是线性损失。²

Huber回归的优化目标函数如下¹：
$$\underset{w,\sigma }{\min }\sum _{i=1}^n\left(\sigma +H_{ϵ}\left(\frac{X_{i}w-y_i}{\sigma }\right)\sigma \right)+\alpha \Vert w{\Vert }_2^2$$
其中：$$H_{ϵ}(z)=\{\begin{array}{ll}{z}^2,& \text{ if }|z|<ϵ\\ 2ϵ|z|-{ϵ}^2,& \text{ otherwise }\end{array}$$

---

1. https://scikit-learn.org/stable/modules/linear_model.html#huber-regression ↩︎ ↩︎

2. 大数据文摘@机器学习大牛最常用的5个回归损失函数，你知道几个？ ↩︎