激活函数/ 优化函数/ 损失函数

一.损失函数

1. 0-1 损失函数

0-1损失是指预测值和目标值不相等为1， 否则为0:

特点：

(1)0-1损失函数直接对应分类判断错误的个数，但是它是一个非凸函数，不太适用。

(2)感知机就是用的这种损失函数。但是相等这个条件太过严格，因此可以放宽条件，即满足

时认为相等。

2. 对数损失函数

log对数损失函数的标准形式如下：

特点：

(1) log对数损失函数能非常好的表征概率分布，在很多场景尤其是多分类，如果需要知道结果属于每个类别的置信度，那它非常适合。
(2)健壮性不强，相比于hinge loss对噪声更敏感。
(3)逻辑回归的损失函数就是log对数损失函数。

3. L1Loss