常用激活函数/损失函数/代价函数

目录

激活函数

Logistic

Softmax

Relu

Tanh

损失函数

0-1损失函数

平方损失函数

绝对值损失函数

对数损失函数

代价函数

均方误差

均方根误差

平均绝对值误差

交叉熵误差​


激活函数

Logistic

二分类的sigmoid函数,如果叠加实现多分类,分类结果不是互斥的。比如某个结果可能既是苹果,又是水果

常用激活函数/损失函数/代价函数_第1张图片

常用激活函数/损失函数/代价函数_第2张图片

Softmax

多分类simoid函数,分类结果是互斥的。

Relu

常用激活函数/损失函数/代价函数_第3张图片

常用激活函数/损失函数/代价函数_第4张图片常用激活函数/损失函数/代价函数_第5张图片

Tanh

常用激活函数/损失函数/代价函数_第6张图片

常用激活函数/损失函数/代价函数_第7张图片

损失函数

0-1损失函数

常用激活函数/损失函数/代价函数_第8张图片

平方损失函数

绝对值损失函数

对数损失函数

常用激活函数/损失函数/代价函数_第9张图片

代价函数

均方误差

常用激活函数/损失函数/代价函数_第10张图片

均方根误差

常用激活函数/损失函数/代价函数_第11张图片

平均绝对值误差

常用激活函数/损失函数/代价函数_第12张图片

交叉熵误差
常用激活函数/损失函数/代价函数_第13张图片

你可能感兴趣的:(深度学习相关博文,激活函数,损失函数,代价函数)