softmax 激活函数

目录

softmax函数


softmax激活函数

softmax用于多分类过程中,它作用在输出层将多个神经元的输出,映射到(0,1)区间,可以看成概率来理解,从而来进行多分类!

假设我们有一个数组V,i表示V中的第i个元素,那么这个元素的softmax值就是

softmax 激活函数_第1张图片

更形象的如下图表示

softmax 激活函数_第2张图片

对于图片中的例子,原来3,1,-3的输出通过softmax函数一作用,就映射成为(0,1)的值,而这些值的累和为1(满足概率的性质),那么我们就可以将它理解成概率,在最后选取输出结点的时候,我们就可以选取概率最大(也就是值对应最大的)结点,作为我们的预测目标!


 

你可能感兴趣的:(自然语言处理(NLP),机器学习,深度学习)