语音识别学习日志 2018-7-25 [softmax溢出的解决(softmax结果张量中的元素大部分是0或1)]
昨天做的MLP,网络中每一层都没用任何激活函数,所以输出层的结果_logits中的部分数值比较大(绝对值在3000左右)。最后使用softmax函数对输出层进行处理得到各个结果的概率,发现训练的结果很不理想,准确率在50%以下。最后发现softmax的结果大部分是[0,0,0,0,0,1,0,0,0,0]这种单位向量。最后又看了看softmax,softmax函数的定义如下:盗一张描述softma