深度学习里面为什么喜欢用对数

1.这样可以简化计算并提高稳定性,有着相同的临界点
深度学习里面为什么喜欢用对数_第1张图片
2.由P(A).P(B)给出两个独立事件A和B共同出现的概率。如果我们使用log,即log(P(A)) + log(P(B)),这很容易映射到一个和。因此,更容易将神经元触发的“事件”作为线性函数来处理。

3将两个或更多这样的小数字相乘很容易导致浮点精度算术中的下溢(例如,考虑乘以0.0001*0.00001)

你可能感兴趣的:(深度学习)