一些小问题

为什么神经网络要用cross entropy?

因为用MSE时,和softmax 结合输出时会出现非凸问题


一些小问题_第1张图片

为什么回归问题用MSE?

因为预测的值可能是负的,没办法计算log(-1.5)之类的东西

正定矩阵有什么意义?

当海森矩阵是正定矩阵时,说明临界点x取得极小值
当海森矩阵是负定矩阵时,说明临界点x取得极大值
当海森矩阵是不定矩阵时,说明x不是极值点
https://www.cnblogs.com/liaohuiqiang/p/7805954.html

你可能感兴趣的:(一些小问题)