逻辑回归模型中特征是否需要归一化?

从前向过程来看:
逻辑回归模型的输出是经过softmax的概率值,概率值的排序不受归一化的影响。从另一个角度来看,softmax其实也就实现了归一化的目的。

从反向过程来看:
逻辑回归模型的参数优化一般采用了梯度下降法,如果不对特征进行归一化,可能会使得损失函数值得等高线呈椭球形,这样花费更多的迭代步数才能到达最优解。

从损失函数来看:
逻辑回归模型的损失函数可以加入正则项,那么参数的大小便决定了损失函数值,特征就有必要先进行归一化。

所以综上所述,在逻辑回归模型中,归一化还是有必要的,尤其是在正则化和梯度下降中所起到的作用。

你可能感兴趣的:(逻辑回归模型中特征是否需要归一化?)