逻辑斯谛回归与最大熵模型


本文希望通过《统计学习方法》 第六章的学习,由表及里地系统学习最大熵模型。文中使用Python实现了逻辑斯谛回归模型的3种梯度下降最优化算法,并制作了可视化动画。针对最大熵,提供一份简明的GIS最优化算法实现,并注解了一个IIS最优化算法的Java实现。逻辑斯谛回归模型逻辑斯谛分布首先介绍逻辑斯谛分布,该分布的定义是设X是连续随机变量,X服从逻辑斯谛分布是指X服从如下分布函数和密度函数:其中,为位置参数,> 0 为形状参数。可以通过其图像观察:右边的逻辑斯蒂分布函数以点中心对称,即满足:形状...

继续阅读:码农场 » 逻辑斯谛回归与最大熵模型

原文链接:http://www.hankcs.com/ml/the-logistic-regression-and-the-maximum-entropy-model.html

你可能感兴趣的:(逻辑斯谛回归与最大熵模型)