最大熵模型

在满足约束条件的模型集合中选取熵最大的模型,即不确定最大熵模型。
最大熵模型就是要学习到合适的分布 P(y|x) ,使得条件熵 H(P) 的取值最大。在对训练数据集一无所知的情况下,最大熵模型认为 P(y|x) 是符合均匀分布的。

image.png

你可能感兴趣的:(最大熵模型)