相对熵/KL散度（Kullback–Leibler divergence，KLD）

相对熵（relative entropy）又称为KL散度（Kullback–Leibler divergence，简称KLD），信息散度（information divergence），信息增益（information gain）。
KL散度是两个概率分布P和Q差别的非对称性的度量。

      KL散度是用来度量使用基于Q的编码来编码来自P的样本平均所需的额外的比特个数。 典型情况下，P表示数据的真实分布，Q表示数据的理论分布，模型分布，或P的近似分布。

 

http://zh.wikipedia.org/zh-tw/%E7%9B%B8%E5%AF%B9%E7%86%B5

http://baike.baidu.com/view/951299.htm