python计算熵

熵的计算公式:

p(x)为概率,全部概率之和为1

假设 probs是网络输出的n分类预测概率,尺寸为[batch_size,n],那么预测熵的计算代码如下:

log_probs = np.log2(probs)
shang = -1 * np.sum(probs * log_probs, axis=1)

你可能感兴趣的:(pytorch,python,深度学习,概率论)