二元信息熵（Python版）

在机器学习中，熵这个名词非常重要，尤其是在决策树分类、神经网络的应用。

下面是二元信息熵的Python代码，以及绘图结果

import numpy as np
import matplotlib.pyplot as plt
def f(p):
    return -(p*np.log2(p)+(1-p)*np.log2(1-p))
plot_x = np.linspace(0.001,0.999,100)
plt.plot(plot_x,f(plot_x))
plt.show()

后续还有采用二元信息熵的决策树分类模型的应用实例，一位正在人工智能边缘探索的小白~