【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术

背景

Iris数据集中包含了其中的三种数据: 山鸢尾(Setosa), 杂色鸢尾(Versicolour), 维吉尼亚鸢尾(Virginica), 每种50个数据, 共含150个数据.。在每个数据包含四个属性: 花萼长度,花萼宽度,花瓣长度,花瓣宽度, 可通过这四个属性预测鸢尾花卉属于 (山鸢尾, 杂色鸢尾, 维吉尼亚鸢尾) 哪一类

Iris数据集的Fisher线性分类图

代码如下:

from sklearn import datasets
import matplotlib.pyplot as plt
import numpy as np
import math

#prepare the data
iris = datasets.load_iris()
X = iris.data
y = iris.target
names = iris.feature_names
labels = iris.target_names
y_c = np.unique(y)

"""visualize the distributions of the four different features in 1-dimensional histograms"""
fig, axes = plt.subplots(2, 2, figsize=(12, 6))
for ax, column in zip(axes.ravel(), range(X.shape[1])):
  # set bin sizes
  min_b = math.floor(np.min(X[:, column]))
  max_b = math.ceil(np.max(X[:, column]))
  bins = np.linspace(min_b, max_b, 25)

  # plotting the histograms
  for i, color in zip(y_c, ('blue', 'red', 'green')):
      ax.hist(X[y == i, column], color=color, label='class %s' % labels[i],
              bins=bins, alpha=0.5, )
  ylims = ax.get_ylim()

  # plot annotation
  l = ax.legend(loc='upper right', fancybox=True, fontsize=8)
  l.get_frame().set_alpha(0.5)
  ax.set_ylim([0, max(ylims) + 2])
  ax.set_xlabel(names[column])
  ax.set_title('Iris histogram feature %s' % str(column + 1))

  # hide axis ticks
  ax.tick_params(axis='both', which='both', bottom=False, top=False, left=False, right=False,
                 labelbottom=True, labelleft=True)

  # remove axis spines
  ax.spines['top'].set_visible(False)
  ax.spines["right"].set_visible(False)
  ax.spines["bottom"].set_visible(False)
  ax.spines["left"].set_visible(False)

axes[0][0].set_ylabel('count')
axes[1][0].set_ylabel('count')
fig.tight_layout()
plt.show()

运行结果:
【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第1张图片
从后两张图来看,花瓣的长度和宽度更适合作为分类标准

使用Iris数据集来进行Fisher分类:

np.set_printoptions(precision=4)
 
mean_vector = []  # 类别的平均值
for i in y_c:
    mean_vector.append(np.mean(X[y == i], axis=0))
    print('Mean Vector class %s:%s\n' % (i, mean_vector[i]))
S_W = np.zeros((X.shape[1], X.shape[1]))
for i in y_c:
    Xi = X[y == i] - mean_vector[i]
    S_W += np.mat(Xi).T * np.mat(Xi)
print('S_W:\n', S_W)

S_B = np.zeros((X.shape[1], X.shape[1]))
mu = np.mean(X, axis=0)  # 所有样本平均值
for i in y_c:
    Ni = len(X[y == i])
    S_B += Ni * np.mat(mean_vector[i] - mu).T * np.mat(mean_vector[i] - mu)
print('S_B:\n', S_B) 
eigvals, eigvecs = np.linalg.eig(np.linalg.inv(S_W) * S_B)  # 求特征值,特征向量
np.testing.assert_array_almost_equal(np.mat(np.linalg.inv(S_W) * S_B) * np.mat(eigvecs[:, 0].reshape(4, 1)),
                                     eigvals[0] * np.mat(eigvecs[:, 0].reshape(4, 1)), decimal=6, err_msg='',
                                     verbose=True)
# sorting the eigenvectors by decreasing eigenvalues
eig_pairs = [(np.abs(eigvals[i]), eigvecs[:, i]) for i in range(len(eigvals))]
eig_pairs = sorted(eig_pairs, key=lambda k: k[0], reverse=True)
W = np.hstack((eig_pairs[0][1].reshape(4, 1), eig_pairs[1][1].reshape(4, 1)))   
X_trans = X.dot(W)
assert X_trans.shape == (150, 2) 
plt.figure(figsize=(8, 4))
plt.subplot(121)
plt.scatter(X_trans[y == 0, 0], X_trans[y == 0, 1], c='r')
plt.scatter(X_trans[y == 1, 0], X_trans[y == 1, 1], c='g')
plt.scatter(X_trans[y == 2, 0], X_trans[y == 2, 1], c='b')
plt.title('my LDA')
plt.xlabel('LD1')
plt.ylabel('LD2')
plt.legend(labels, loc='best', fancybox=True) 

结果如下:
【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第2张图片
由于鸢尾花的种类分为了三类,所以根据图片所示结果,发现极度符合花瓣宽度和长度来进行分类的柱状图,由此可以看出Fisher分类可以找到最优分类方向

可视化学习

使用pip install seaborn命令来安装seaborn库进行可视化

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第3张图片

1.读取数据

下载好鸢尾花数据集放入指定位置,方便读取
部分数据如下:
【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第4张图片

2.进行可视化

拿到鸢尾花数据后进行数据清洗,去掉Species特征中的‘Iris-’字符

import numpy as np
import pandas as pd
import seaborn as sns
import matplotlib.pyplot as plt
df_Iris = pd.read_csv('iris.csv')
#对数据进行分割
df_Iris['Species']= df_Iris.Species.apply(lambda x: x.split('-')[1])
df_Iris.Species.unique()
#sns初始化
sns.set()
#设置散点图x轴与y轴以及data参数
sns.relplot(x='SepalLengthCm', y='SepalWidthCm', data = df_Iris)
plt.title('SepalLengthCm and SepalWidthCm data analysize')

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第5张图片
下图是使用replot来绘制散点图

#sns初始化
sns.set()
#设置散点图x轴与y轴以及data参数
sns.relplot(x='SepalLengthCm', y='SepalWidthCm', data = df_Iris)
plt.title('SepalLengthCm and SepalWidthCm data analysize')

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第6张图片

#hue表示按照Species对数据进行分类, 而style表示每个类别的标签系列格式不一致.
sns.relplot(x='SepalLengthCm', y='SepalWidthCm', hue='Species', style='Species', data=df_Iris )
plt.title('SepalLengthCm and SepalWidthCm data by Species')

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第7张图片

#花瓣长度与宽度分布散点图
sns.relplot(x='PetalLengthCm', y='PetalWidthCm', hue='Species', style='Species', data=df_Iris )
plt.title('PetalLengthCm and PetalWidthCm data by Species')

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第8张图片

#花萼与花瓣长度分布散点图
sns.relplot(x='SepalLengthCm', y='PetalLengthCm', hue='Species', style='Species', data=df_Iris )
plt.title('SepalLengthCm and PetalLengthCm data by Species')

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第9张图片

#花萼与花瓣宽度分布散点图
sns.relplot(x='SepalWidthCm', y='PetalWidthCm', hue='Species', style='Species', data=df_Iris )
plt.title('SepalWidthCm and PetalWidthCm data by Species')

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第10张图片

#花萼的长度与花瓣的宽度分布散点图
sns.relplot(x='SepalLengthCm', y='PetalWidthCm', hue='Species', style='Species', data=df_Iris )
plt.title('SepalLengthCm and PetalWidthCm data by Species')

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第11张图片

#花萼的宽度与花瓣的长度分布散点图
sns.relplot(x='SepalWidthCm', y='PetalLengthCm', hue='Species', style='Species', data=df_Iris )
plt.title('SepalWidthCm and PetalLengthCm data by Species')

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第12张图片

2、直方图的绘制用distplot,用直方图可以直观地看出数据的大小

#绘制直方图, 其中kde=False表示不显示核函数估计图,这里为了更方便去查看频数而设置它为False.
sns.distplot(df_Iris.SepalLengthCm,bins=8, hist=True, kde=False)

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第13张图片

sns.distplot(df_Iris.SepalWidthCm,bins=13, hist=True, kde=False)

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第14张图片

sns.distplot(df_Iris.PetalLengthCm, bins=5, hist=True, kde=False)

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第15张图片

sns.distplot(df_Iris.PetalWidthCm, bins=5, hist=True, kde=False)

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第16张图片

3、用boxplot来表示数据

#比如数据中的SepalLengthCm属性
sns.boxplot(x='SepalLengthCm', data=df_Iris)

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第17张图片

#比如数据中的SepalWidthCm属性
sns.boxplot(x='SepalWidthCm', data=df_Iris)

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第18张图片

#对于每个属性的data创建一个新的DataFrame
Iris1 = pd.DataFrame({"Id": np.arange(1,151), 'Attribute': 'SepalLengthCm', 'Data':df_Iris.SepalLengthCm, 'Species':df_Iris.Species})
Iris2 = pd.DataFrame({"Id": np.arange(151,301), 'Attribute': 'SepalWidthCm', 'Data':df_Iris.SepalWidthCm, 'Species':df_Iris.Species})
Iris3 = pd.DataFrame({"Id": np.arange(301,451), 'Attribute': 'PetalLengthCm', 'Data':df_Iris.PetalLengthCm, 'Species':df_Iris.Species})
Iris4 = pd.DataFrame({"Id": np.arange(451,601), 'Attribute': 'PetalWidthCm', 'Data':df_Iris.PetalWidthCm, 'Species':df_Iris.Species})
#将四个DataFrame合并为一个.
Iris = pd.concat([Iris1, Iris2, Iris3, Iris4])
#绘制箱线图
sns.boxplot(x='Attribute', y='Data', data=Iris)

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第19张图片

sns.boxplot(x='Attribute', y='Data',hue='Species', data=Iris)

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第20张图片

4、使用violinplot来表示数据

sns.violinplot(x='Attribute', y='Data', hue='Species', data=Iris )

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第21张图片

#花萼长度
sns.boxplot(x='Species', y='SepalLengthCm', data=df_Iris)
sns.violinplot(x='Species', y='SepalLengthCm', data=df_Iris)
plt.title('SepalLengthCm data by Species')

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第22张图片

#花萼宽度
sns.boxplot(x='Species', y='SepalWidthCm', data=df_Iris)
sns.violinplot(x='Species', y='SepalWidthCm', data=df_Iris)
plt.title('SepalWidthCm data by Species')

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第23张图片

#花瓣长度
sns.boxplot(x='Species', y='PetalLengthCm', data=df_Iris)
sns.violinplot(x='Species', y='PetalLengthCm', data=df_Iris)
plt.title('PetalLengthCm data by Species')

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第24张图片

#花瓣宽度
sns.boxplot(x='Species', y='PetalWidthCm', data=df_Iris)
sns.violinplot(x='Species', y='PetalWidthCm', data=df_Iris)
plt.title('PetalWidthCm data by Species')

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第25张图片

5、使用pairplot来表示数据

sns.pairplot(df_Iris, hue='Species')
#保存图片, 由于在jupyter notebook中太大, 不能一次截图
plt.savefig('pairplot.png')
plt.show()

【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第26张图片
构建模型,采用决策树分类算法
代码如下:

from sklearn.model_selection import train_test_split
from sklearn.tree import DecisionTreeClassifier

X = df_Iris[['SepalLengthCm','SepalWidthCm','PetalLengthCm','PetalWidthCm']]
y = df_Iris['Species']
#将数据按照8:2的比例随机分为训练集, 测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)
#初始化决策树模型
dt = DecisionTreeClassifier()
#训练模型
dt.fit(X_train, y_train)
#用测试集评估模型的好坏
dt.score(X_test, y_test)

结果如下;
【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术_第27张图片

参考资料:
1、https://www.cnblogs.com/star-zhao/p/9847082.html
2、https://blog.csdn.net/A981012/article/details/105944136
数据来源:
https://www.kaggle.com/benhamner/python-data-visualizations/data

你可能感兴趣的:(【人工智能与机器学习】用Jupyter完成Iris数据集的 Fisher(注意不是其他算法)线性分类,并学习数据可视化技术)