sklearn通用学习模式-【老鱼学sklearn】

选择学习方法

机器学习中有很多方法可以使用,但具体我们选择哪个机器学习的方法呢?
sklean向我们提供了一个选择哪个机器学习的决策图:
http://scikit-learn.org/stable/_static/ml_map.png

通用学习模式

sklearn提供了一个通用的机器学习模式,这样便于我们使用者以统一的方式来使用。
本处以分类器作为例子来进行讲述。

分类算法在机器学习中应用非常广泛,我甚至可以把某些回归问题看成一定颗粒度上的分类问题。
本处以非常经典的判断花卉的分类作为例子:
sklearn通用学习模式-【老鱼学sklearn】_第1张图片

这是几种不同的花,区分这些花是根据如下这几个属性来进行判断的:
花瓣的长度
花瓣的宽度
茎的长度
茎的度度

也就是提供某种花的这些特征后,系统自动会判断出这是哪种花。

加载数据集

在sklearn中提供了很多测试数据集,这些数据集也可以用于其它机器学习的框架中。
本次花的测试数据集加载方式为:

from sklearn import datasets

# 加载iris花的数据集
iris = datasets.load_iris()
print(iris)

我们来看下加载后的数据集长什么模样的:

{'data': array([[ 5.1,  3.5,  1.4,  0.2],
       [ 4.9,  3. ,  1.4,  0.2],
       [ 4.7,  3.2,  1.3,  0.2],
       [ 4.6,  3.1,  1.5,  0.2],
       [ 5. ,  3.6,  1.4,  0.2],
       [ 5.4,  3.9,  1.7,  0.4],
       [ 4.6,  3.4,  1.4,  0.3],
       [ 5. ,  3.4,  1.5,  0.2],
       [ 4.4,  2.9,  1.4,  0.2],
       [ 4.9,  3.1,  1.5,  0.1],
       [ 5.4,  3.7,  1.5,  0.2],
        [ 6.5,  3. ,  5.2,  2. ],
       [ 6.2,  3.4,  5.4,  2.3],
       [ 5.9,  3. ,  5.1,  1.8]]), 'target': array([0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0,
       0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0,
       0, 0, 0, 0, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
       1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1,
       1, 1, 1, 1, 1, 1, 1, 1, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
       2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
       2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2, 2]), 'target_names': array(['setosa', 'versicolor', 'virginica'],
      dtype='

其中我们就能看出此数据集中有data属性和target属性,还有target_names属性等,具体使用方法可以在IDEA开发环境中按住Ctrl键并用鼠标点击load_iris函数,就能看到相应的用法以及所拥有的属性数据了,我们不必费力地来记忆其数据中有哪些属性。
在data属性中,其数据结构类似:

 [ 4.9,  3.1,  1.5,  0.1],

这里有4个维度的数据,分别代表了我们前面提到的花瓣的长度、花瓣的宽度、茎的长度以及茎的宽度。
而在target中就指出了这种属性对是属于哪种花,target中的取值是0,1,2,也就是分属于3种类型的花,具体花的名字不是很重要,虽然在target_names中指明了花的名字。

我们打印一下data的维度:

from sklearn import datasets

# 加载iris花的数据集
iris = datasets.load_iris()
data = iris.data
print("data的维度:", data.shape)

target = iris.target
print("target的维度:", target.shape)

输出为:

data的维度: (150, 4)
target的维度: (150,)

也就是测试数据集总共有150行(150个测试案例),而每行有4个属性列的值,相应的,对这150个测试案例都进行了人工标注,总共标注了150个数据,每个标注结果为1个数字,分别为0,1,2,代表属于哪种花的种类。

训练集与测试集分离

在机器学习中,通过数据中隐含的规律来进行学习,因此需要有一部分训练集,从训练集中找出这些数据的规律,然后再根据从训练集中找出的规律来进行测试,看从训练集中找出的规律是否具有一定的普遍性。这样就还需要有测试集,就像我们上学时的学习一样,平常要做练习题,阶段性后还会有考试来检验我们平常学得如何。

创建训练集和测试集的方法为:

from sklearn.model_selection import train_test_split

# 对原始数据集按照测试集占总量的30%,训练集占总量的70%进行拆分。
X_train, X_test, y_train, y_test = train_test_split(data, target, test_size=0.3)

这里测试集占总量的30%,训练集占总量的70%,就像我们平常学习时,训练题做得多一点,考试不是那么经常考的,一般一周学习后才会考一次试。

如果我们把y_test打印出来的话,会发现其结果是乱序的,跟我们平常学习也类似,一般训练题或考试题都不会一直对同一个知识点连续地考,会把知识点进行分散地来考试。

有了训练数据集,我们就在此数据上进行训练,但怎么训练呢?这里我们用K近邻法(k-nearst neighbors,KNN)进行训练。
KNN的目的是当提供了一个未知的特征集后,我们能够根据这些特征集寻找到最接近此特征集的分类。
举个简单的例子,例如提供一个运动员的身高,其身高1.98米,你认为他是什么运动员?篮球运动员嘛,因为篮球运动员一般身高比较高。
也就是提供一堆运动员的身高以及他们所从事的运动项目,进行KNN训练后,模型中自动会总结出身高同运动项目的关系,这样当提供一个新的身高数据,系统会根据KNN算法计算同此身高最接近的训练集中的数据,并概括出此类似身高所从事的体育项目。

KNN的核心就是距离计算,这里就不细展开了,只要明白KNN是搜索出同此属性最接近的所属分类就可以了。

sklearn中使用fit函数,也就是根据训练集数据进行适应或者训练,代码为:

knn = KNeighborsClassifier()
knn.fit(X_train, y_train)

训练完成后,我们来测试一下看看,看学到了这些数据中的规律:

print("预测值:")
print(knn.predict(X_test))
print("实际值:")
print(y_test)

输出为:

预测值:
[2 1 2 1 0 0 2 1 2 2 0 2 0 2 0 0 2 1 1 1 0 2 2 1 0 1 0 0 2 2 2 1 1 2 1 2 0
 2 0 1 2 0 2 1 1]
实际值:
[2 1 2 1 0 0 2 1 2 2 0 2 0 1 0 0 2 1 1 1 0 2 2 1 0 1 0 0 2 2 2 1 1 2 1 2 0
 2 0 1 2 0 2 1 1]

从结果上看,基本上都预测对了。

完整的代码如下:

from sklearn import datasets
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsClassifier

# 加载iris花的数据集


iris = datasets.load_iris()
data = iris.data
print("data的维度:", data.shape)

target = iris.target
print("target的维度:", target.shape)

# 对原始数据集按照测试集占总量的30%,训练集占总量的70%进行拆分。
X_train, X_test, y_train, y_test = train_test_split(data, target, test_size=0.3)

# 训练数据
knn = KNeighborsClassifier()
knn.fit(X_train, y_train)

# 预测数据
print("预测值:")
print(knn.predict(X_test))
print("实际值:")
print(y_test)

你可能感兴趣的:(sklearn通用学习模式-【老鱼学sklearn】)