python-scikit-learn基础
文章目录
- 前言
- 1.scikit-learn自带数据集
- 2.scikit-learn数据降维
- 3.scikit-learn数据预处理
- 4.scikit-learn数据集划分
- 5.scikit-learn模型调用
-
- 1. 调用模型
- 2. 代入数据训练
- 3. 模型预测
- 6.scikit-learn结果评价
- 7.scikit-learn过程可视化（以决策树为例）
前言
scikit-learn是python实现的机器学习算法库，它具有各种分类，回归和聚类算法，包括支持向量机，随机森林，梯度提升，k均值和DBSCAN，并且旨在与Python数值科学图书馆NumPy和SciPy。
1.scikit-learn自带数据集
| 数据集 | 函数 | 适用范围 |
|---|---|---|
| 波士顿房价数据集 | datasets.load_boston([return_X_y]) | 经典的用于回归任务的数据集 |
| 乳腺癌数据集 | datasets.load_breast_cancer([return_X_y]) | 简单经典的用于二分类任务的数据集 |
| 糖尿病数据集 | datasets.load_diabetes([return_X_y]) | 经典的用于回归的数据集， |
| 手写数字数据集 | datasets.load_digits([n_class, return_X_y]) | 用于分类任务或者降维任务的数据集 |
| 体能训练数据集 | datasets.load_linnerud([return_X_y]) | 经典的用于多变量回归任务的数据集。 |
| 鸢尾花数据集 | datasets.load_iris([return_X_y]) | 用于分类任务的数据集 |
# 鸢尾花数据调用示例
from sklearn.datasets import load_iris
data=load_iris( )
print(X.shape) # 结果 (506, 13) 数据的行数(数量)与维度(指标）
# 其他数据集示例
from sklearn.datasets import fetch_olivetti_faces #下载大型数据集
from sklearn.datasets import make_swiss_roll #生成数据集
2.scikit-learn数据降维
sk-learn的降维算法都被包括在模块decomposition中，在此模块中可以实现主成分分析、因子分析、独立成分分析、字典学习、高级矩阵分解以及其他矩阵分解
PCA降维示例
model=sklearn.decomposition.PCA(n_components=None, copy=True, whiten=False)
X_LessDim=model.fit_transform(X)
| 参数 | 含义 |
|---|---|
| n_components | 赋值为int，比如n_components=1，将把原始数据降到一个维度。 |
| copy | 表示是否在运行算法时，将原始训练数据复制一份。 |
| whiten | 白化，使得每个特征具有相同的方差。 |
# 降维
from sklearn.decomposition import PCA
Pca_mode=PCA(n_components=2)
less_X=Pca_mode.fit_transform(X) # 注意函数fit_transform
less_X.shape # (506, 2)数据指标即维度变为2
3.scikit-learn数据预处理
sk-learn的Preprocessing包含了简单的预处理和标准化函数，在此模块中可以实现简单的数据预处理
如：
独热编码转换、数据二值化等操作，还可以实现0-1标准化、最大最小标准化等数据标准化转换操作。
标准化转换示例
from sklearn. preprocessing import Normalizer
model=Normalizer()
X_stand=model.transform(X)
# 标准化处理
from sklearn.preprocessing import Normalizer
N_model=Normalizer()
N_less_X=N_model.transform(less_X)
print(N_less_X[0:5])
# 输出
[[ 0.72187819 0.69202014]
[-0.74597238 -0.66597688]
[-0.74145383 0.67100389]
[ 0.80756801 0.58977446]
[-0.43561154 -0.90013476]]
4.scikit-learn数据集划分
scikit-learn支持多种种数据集划分的方法，这里以留出法和交叉验证法为例。
留出法:
from sklearn.model_selection import train_test_split
X_tr,X_te,Y_tr,Y_te=train_test_split(X,Y,test_size=0.2)
test_size：控制测试集的比例
交叉验证
from sklearn.model_selection import KFold
kf = KFold(n_splits=4)
for train, test in kf.split(X, Y):
print(train, test)
5.scikit-learn模型调用
1. 调用模型
from sklearn.tree import DecisionTreeRegressor
model=DecisionTreeRegressor()
2. 代入数据训练
model.fit(X_tr,Y_tr)
3. 模型预测
Y_pre=model.predict(X_te)
Y_pre
6.scikit-learn结果评价
7.scikit-learn过程可视化（以决策树为例）
决策树的可视化需要用到graphviz和pydotplus，然而graphviz除了在python里pip安装模块，还需要在电脑中安装graphviz软件。
# 首先载入所需的模块：
from sklearn.tree import export_graphviz
import pydotplus
# 生成模型后即可使用上述模块产生需要格式的决策树图片
dot_data = tree.export_graphviz(决策树模型, out_file=None)
graph = pydotplus.graph_from_dot_data(dot_data)
graph.write_png("tree.png") # 生成png文件
graph.write_jpg("tree.jpg") # 生成jpg文件
graph.write_pdf("tree.pdf") # 生成pdf文件