sklearn 相关性分析_数据分析可视化神器Yellowbrick分享

机器学习中非常重要的一环就是数据的可视化分析，从源数据的可视化到结果数据的可视化都离不开可视化工具的使用，sklearn+matplotlib的组合在日常的工作中已经满足了绝对大多数的需求，今天主要介绍的是一个基于sklearn和matplotlib模块进行扩展的可视化工具Yellowbrick。这个神器的作者还是一位美女程序啊，厉害厉害了！

Yellowbrick的官方文档在http://www.scikit-yb.org/zh/latest/。

Yellowbrick是由一套被称为"Visualizers"组成的可视化诊断工具组成的套餐，其由Scikit-Learn API延伸而来，对模型选择过程其指导作用。总之，Yellowbrick结合了Scikit-Learn和Matplotlib并且最好得传承了Scikit-Learn文档，对 你的 模型进行可视化！

Yellowbrick主要包含的组件如下：

VisualizersVisualizers也是estimators(从数据中习得的对象)，其主要任务是产生可对模型选择过程有更深入了解的视图。从Scikit-Learn来看，当可视化数据空间或者封装一个模型estimator时，其和转换器(transformers)相似，就像"ModelCV" (比如 RidgeCV, LassoCV )的工作原理一样。Yellowbrick的主要目标是创建一个和Scikit-Learn类似的有意义的API。其中最受欢迎的visualizers包括： 特征可视化Rank Features: 对单个或者两两对应的特征进行排序以检测其相关性Parallel Coordinates: 对实例进行水平视图Radial Visualization: 在一个圆形视图中将实例分隔开PCA Projection: 通过主成分将实例投射Feature Importances: 基于它们在模型中的表现对特征进行排序Scatter and Joint Plots: 用选择的特征对其进行可视化分类可视化Class Balance: 看类的分布怎样影响模型Classification Report: 用视图的方式呈现精确率，召回率和F1值ROC/AUC Curves: 特征曲线和ROC曲线子下的面积Confusion Matrices: 对分类决定进行视图描述回归可视化Prediction Error Plot: 沿着目标区域对模型进行细分Residuals Plot: 显示训练数据和测试数据中残差的差异Alpha Selection: 显示不同alpha值选择对正则化的影响聚类可视化K-Elbow Plot: 用肘部法则或者其他指标选择k值Silhouette Plot: 通过对轮廓系数值进行视图来选择k值文本可视化Term Frequency: 对词项在语料库中的分布频率进行可视化t-SNE Corpus Visualization: 用随机邻域嵌入来投射文档... 以及更多！Visualizers随时在增加中，请务必查看示例(甚至是 develop branch 上的)，并且随时欢迎你对Visualizers贡献自己的想法。

这里以癌症数据集为例绘制ROC曲线，如下：

def testFunc1(savepath='Results/breast_cancer_ROCAUC.png'): ''' 基于癌症数据集的测试 ''' data=load_breast_cancer() X,y=data['data'],data['target'] X_train, X_test, y_train, y_test = train_test_split(X, y) viz=ROCAUC(LogisticRegression()) viz.fit(X_train, y_train) viz.score(X_test, y_test) viz.poof(outpath=savepath)

结果如下：

结果看起来也是挺美观的。之后用平行坐标的方法对高维数据进行作图，数据集同上：

def testFunc2(savepath='Results/breast_cancer_ParallelCoordinates.png'): ''' 用平行坐标的方法对高维数据进行作图 ''' data=load_breast_cancer() X,y=data['data'],data['target'] print 'X_shape: ',X.shape #X_shape: (569L, 30L) visualizer=ParallelCoordinates() visualizer.fit_transform(X,y) visualizer.poof(outpath=savepath)

结果如下：

这个最初没有看明白什么意思，其实就是高维特征数据的可视化分析，这个功能还可以对原始数据进行采样，之后再绘图。

基于癌症数据集，使用逻辑回归模型来分类，绘制分类报告

def testFunc3(savepath='Results/breast_cancer_LR_report.png'): ''' 基于癌症数据集，使用逻辑回归模型来分类，绘制分类报告 ''' data=load_breast_cancer() X,y=data['data'],data['target'] model=LogisticRegression() visualizer=ClassificationReport(model) X_train,X_test,y_train,y_test=train_test_split(X,y,test_size=0.3,random_state=42) visualizer.fit(X_train,y_train) visualizer.score(X_test,y_test) visualizer.poof(outpath=savepath)

结果如下：

有没有感觉与sklearn似曾相识的感觉呢？

这样的结果展现方式还是比较美观的，在使用的时候发现了这个模块的一个不足的地方，就是：如果连续绘制两幅图片的话，第一幅图片就会累加到第二幅图片中去，多幅图片绘制亦是如此，在matplotlib中可以使用plt.clf()方法来清除上一幅图片，这里没有找到对应的API，希望有找到的朋友告知一下。

接下来基于共享单车数据集进行租借预测，具体如下：

首先基于特征对相似度分析方法来分析共享单车数据集中两两特征之间的相似度

def testFunc5(savepath='Results/bikeshare_Rank2D.png'): ''' 共享单车数据集预测 ''' data=pd.read_csv('bikeshare/bikeshare.csv') X=data[["season