sklearn不够用？尝试更高级的机器学习扩展库：mlxtend
机器学习
Author：louwill
mlxtend是一款高级的机器学习扩展库，可用于日常机器学习任务的主要工具，也可以作为sklearn的一个补充和辅助工具。
mlxtend主要包括以下模块：
分类器
聚类器
数据
评估方法
特征提取
特征选择
文件读写
关联算法
常见概念
图像
数学
绘图
预处理
回归器
文本
下面分别从分类器、图像、绘图和预处理等几个模块来展示mlxtend的强大功能。
分类器
mlxtend提供了多种分类和回归算法api，包括多层感知机、stacking分类器、逻辑回归等。以逻辑回归为例：
from mlxtend.data import iris_data
from mlxtend.plotting import plot_decision_regions
from mlxtend.classifier import LogisticRegression
import matplotlib.pyplot as plt
# Loading Data
X, y = iris_data()
X = X[:, [0, 3]] # sepal length and petal width
X = X[0:100] # class 0 and class 1
y = y[0:100] # class 0 and class 1
# standardize
X[:,0] = (X[:,0] - X[:,0].mean()) / X[:,0].std()
X[:,1] = (X[:,1] - X[:,1].mean()) / X[:,1].std()
lr = LogisticRegression(eta=0.1,
l2_lambda=0.0,
epochs=100,
minibatches=1, # for Gradient Descent
random_seed=1,
print_progress=3)
lr.fit(X, y)
plot_decision_regions(X, y, clf=lr)
plt.title('Logistic Regression - Gradient Descent')
plt.show()
plt.plot(range(len(lr.cost_)), lr.cost_)
plt.xlabel('Iterations')
plt.ylabel('Cost')
plt.show()
图像
图像模块提供了人脸特征点提取的api，示例如下：
import imageio
import matplotlib.pyplot as plt
from mlxtend.image import extract_face_landmarks
img = imageio.imread('test-face.png')
landmarks = extract_face_landmarks(img)
print(landmarks.shape)
print('\n\nFirst 10 landmarks:\n', landmarks[:10])
可视化展示：
fig = plt.figure(figsize=(15, 5))
ax = fig.add_subplot(1, 3, 1)
ax.imshow(img)
ax = fig.add_subplot(1, 3, 2)
ax.scatter(landmarks[:, 0], -landmarks[:, 1], alpha=0.8)
ax = fig.add_subplot(1, 3, 3)
img2 = img.copy()
for p in landmarks:
img2[p[1]-3:p[1]+3,p[0]-3:p[0]+3,:] = (255, 255, 255)
ax.imshow(img2)
plt.show()
展示人脸特征点：
import numpy as np
import matplotlib.pyplot as plt
left = np.array([36, 37, 38, 39, 40, 41])
right = np.array([42, 43, 44, 45, 46, 47])
fig = plt.figure(figsize=(10,10))
plt.plot(landmarks[:,0], -landmarks[:,1], 'ro', markersize=8, alpha = 0.5)
for i in range(landmarks.shape[0]):
plt.text(landmarks[i,0]+1, -landmarks[i,1], str(i), size=14)
left_eye = np.mean(landmarks[left], axis=0)
right_eye = np.mean(landmarks[right], axis=0)
print('Coordinates of the Left Eye: ', left_eye)
print('Coordinates of the Right Eye: ', right_eye)
plt.plot([left_eye[0]], [-left_eye[1]],
marker='+', color='blue', markersize=10, mew=4)
plt.plot([right_eye[0]], [-right_eye[1]],
marker='+', color='blue', markersize=10, mew=4)
plt.xticks([])
plt.yticks([])
plt.show()
Coordinates of the Left Eye: [169.33333333 156. ]
Coordinates of the Right Eye: [210.83333333 152.16666667]
绘图
mlxtend的绘图模块提供了各种机器学习辅助绘图工具，比如分类散点图、热图、决策边界图、多分类混淆矩阵图等等。以多分类混淆矩阵图为例，sklearn的plot_confusion模块只提供了绘制二分类的混淆矩阵图，如果想绘制多分类的混淆矩阵，尝试使用mlxtend的plot_confusion_matrix函数。示例如下：
import matplotlib.pyplot as plt
from mlxtend.evaluate import confusion_matrix
from mlxtend.plotting import plot_confusion_matrix
y_target = [1, 1, 1, 0, 0, 2, 0, 3]
y_predicted = [1, 0, 1, 0, 0, 2, 1, 3]
cm = confusion_matrix(y_target=y_target,
y_predicted=y_predicted,
binary=False)
fig, ax = plot_confusion_matrix(conf_mat=cm)
plt.show()
再来看如何绘制模型的决策边界图。比如我们想看看SVM在iris数据集上的分类效果，尝试绘制其决策边界图：
from mlxtend.plotting import plot_decision_regions
import matplotlib.pyplot as plt
from sklearn import datasets
from sklearn.svm import SVC
# Loading some example data
iris = datasets.load_iris()
X = iris.data[:, [0, 2]]
y = iris.target
# Training a classifier
svm = SVC(C=0.5, kernel='linear')
svm.fit(X, y)
# Plotting decision regions
plot_decision_regions(X, y, clf=svm, legend=2)
# Adding axes annotations
plt.xlabel('sepal length [cm]')
plt.ylabel('petal length [cm]')
plt.title('SVM on Iris')
plt.show()
预处理
mlxtend预处理模块提供了各种数据标准化和归一化方法，这里以分类变量的one-hot编码为例。mlxtend下的one_hot可对列表或numpy数组的数据进行转换：
from mlxtend.preprocessing import one_hot
import numpy as np
# numpy array
y = np.array([0, 1, 2, 1, 2])
one_hot(y)
from mlxtend.preprocessing import one_hot
# list
y = [0, 1, 2, 1, 2]
one_hot(y)
mlxtend其他模块和更多功能参考官方文档：
http://rasbt.github.io/mlxtend/
GitHub源码地址：
https://github.com/rasbt/mlxtend
参考资料：
http://rasbt.github.io/mlxtend/user_guide
往期精彩：