11. 分类算法-逻辑回归

逻辑回归

逻辑回归是解决二分类问题的利器

逻辑回归公式

image.png

sklearn逻辑回归的API

sklearn.linear_model.LogisticRegression
sklearn.linear_model.LogisticRegression(penalty=‘l2’, C = 1.0)
Logistic：回归分类器
coef_：回归系数

LogisticRegression总结

应用：广告点击率预测、电商购物搭配推荐
优点：适合需要得到一个分类概率的场景
缺点：当特征空间很大时，逻辑回归的性能不是很好（看硬件能力）

非监督学习

k-means（聚类）

k-means步骤
1、随机设置K个特征空间内的点作为初始的聚类中心
2、对于其他每个点计算到K个中心的距离，未知的点选择最近的一个聚类中心点作为标记类别
3、接着对着标记的聚类中心之后，重新计算出每个聚类的新中心点（平均值）
4、如果计算得出的新中心点与原中心点一样，那么结束，否则重新进行第二步过程

k-means API

sklearn.cluster.KMeans
sklearn.cluster.KMeans(n_clsters=8,init=‘k-means++’)
n_clusters:开始的聚类中心数量
init:初始化方法，默认为'k-means ++’
labels_:默认标记的类型，可以和真实值比较（不是值比较）

Kmeans性能评估指标API

API
sklearn.metrics.silhouette_score
sklearn.metrics.silhouette_score(X, labels)
计算所有样本的平均轮廓系数
X：特征值
labels：被聚类标记的目标值
轮廓系数：

image.png

注：对于每个点i为已聚类数据中的样本，bi为i到其它族群的所有样本的距离最小值，ai为i到本身族的距离平均值。最终计算出所有的样本点的轮廓系数平均值

Kmeans总结

特点分析：
采用迭代式算法，直观易懂并且非常实用
缺点：
容易收敛到局部最优解(多次聚类)
需要预先设定簇的数量(k-means++解决)