机器学习面试必知：DBSCAN

与传统的Kmeans相比，DBSCAN最大的不同就是不需要输入类别数k，最大的优势是可以发现任意形状的聚类簇。如果数据是稠密的，并且数据集不是凸的，那么DBSCAN就比Kmeans好用很多，如果数据不是稠密的，则不推荐用DBSCAN。

输入：样本集$D=(x_1,x_2,...,x_m)$,邻域数$(ϵ,MinNum)$,样本距离度量方式

1. 初始化核心对象集合$\Omega =\varnothing$，初始化聚类簇数目k=0，初始化未访问样本集合$\Gamma =D$，簇划分$C=\varnothing$
2. 对于$j=1,2,...,m$，按照下面的步骤找出所有核心对象：
   . 通过距离度量方式，找到样本$x_j$的$ϵ$-邻域子样本集$N_{ϵ}(x_j)$
   . 如果子样本集样本个数满足$|N_{ϵ}(x_j)|\ge MinNum$，那么将样本$x_j$加入核心对象样本集合$\Omega =\Omega \cup \left\{x_j\right\}$
3. 如果核心对象集合$\Omega =\varnothing$则算法结束，否则转入下一步
4. 在核心对象集合$\Omega$中，随机选择一个核心对象$o$，初始化当前簇核心对象队列${\Omega }_{cur}=\left\{o\right\}$，初始化类别序号k=k+1，初始化当前簇样本集合$C_k=\left\{o\right\}$，更新未访问样本集合$\Gamma =\Gamma -\left\{o\right\}$
5. 如果当前簇核心队列${\Omega }_{cur}=\varnothing$，则当前聚类簇$C_k$生成完毕，更新簇划分$C=\left\{C_1,C_2,...,C_k\right\}$，更新对象集合$\Omega =\Omega -C_k$，转入步骤3
6. 在当前簇核心队列取出一个核心对象$o^{\prime }$，通过邻域距离阈值$ϵ$找出所有的邻域子样本集$N_{ϵ}(o^{\prime })$，令$\Delta =N_{ϵ}(o^{\prime })\cap \Gamma$那么$C_k=C_k\cup \Delta ,\Gamma =\Gamma -\Delta ,{\Omega }_{cur}={\Omega }_{cur}\cup (\Delta \cap \Omega )-o^{\prime }$，转到步骤5

输出：簇划分$C=\left\{C_1,C_2,...,C_k\right\}$

优点：

• 可以对任意形状的稠密数据集进行聚类，而Kmeans一般只适用于凸数据集
• 可以在聚类的同时发现异常点，对数据集中的异常点不敏感
• 聚类效果不像Kmeans那样受初始值的影响

缺点：

• 样本集的密度不均匀，聚类间距相差很大时，聚类质量较差，这时用DBSCAN聚类一般不适合
• 样本集较大，聚类收敛时间长，此时可以对搜索最近邻时建立的KD树或者球树进行规模限制来改进
• 调参相对于Kmeans稍显复杂，需要对距离阈值和样本阈值进行联合调参，不同的参数组合对最后的聚类效果有很大影响