数据仓库与数据挖掘——k-Neareat Neighbors

 一、基本介绍

        k-近邻算法又称kNN，全称是k-Nearest Neighbors算法，它是数据挖掘和机器学习中常用的学习算法，也是机器学习中最简单的分类算法之一。kNN算法用一句通俗的古语来说就是：“物以类聚，人以群分”，要判断一个实例的类别，就可以看它附近是什么类别。kNN的使用范围很广泛，在样本量足够大的前提条件之下它的准确度非常高。

二、核心思想

        计算每个训练数据到待分类元组的距离，取和待分类元组最近的k个训练数据，k个数据中哪个类别的训练数据占多数，则待分类元组就属于哪个类别。

三、原理演示

        首先计算每个训练数据到待分类元组的距离：

        取k=5，选择k个和待分类元组最近的k个训练数据： 

        k个数据中红色样本占多数，则待分类元组分类为红色。 

四、算法流程图

五、关键源码展示

1、导入数据

2、计算距离，进行分类

3、输出分类结果

六、拓展实验

        人工添加二维点阵数据集，测试在二维数据下的分类效果