通俗易懂的machine learning之K近邻算法

K近邻算法( k-Nearest Neighbor)是一种基于实例的有效监督学习方法，尤其适合对于距离敏感的数据。

K近邻算法经常用于买房和对于房子的一些参数的估计比如住房幸福度，房子价格等的预测。
简单一点说，K近邻算法就是采用测量不同特征值之间距离的方法进行分类。
下面列举一些K近邻算法的优点、缺点和适用范围以便广大读者在碰到分类或者回归问题时候考察是否适用K-NN算法。

K-NN基本特征：

优点：精度高，对异常值不敏感、无数据输入假定
精度高是因为K-NN对于每一个样本点的样本特征都会计算一遍它们之间的关联程度（距离）

对异常值不敏感也是因为每一个样本都会计算的原因。
至于无数据输入假定（希望广大读者指教！）

缺点：计算复杂度高、空间复杂度高
因为每一个样本点都要通过计算的原因，因此计算复杂都的确有点高。

适用数据范围：
数值型和标称型

工作原理：
存在一个样本集合，也就是训练集，在该训练集中每一个样本都有一个标签，即我们知道样本集中每一个数据所属于的分类。输入一个没有标签的新数据后，将新数据的每个特征和样本集中的数据的特征进行对比，然后算法提取出样本集中与输入数据特征最相似数据（最近邻）的分类标签，作为输入数据的分类标签。一般来说取前K个最相似的数据，一般K不超过20。这就是K-NN的工作原理。


工作原理之后就是K-NN的实现步骤了

1.收集数据：any methods
2.准备数据：计算distance时候用到的数据，最好是结构化的数据格式（ 即行数据,存储在 数据库 里,可以用二维表结构来逻辑表达实现 的数据）
3.分析数据：包括数据的预处理还要数据的一些参数的设置
4.训练算法：一般的K-NN都要有训练样本集调参数的算法，但K-NN例外
5.测试算法：计算错误率还有rems
6.使用算法

算法的具体实现步骤将在我的下一篇博客中介绍。

今日份AI日报：

uber真的要被Google击败吗，量子位推送中写到首个72量子比特的量子计算机在Google问世了。