机器学习基础（四）

KNN算法

KNN：K-Nearest Neighbor，最近领规则分类。

• 为了判断位置实例的类别，以所有已知类别的实例作为参照选择参数K。
• 计算未知实例与所有已知实例的距离。（一般采用欧氏距离）
• 选择最近K个已知实例。
• 根据少数服从多数的投票法则，让未知实例归类为K个最近邻样本中最多数的类别。

缺点

• 算法复杂度较高（需要比较所有已知实例与要分类的实例）。