KNN算法JAVA实现

邻近算法，或者说K最近邻(kNN，k-NearestNeighbor)分类算法是 数据挖掘分类技术中最简单的方法之一。所谓K最近邻，就是k个最近的邻居的意思，说的是每个样本都可以用它最接近的k个邻居来代表。

kNN算法的核心思想是如果一个样本在特征空间中的k个最相邻的样本中的大多数属于某一个类别，则该样本也属于这个类别，并具有这个类别上样本的特性。该方法在确定分类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。 kNN方法在类别决策时，只与极少量的相邻样本有关。由于kNN方法主要靠周围有限的邻近的样本，而不是靠判别类域的方法来确定所属类别的，因此对于类域的交叉或重叠较多的待分样本集来说，kNN方法较其他方法更为适合。

算法实现步骤： 

 * 1. 首先计算出所有的临近距离值
* 2. 对临近值进行排序
* 3. 选出临近值最小的K个数
* 4. 投票选出结果

源码如下

import java.util.Arrays;

/**
 * KNN又名临近算法
 * 实现步骤：
 * 1. 首先计算出所有的临近距离值
 * 2. 对临近值进行排序
 * 3. 选出临近值最小的K个数
 * 4. 投票选出结果
 */
public class KNN {

	private static double[][] DATA={
			{ 5.1, 3.5, 1.4, 0.2, 0 },
			{ 4.9, 3.0, 1.4, 0.2, 0 }, { 4.7, 3.2, 1.3, 0.2, 0 },
			{ 4.6, 3.1, 1.5, 0.2, 0 }, { 5.0, 3.6, 1.4, 0.2, 0 },
			{ 7.0, 3.2, 4.7, 1.4, 1 }, { 6.4, 3.2, 4.5, 1.5, 1 },
			//{ 6.9, 3.1, 4.9, 1.5, 1 }, //测试数据
			{ 5.5, 2.3, 4.0, 1.3, 1 },
			{ 6.5, 2.8, 4.6, 1.5, 1 }, { 5.7, 2.8, 4.5, 1.3, 1 },
			{ 6.5, 3.0, 5.8, 2.2, 2 }, { 7.6, 3.0, 6.6, 2.1, 2 },
			{ 4.9, 2.5, 4.5, 1.7, 2 }, { 7.3, 2.9, 6.3, 1.8, 2 },
			{ 6.7, 2.5, 5.8, 1.8, 2 }, { 6.9, 3.1, 5.1, 2.3, 2 }
	};
	private static int K = 6;
	private static int CLASSFIY=3;
	
	public static void main(String[] args) {
		// 待求解数组
		double distince[] = {6.9, 3.1, 4.9, 1.5, 1};
		
		KNN knn = new KNN();
		//求出求解的分类与二维数组间元素的临近距离
		double[] questionDistinces = new double[DATA.length];
		for(int i=0;i0){
			for(int i=0;iparaDistinceArray[j]){
						double temp = paraDistinceArray[i];
						paraDistinceArray[i] = paraDistinceArray[j];
						paraDistinceArray[j] = temp;
					}
				}
			}
		}
		return paraDistinceArray;
	}
	
	//获取临近值数组中，从近到远获取k个值为新数组
	public double[] paraseKDistince(double[] sortedDistinceArray,String sortTypeStr,int k){
		double[] kDistince = new double[k];
		if(SortType.ASC.equals(sortTypeStr)){
			for(int i=0;i=0;j--){
				if(distinceArray[i] tempMaximalVotes) {
				tempMaximalVotes = votes[i];
				tempMajority = i;
			}
		}
		System.out.println("投票数最高："+tempMaximalVotes+",分类是："+tempMajority);
		return tempMajority;
	}
}

package com.kNN;

public class SortType {
	public static final String DES = "des";
	public static final String ASC = "asc";
}

运算结果截图：