示例：在约会网站上使用&近邻算法 ' ' ；；• f ^ , : , i
(1)收集数据：提供文本文件。
(2)_准备数据: 使用？沖 00解析文本文件。
( 3 ) 分 析 数 据 ：使用河3中10«化画二维扩散图。
(4)训练算法：此步驟不适用于卜近邻算法。
(5)测试算法：使用海伦提供的部分数据作为测试样本。
测试样本和非测试样本的区别在于：测试样本是已经完成分类的数据，如果预测分类
与实际类别不同，则标记为一个错误。
(6)使用算法：产生简单的命令行程序，然后海伦可以输入一些特征数据以判断对方是否
为自己喜欢的类型。
每年获得的飞行常客里程数
□ 玩视频游戏所耗时间百分比
□ 每周消费的冰淇淋公升数
# -*- coding: utf-8 -*-
# 这样也行
# coding:utf-8
from numpy import *
import operator
import matplotlib
import matplotlib.pyplot as plt
def createDataSet():
group=array([[1.0,1.1],[1.0,1.0],[0,0],[0,0.1]])
labels=['A','A','B','B']
return group,labels
#k近邻算法
def classify0(inx,dataset,labels,k):
datasetsize=dataset.shape[0] #获取矩阵的行数
#距离计算 以下完成欧氏距离计算 d = 」(xA0 - xB0)2 + (xA{- xBt )2
# tile用于将数组第一维度扩展4倍，第二维度扩展一倍，再减去dataset
diffmat=tile(inx,(datasetsize,1))-dataset
#对差值矩阵进行平方运算
sqdiffmat=diffmat**2
sqdistance=sqdiffmat.sum(axis=1) #axis=1表示按行求和 ，axis=0表示按列求和
#进行开根号处理
distances=sqdistance**0.5 #欧式距离计算到此结束
sorteddistindiciles=argsort(distances) #argsort函数返回的是数组值从小到大的索引值
classcount={}
#选择最小的k个点
for i in range(k):
voteilabel=labels[sorteddistindiciles[i]] #获取对应的标签
classcount[voteilabel]=classcount.get(voteilabel,0)+1 #d对对应的标签进行计数累加
#排序
sortedclasscount=sorted(classcount.iteritems(),
key=operator.itemgetter(1),reverse=True) #dictionary.iteritems()将classcount迭代成数组
#将字典分解为元组列表，然后使用程序第二行导入运算符模块的itemgetter ,按照第二个元素的次序对元组进行排序©。
#排序为逆序，即按照从最大到最小次序排序，最后返回发生频率最高的元素标签
return sortedclasscount[0][0]
#以下该函数用来读取文本文件转换为矩阵
def file2matrix(filename):
fr = open(filename)
numberOfLines = len(fr.readlines()) #get the number of lines in the file 获取文件的行数
returnMat = zeros((numberOfLines,3)) #prepare matrix to return 准备一个numberOfLines行，3列的矩阵，并用0填充
classLabelVector = [] #prepare labels return
fr = open(filename)
index = 0
for line in fr.readlines(): #这里是对每行进行循环
line = line.strip() #去掉每行后的换行符
listFromLine = line.split('\t') #去掉制表符
returnMat[index,:] = listFromLine[0:3] #把每行的前三个数据存储到数组里去
classLabelVector.append(int(listFromLine[-1])) #把每行的最后一个数据插入标签数组中
index += 1
return returnMat,classLabelVector
#用于归一化
def autoNorm(dataSet):
minVals = dataSet.min(0) #这里的0表示取列里面的最小值而不是行的，，，，这里的minVals是一个1*3的矩阵
maxVals = dataSet.max(0) #这里的0表示取列里面的最大值而不是行的，，，，这里的maxVals是一个1*3的矩阵
ranges = maxVals - minVals #对应的矩阵进行相减
normDataSet = zeros(shape(dataSet)) #建立一个与dataSet维度相同的全0矩阵
m = dataSet.shape[0] #获取dataset的第一维度的值
normDataSet = dataSet - tile(minVals, (m,1)) #tile(minVals, (m,1))用于把minVals扩充成与dataSet维度一样的矩阵
normDataSet = normDataSet/tile(ranges, (m,1))
#element wise divide n e w V a l u e = {o l d V a l u e - m i n ) / (max-min) 这就是归一化的公式
return normDataSet, ranges, minVals
def datingClassTest():
hoRatio = 0.50 #hold out 10%
datingDataMat,datingLabels = file2matrix('datingTestSet2.txt') #load data setfrom file #调用函数读文件
normMat, ranges, minVals = autoNorm(datingDataMat) #对数据进行归一处理
m = normMat.shape[0] #第一维度的行数
numTestVecs = int(m*hoRatio)
errorCount = 0.0 #用于错误计数
for i in range(numTestVecs):
classifierResult = classify0(normMat[i,:],normMat[numTestVecs:m,:],datingLabels[numTestVecs:m],3) #调用分类器进行计算
print "the classifier came back with: %d, the real answer is: %d" % (classifierResult, datingLabels[i])
if (classifierResult != datingLabels[i]): errorCount += 1.0 #错误时进行累加
print "the total error rate is: %f" % (errorCount/float(numTestVecs)) #打印错误率
print errorCount #打印错误个数
def classifyPerson():
resultList = ['not at all ' , ' in small doses', 'in large doses']
percenTas=float(raw_input(
"percentage of time spent playing video games?"))
ffMiles=float(raw_input("frequent flier miles earned per year?"))
iceCream=float(raw_input("liters of ice cream consumed per year?"))
datingDataMat, datingLabels = file2matrix('datingTestSet2.txt') # load data setfrom file #调用函数读文件
normMat, ranges, minVals = autoNorm(datingDataMat) # 对数据进行归一处理
inArr =array([ffMiles,percenTas,iceCream])
classifierresult=classify0((inArr-
minVals)/ranges,normMat,datingLabels,3)
print "you will probably like this person:",\
resultList[classifierresult-1]
classifyPerson()
#datingClassTest() ############对分类器进行检测
"""
datingDataMat,datingLabels =file2matrix('datingTestSet2.txt')
normMat, ranges ,minVals = autoNorm(datingDataMat)
#用于绘图
fig=plt.figure()
ax=fig.add_subplot(111) #表示创建一行一列的图
ax.scatter(datingDataMat[:,0],datingDataMat[:,2],
15.0*array(datingLabels),15.0*array(datingLabels)) #这两个参数利用datingLabels使得图中点的颜色发生变化
plt.show()
#绘图结束
"""
