【机器学习笔记】利用KNN算法进行分类预测遇到的问题和解决记录

机器学习笔记

利用KNN算法进行分类预测遇到的问题和解决记录：

1.由于是老师给的数据放在了txt里，并不是sklearn自带的数据，所以作为小白来说不知道如何将数据导入进去并进行数据特征和数据标签的标记，查阅了一些资料之后，用到了pandas库里的read_csv函数来读取txt数据（此时数据为DataFrame格式）：

fruit_data = pd.read_csv("fruit_data.txt", sep="\t", names=["samples",
                                                            "mass", "width", "height", "color_score"])

2.在进行数据特征选取和数据标签读取时，其中用到了iloc函数

fruit_data_X = fruit_data.iloc[:, 1:5]  # 读取样本特征

fruit_data_y = fruit_data.iloc[:, [0]]  # 读取样本标签，这里是水果的类别

loc(索引+列名)和iloc(行号从0开始)函数都是Pandas库中获取行的函数

3.出现问题：DataConversionWarning: A column-vector y was passed when a 1d array was expected.

解决思路：数据转换警告：当需要一维数组时，传递了列向量y。请将Y的形状更改为（n_samples，），例如使用ravel（）

原代码：

knn.fit(fruit_data_train_X, fruit_data_train_y)

修改后的代码：

knn.fit(fruit_data_train_X, np.ravel(fruit_data_train_y))

4.输入新的数据预测时，要按选取的数据特征的维度来进行输入

5.UserWarning: X does not have valid feature names, but KNeighborsClassifier was fitted without feature names

原因：发生报错的主要原因是data是一个带有特征名称（feature names）的DataFrame，由于带有名称，模型在拟合和预测的时候只需要输入数值，因此才会报这个错误

解决办法：可以使用DataFrame.values,其只包含值，不包含特征名称（feature names），因此代码可改为

knn.fit(fruit_data_train_X.values, np.ravel(fruit_data_train_y.values))

print("预测精确率：", knn.score(fruit_data_test_X.values, fruit_data_test_y.values))

完整代码如下：

#!usr/bin/env python3.9
# -*- coding:utf-8 -*-


import pandas as pd
import numpy as np
from sklearn.neighbors import KNeighborsClassifier
from sklearn.model_selection import train_test_split

# 导入水果数据并查看数据特征
fruit_data1 = np.array(pd.read_csv("fruit_data.txt", sep="\t", names=["samples",
                                                                      "mass", "width", "height", "color_score"]))
fruit_data = pd.read_csv("fruit_data.txt", sep="\t", names=["samples",
                                                            "mass", "width", "height", "color_score"])
print("数据结构集：", fruit_data1.data.shape)

fruit_data_X = fruit_data.iloc[:, 1:5]  # 读取样本特征

fruit_data_y = fruit_data.iloc[:, [0]]  # 读取样本标签，这里是水果的类别
# 划分成测试集和训练集
fruit_data_train_X, fruit_data_test_X, fruit_data_train_y, fruit_data_test_y = train_test_split(
    fruit_data_X, fruit_data_y, test_size=0.2, random_state=12)
# 分类器初始化
knn = KNeighborsClassifier(n_neighbors=3)
# 对训练集进行训练,传入样本特征和样本标签
knn.fit(fruit_data_train_X.values, np.ravel(fruit_data_train_y.values))
# 对测试集数据的水果类型进行预测
predict_result = knn.predict(fruit_data_test_X.values)
print("测试集大小：", fruit_data_test_X.shape)
print("真实结果：", fruit_data_test_y)
print("预测结果：", predict_result)
# 显示预测精确率
print("预测精确率：", knn.score(fruit_data_test_X.values, fruit_data_test_y.values))

fruit_test = ([200, 7.3, 10.5, 0.72], [192, 8.4, 7.3, 0.55])
predict_result1 = knn.predict(fruit_test)
print("未知水果预测结果：", predict_result1)