机器学习 使用交叉验证为KNN调优参数

# KNN的距离算法  使用的是欧氏距离  即算空间中点的距离 (根号下的 差的平方和)
# 要注意的是knn算法是需要做 标准化处理的
# API:(参数:n_neighbors=5)默认使用5个邻居  邻居的数量对算法的结果有影响 数量越大则要判断的点越多
from sklearn.neighbors import KNeighborsClassifier
import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
# 网格参数最优搜索
from sklearn.model_selection import GridSearchCV


def knncls():
    data = pd.read_csv("./data/facebook/train.csv")
    #     处理数据
    print(data.head(10))
    # 缩小数据集
    # 使用query查询数据筛选数据 输入字符串 用& 表示与
    data = data.query("x>1.0 & x<1.25 &y>2.5 & y <2.75")
    # 处理时间戳 转换成年月日 时分秒
    # 调用pd.to_datatime() 可以吧时间戳转换为时间年月日
    time_values = pd.to_datetime(data['time'])
    print(time_values)
    # 构造更多的特征  年月都一致  不再使用年月
    # 获取参数 使用打他timeindex
    time_values = pd.DatetimeIndex(time_values)
    data['day'] = time_values.day
    data['hour'] = time_values.hour
    data['weekday'] = time_values.weekday
    data['weekday'] = time_values.weekday
    # 删除时间戳特征
    # 第一个参数是一个列表  传入要删除的特征lable  第二个参数表示轴 在sklearn里边0 代表列
    # 而在pandas里边 1 表示列
    data = data.drop(['time'], axis=1)
    print('*' * 100)
    print(data)
    # 签到数 比较少的 筛选掉
    # 即签到数量少于n
    place_count = data.groupby("place_id").count()
    tf = place_count[place_count.row_id > 3].reset_index()
    # 筛选在tf里边的place
    data = data[data['place_id'].isin(tf.place_id)]
    # 区分数据中的目标值 特征值
    y = data['place_id']
    x = data.drop(['place_id'], axis=1)
    # 进行数据分割 (训练集 测试集)
    # 参数说明 特征值 目标值 测试集百分比
    # 注意返回顺序
    X_train, X_test, Y_train, Y_test = train_test_split(x, y, 0.25)

    # 特征工程 标准化(不做标准化 准确率大概在 3% )
    # 测试集 训练集 的特征值都需要标准化
    std = StandardScaler()
    X_train = std.fit_transform(X_train)
    # 不用再调用fit_transform 已经标准化了一次
    X_test = std.transform(X_test)
    # 标准化之后准确率大概为 40%

    # 进行算法流程
    knn = KNeighborsClassifier()

    # 构造一些参数的值给它搜索使用
    param = {"n_neighbors":[1,3,5,10]}
    # 网格参数优化
    gc = GridSearchCV(knn,param_grid=param,cv=2)
    # 输入数据
    gc.fit(X_train, Y_train)
    # 得出预测结果(测试集)
    y_predict = gc.predict(X_test)
    print("在交叉验证中最好的验证结果\n",gc.best_score_)
    print("在交叉验证中最好的模型",gc.best_estimator_)
    print("每个超参数每次交叉验证的结果\n",gc.cv_results_)
    return None


if __name__ == '__main__':
    knncls()