利用K折验证来验证你的方法

使用K折的原因:

在调节网络参数时,需要将数据划分为训练集和验证集。有时候,验证集较小,在我们划分不同的训练集和验证集时,会造成验证分数上有很大的方差。因此,最佳做法是,使用K折交叉验证。
K折交叉验证:将数据划分为 K 个分区(通常为4或5),实例化 K 个模型,每个模型在 K-1 个分区上进行训练,并在下一个分区进行评估。则模型的验证分数为 K 个验证分数的平均值。


3 折交叉验证.PNG

np.concatenate表示数组拼接

import numpy as np
x = [[1, 2],
     [3, 4]]
x1 = np.concatenate([x, x], axis=0)
x2 = np.concatenate([x, x], axis=1)
print(x)
print(x1)
print(x2)
[[1, 2], [3, 4]]
[[1 2]
 [3 4]
 [1 2]
 [3 4]]
[[1 2 1 2]
 [3 4 3 4]]

k 折验证

import numpy as np

k = 4 # 4折
num_val_sample = len(train_data) // 4
num_epochs = 100
all_scores = []

for i in range(k):
    print('processing fold #', i)
    # 准备验证数据,第k个分区的数据
    val_data = train_data[i * num_val_sample: (i + 1) * num_val_sample]
    val_targets = train_targets[i * num_val_sample: (i + 1) * num_val_sample]

    # 准备训练数据:其它所有分区的数据
    partial_train_data = np.concatenate([train_data[:i * num_val_sample],
                                         train_data[(i + 1) * num_val_sample:]],
                                        axis=0)
    partial_train_targets = np.concatenate([train_targets[:i * num_val_sample],
                                         train_targets[(i + 1) * num_val_sample:]],
                                        axis=0)

    model = build_model() # 构建Keras模型(已编译)
    model.fit(partial_train_data, partial_train_targets,
              epochs=num_epochs, batch_size=1, verbose=0) # 训练模型(静默模式,verbose=0)
    val_mse, val_mae = model.evaluate(val_data, val_targets, verbose=0) # 在验证数据上评估模型
    all_scores.append(val_mae)

print(all_scores)
print(np.mean(all_scores))
processing fold # 0
2019-03-20 21:48:12.341884: I tensorflow/core/platform/cpu_feature_guard.cc:141] Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX2
processing fold # 1
processing fold # 2
processing fold # 3
[2.0433454017828008, 2.265371648391875, 2.940860136900798, 2.3155297182574133]
2.3912767263332215

表明预测的房价与实际价格平均相差2400美元,而实际10000到50000美元,差别还是挺大的。

verbose:日志显示
verbose = 0 为不在标准输出流输出日志信息
verbose = 1 为输出进度条记录
verbose = 2 为每个epoch输出一行记录
注意: 默认为 1
(https://www.jianshu.com/p/159a9ac413fa)

你可能感兴趣的:(利用K折验证来验证你的方法)