pytorch深度学习实践 第二讲 线性模型

机器学习过程：Dataset→Model Select→Training→推理

过拟合：训练集上有很好的结果，但是训练集外却不能很好的拟合数据。主要原因是训练集存在噪声或训练数据太少。

泛化：训练出的模型在训练集外同样适用。

数据集：训练集（通常还会分成训练集和开发集，用作模型评估）和测试集。

线性模型：y_hat = f(x) = wx + b，训练的目的就是得到w和b。

损失loss：预测值与真实值之间的差值。

平均平方误差(Mean Square Error)MSE：cost

示例：

x是学习时间，y是相应学习时间能获得的分数。w从0.0~4.0以0.1为间隔取值，并计算预测损失，取loss最小时的w作为模型权重。

 代码：

import numpy as np
import matplotlib.pyplot as plt
x_data = [1.0, 2.0, 3.0]
y_data = [2.0, 4.0, 6.0]
def forward(x):
    '线性模型：y_pred = w * x'
    return x * w
def loss(x,y):
    '损失：loss=(y_pred-y)**2'
    y_pred = forward(x)
    return (y_pred - y) ** 2
w_list = []
mse_list = []
for w in np.arange(0.0, 4.1, 0.1):
    print('w=', w)
    l_sum = 0
    for x_val, y_val in zip(x_data, y_data):
        y_pred_val = forward(x_val)
        loss_val = loss(x_val, y_val)
        l_sum += loss_val
        print('/t', x_val, y_val, y_pred_val, loss_val)
    print('MSE=', l_sum / 3)
    w_list.append(w)
    mse_list.append(l_sum / 3)
plt.plot(w_list, mse_list)
plt.xlabel('Loss')
plt.ylabel('w')
plt.show()

输出：