（Python）简单线性模型&穷举法优化

一个简单的线性模型，使用穷举法计算所有最小二乘误差，并生成分析图。

 

import numpy as np
import matplotlib.pyplot as plt


# 简单线性模型-穷举法优化


x_data=[1.0,2.0,3.0]
y_data=[2.0,4.0,6.0]


# 前向传播
def forward(x):
    return x*w


# 最小二乘损失函数
def loss(x,y):
    y_pred=forward(x)
    return (y_pred-y)**2


# 权值列表
w_list=[]
# 最小二乘损失列表
mse_list=[]


# 穷举优化
for w in np.arange(0.0,4.1,0.1):
    print('w=',w)
    loss_sum=0
    for x_val,y_val in zip(x_data,y_data):
        # 预测值
        y_pred_val=forward(x_val)
        # 损失值
        loss_val=loss(x_val,y_val)
        loss_sum=loss_sum+loss_val
        print('\t',x_val,y_val,y_pred_val,loss_val)
    print('MSE=',loss_sum/3)
    w_list.append(w)
    mse_list.append(loss_sum/3)


# 可视化权值和损失
fig=plt.figure()
plt.xlabel('w')
plt.ylabel('loss')
plt.plot(w_list,mse_list)
plt.grid()
# plt.show()
plt.savefig(r'./test.jpg')
plt.clf()

 

结果图：