python实现简单的单变量线性回归

    线性回归是机器学习中的基础算法之一，属于监督学习中的回归问题，算法的关键在于如何最小化代价函数，通常使用梯度下降或者正规方程（最小二乘法），在这里对算法原理不过多赘述，建议看吴恩达发布在斯坦福大学上的课程进行入门学习。

这里主要使用python的sklearn实现一个简单的单变量线性回归。

sklearn对机器学习方法封装的十分好，基本使用fit,predict,score，来训练，预测，评价模型，

一个简单的事例如下：

from pandas import DataFrame
from pandas import DataFrame
import pandas as pd
import matplotlib.pyplot as plt
from sklearn import datasets,linear_model

X=[]
Y=[]
with open("C:\\Users\\www\\ex1data1.txt","r") as f:       #读取txt文件。
    for line in f:
        p_tmp, E_tmp = [float(i) for i in line.split(',')]
        X.append(p_tmp)
        Y.append(E_tmp)
  #'data=np.loadtxt('ex1data1.txt',delimiter=',')

#    X=data[0]

#       Y=data[1] 

data=DataFrame(X,columns={'a'})
data['b']=b
X=DataFrame(X)

fig = plt.figure()                                    
ax1 = fig.add_subplot(1,1,1)
plt.scatter(data['a'],data['b'])           #显示X，Y的散点图

def linear_model_main(X,Y,predict_value):    #定义一个使用线性回归的函数
    regr=linear_model.LinearRegression()
    regr.fit(X,Y)       #训练模型
    predict_output=regr.predict(predict_value)    #预测
    predictions={}                               #用一个集合装以下元素
    predictions['intercept']=regr.intercept_     #截距
    predictions['codfficient']=regr.coef_         #斜率（参数）
    predictions['predict_value']=predict_output      #预测值
    return predictions
    
result = linear_model_main(X,Y,1500)             #调用函数
print(result['predict_value'])


def show_predict(X,Y):
    regr=linear_model.LinearRegression()
    regr.fit(X,Y)  
    plt.scatter(X,Y,color='blue')
    plt.plot(X,regr.predict(X),color='red')
    
show_predict(X,Y)

最后拟合结果如图：