机器学习线性回归算法实验报告_机器学习算法——线性回归算法介绍

1 线性回归模型简介

线性回归，就是能够用一个直线较为精确地描述数据之间的关系。这样当出现新的数据的时候，就能够预测出一个简单的值。线性回归中最常见的就是房价的问题。一直存在很多房屋面积和房价的数据，如下图所示：

在这种情况下，就可以利用线性回归构造出一条直线来近似地描述放假与房屋面积之间的关系，从而就可以根据房屋面积推测出房价。

2 线性回归的函数模型

通过线性回归构造出来的函数一般称之为了线性回归模型。线性回归模型的函数一般写作为：

3 线性回归模型的代价函数

通过线性回归算法，我们可能会得到很多的线性回归模型，但是不同的模型对于数据的拟合或者是描述能力是不一样的。我们的目的最终是需要找到一个能够最精确地描述数据之间关系的线性回归模型。这是就需要用到代价函数。代价函数就是用来描述线性回归模型与正式数据之前的差异。如果完全没有差异，则说明此线性回归模型完全描述数据之前的关系。如果需要找到最佳拟合的线性回归模型，就需要使得对应的代价函数最小，相关的公式描述如下：

Hypothesis，表示的就是线性回归模型Cost Function，代价函数Goal，就是要求对应的代价函数最小4 线性回归模型求解

假设在线性回归模型中仅仅只存在一个函数，就是斜率参数。即theta-0是0。如果存在如下的数据：

图中对应的3个点分别为(1,1),(2,2),(3,3)那么很明显，最佳线性回归模型就是h(x)=x。如果通过实验证明呢？我们画出在theta-1处于不同值的代价函数。

5 线性回归模型的特点：

建模速度快，不需要很复杂的计算，在数据量大的情况下依然运行速度很快。可以根据系数给出每个变量的理解和解释。对异常值很敏感。