每天五分钟机器学习：多项式线性回归算法

本文重点

线性回归：线性就是每个变量的指数都是1，它的形态是直线形态或者是超平面形态

非线性回归：非线性回归就是至少有一个变量的指数不是1（二次或者是多次），它的形态是曲线形态。

单变量就是只有一个特征变量x1，多变量就是有多个特征变量x1，x2…xn,无论是单变量还是多变量都是线性的模型。

多项式特征不是x1了，而是x1²、x1³、x2²等等，这是非线性模型，但是我们可以令x1²=x1，x1³=x2，x2²=x3这样我们可以用多变量的思维处理多项式了，但是算出来的模型仍然是非线性的。

如果多项式中只有一个特征及这个特征的高次项叫做单元多项式回归，如果有多个多特征及这些特征的高次项那么这个就叫做多元线性回归。

本节课程要讲解的是两点

特征选择和多项式回归（非线性）

特征选择：其中特征选择就是一个实际的问题中我们选择什么特征来构建模型，选择好的特征能够构建出好的模型。

多项式回归：我们构建的模型可能是二次或者高次（这样拟合的图像就不是一条直线），此时我们可以令特征二次项或者高次项等于xn，这样就实现了多项式非线性回归向线性回归的转变，我们就可以使用线性回归的方式来拟合这个模型，但要注意一点有些高次项特征可能数值的范围很大，所以此时进行特征缩放和归一化是显得很有必要的。

特征选择

特征不同，学习