1.6 多项式回归-机器学习笔记-斯坦福吴恩达教授

多项式回归

在线性回归中，我们通过如下函数来预测对应房屋面积的房价：

$$h_{\theta }(x)={\theta }_0+{\theta }_1\ast size$$

通过程序我们也知道，该函数得到的是直线拟合，精度欠佳。现在，我们可以考虑对房价特征 $size$ 进行平方，以及获得更加精准的 $size$ 变化：

$$h\theta (x)={\theta }_0+{\theta }_1\ast size+{\theta }_2\ast siz{e}^2$$

这就是多项式回归。

如下图所示，多项式回归得到了更好的拟合曲线。但我们也发现，在房屋面积足够大时，曲线反而出现了下沿，这意味着房价反而随着在房屋面积足够大时，与面积成反比，这明显不符合可观规律（虽然我们很渴望这样的情况出现）：

进一步地，我们考虑加上三次方项目或者替换二次方项为开方，得到如下两种预测：

$$(1)h_{\theta }(x)={\theta }_0+{\theta }_1\ast size+{\theta }_2\ast siz{e}^2+{\theta }_3\ast siz{e}^3$$
$$(2)h_{\theta }(x)={\theta }_0+{\theta }_1\ast size+{\theta }_2\ast \sqrt{size}$$

在该例中，因为三次方项会带来很大的值，所以优先考虑采用了开方的预测函数。