机器学习1

线性回归（主要做预测）

回归在数学上来说是给定一个点集，能够用一条曲线去拟合之，如果这个曲线是一条直线，那就被称为线性回归，如果曲线是一条二次曲线，就被称为二次回归。

求参数theta的值的方法

（一）梯度下降法（可用于非线性）

http://blog.csdn.net/woxincd/article/details/7040944

（二）随机梯度下降法

随机梯度下降法适用于样本点数量非常庞大的情况，算法使得总体向着梯度下降快的方向下降。

（三）最小二乘法（矩阵论和数理统计中的公式）