2019-08-20 线性模型与回归

一 线性模型 ：

试图学的一个通过属性的线性组合来进行预测的函数

二 线性回归

有监督的学习映射：例子

引入-损失函数：如何衡量最好的参数和权重（优化方向）

损失函数

最小化损失函数：均方误差是一个凹函数

梯度下降：找到最小损失的算法（迭代算法）

变化率最快的方向是梯度方向

超参数：学习率   -太小收敛太慢 太大震荡甚至不收敛

模型的状态：

欠拟合：没有很好地捕捉数据特征 不能很好的拟合数据。

过拟合:把样本中的噪声特性也学习下来了，泛化能力差。

过拟合与正则化：通过正则化添加参数“惩罚”，控制参数幅度，减小过拟合分风险。

如何解决？ ------ 

添加参数惩罚

三 广义线性模型

线性模型的推广