机器学习笔记01

1. 残差

---

        英文residual ，表征观测值与估计值（拟合值）之间的差，用于评价模型的合理性及数据的可靠性。与误差之间要区分，误差是观测值与实际值之间的差，如果假设模型与实际模型完全相同，此时残差值等于误差值。

2. 残差平方和

---

        用于衡量线性模型拟合程度的度量。

3. 代价函数

---

      关于代价函数，这篇文章介绍的很详细了  什么是代价函数，就不在赘述了。

4. 方差

---

        英文variance，概率统和统计中用来表征随机变量或者数据样本的离散程度。其中，概率论中表征的是随机变量随期望的离散程度；统计学中表征样本值与均值的离散程度。对于方差的求解，有总体方差和样本方差两种，一般情况下，总体方差无法求出，所以都是根据样本数据来计算样本方差。

5. 方差、标准差、均方差和均方误差的区别