Day2----《Pattern Recognition and Machine Learning》Christopher M. Bishop

用一个例子来讲述regression。

采用sin(2*pi*x)加入微弱的正态分布噪声的方式来获得一些数据，然后用多项式模型来进行拟合。

在评价模型的准确性时，采用了误差函数的方式，用根均方误差的方式来表示误差函数。

很明显，如果模型选错了，无论你怎么拟合，都不可能找到合适的结果。所以，当你面对一堆数据的时候，到底该怎么选择模型呢？（好像台大李宏毅的视频里面讲了，选择模型需要对应的行业领域知识)。

文中还提到了，训练数据的数量和模型参数数量的关系问题，一种观点认为训练数据集的数据量不应该小于模型参数的5倍或者10倍，但是，后面第三章会说明模型中的参数个数对模型的效果来说并不是特别必要。

解决overfitting的一个办法就是进行regularity.

 

 

另外，马春鹏的翻译版本中有一些错误，least square method应该翻译成最小二乘法，