机器学习基石第九讲 Linear Regression

初学机器学习,在看到视频的第九讲第三个部分也就是Generalization Issue 遇到了不少难点,网上详细讲的也不多,最后请教实验室的大神给我讲解的,今天在这分享一下。

难点

主要问题是由这个公式开始

机器学习基石第九讲 Linear Regression_第1张图片

机器学习基石第九讲 Linear Regression_第2张图片
problem.png
  • y 怎么变成了noise
  • (I - H)转换到(N - (d + 1))的平方怎么消失了

已知

可由之前的两个视屏得到:

  1. 机器学习基石第九讲 Linear Regression_第3张图片
    公式1
  2. 公式2
  3. 公式3
  4. 公式4,[证明](http://www.cnblogs.com/ymingjingr/p/4314665.html) .

字写的丑,将就。

机器学习基石第九讲 Linear Regression_第4张图片
5.png
机器学习基石第九讲 Linear Regression_第5张图片
  • 因为I,H都是单位矩阵,(I-H)的平方等于它的本身


    机器学习基石第九讲 Linear Regression_第6张图片

证明就成功了,这是个人的想法,如有错误请指正,谢谢。
另外谢谢实验室大神余同学的帮助,另外网上有许多机器学习基石视频的讲解资料,我认为这个教程还是相对比较详细,好理解的,大家可以参考一下。

你可能感兴趣的:(机器学习基石第九讲 Linear Regression)