台湾国立大学机器学习基石.听课笔记(第六讲): 一般化(举一反三)的理论

Lecture 6: Theory of Generalization(一般化(举一反三)的理论)

一、Restriction of Break Point(切断点的限制)



当break point k=2,N=3时,m_H(N)出现的情况。
台湾国立大学机器学习基石.听课笔记(第六讲): 一般化(举一反三)的理论_第1张图片




x_1、x_2和x_3两两之间都得满足k=2的条件,so we have a idea:




二、Bounding Function: Basic Cases(边界函数的基本情况)

首先,我们根据已知情况可知,如下图:



台湾国立大学机器学习基石.听课笔记(第六讲): 一般化(举一反三)的理论_第2张图片

然后由







可得:
台湾国立大学机器学习基石.听课笔记(第六讲): 一般化(举一反三)的理论_第3张图片


三、Bounding Function: Inductive Cases(边界函数的其他情况)


台湾国立大学机器学习基石.听课笔记(第六讲): 一般化(举一反三)的理论_第4张图片
提出:



我们根据程序计算得出B(4,3)=11,它的每个值是:
台湾国立大学机器学习基石.听课笔记(第六讲): 一般化(举一反三)的理论_第5张图片


其中

我们可以根据上图知道以下几点:

那么我们可以得出结论:







在对其进行一般化推到,得到多项式,其式子如下:





四、A Pictorial Proof(简单的图示证明)


台湾国立大学机器学习基石.听课笔记(第六讲): 一般化(举一反三)的理论_第6张图片
接下来是对它的证明,主要说的的这几部,介绍思想,为以后学习做准备。

第一步


台湾国立大学机器学习基石.听课笔记(第六讲): 一般化(举一反三)的理论_第7张图片


第二步




台湾国立大学机器学习基石.听课笔记(第六讲): 一般化(举一反三)的理论_第8张图片

第三步

台湾国立大学机器学习基石.听课笔记(第六讲): 一般化(举一反三)的理论_第9张图片



最后得


台湾国立大学机器学习基石.听课笔记(第六讲): 一般化(举一反三)的理论_第10张图片






你可能感兴趣的:(听课笔记,台湾国立大学机器学习基石)