机器学习基石-06-3-Bounding Function- Inductive

如果想求B(4，3)，可以尝试找到B(4，3)和B(3,?)之间的关联。

假设现在通过计算机得到了B(4，3)=11，how  to reduce B(4,3) to B(3,?) cases?

将上面的11种dichotomy分成orange和purple两类，其中orange代表的是x1,x2,x3都完全相同只有x4不相同的dichotomy，purple代表的是x1,x2,x3不完全相同的情况。

B(4，3)=2α+β，把x4遮掉，只看（x1,x2,x3）此时的dichotomy=α+β，因为在去掉x4以后，orange的部分是一对一对的形式，可以把两个完全相同的合并为一个。

B(4，3)条件：任意的三个点都不能满足shatter！上面去掉x4以后的（x1,x2,x3）也是任意三个点的其中一种，所以也就是N=3，k=3的情况下不能shatter，则可以得到一个关系式：

2.把x4遮掉，再把purple的部分去掉，只保留orange的部分

在（x1,x2,x3）中任意选取两个point，再加上x4一定会shatter！！比如：（x1,x2,x4）,（x1,x3,x4）等

所以任意两个点也不能shatter！可到的公式是：

从上面以此类推可以得到一般性的公式：

对于2维的感知机，不能得到具体形式的成长函数，可以用bounding function来大致地得到他的函数形式，因为成长函数和bounding function是大于等于的关系。比如在positive rays和positive intervals是满足相等关系的，在二维感知机不知道是否能满足相等。

3种情况的成长函数和B(N，k)进行大小比较。