机器学习基石 5.4 Break Point

1. The Four Growth Functions

目前已知的4种成长函数：

如果成长函数是一个多项式（polynomial），那么右侧随着$N$增大而减小。
如果成长函数是指数形式（exponential），右侧的变化就说不准了。

2. Break Point of $\mathcal{H}$

称使得$m_{\mathcal{H}}(N)$严格小于$2^N$的点为Break Point。
显然，如果$k$是一个Break Point，那么所有大于$k$的数都是Break Point。
研究最小的Break Point即可。（在PLA中，最小的Break Point为$N=4$）

3. The Four Break Points

猜想：

• $m_{\mathcal{H}}(N)=2^N$时没有Break Point。
• $m_{\mathcal{H}}(N)=O(N^{k-1})$时k就是Break Point。

4. Fun Time

5. Summary