VC维的图像解释

VC理论是一个于1960年代到1990年代由弗拉基米尔·万普尼克(Vapnik)及Alexey Chervonenkis建立的一套机器学习理论,使用统计的方法,因此有别于归纳学习等其它机器学习方法。

看了几篇文章,可能由于自己的理解能力有问题,还是没有搞明白什么是VC维,但是当我把文章中的论述画到图上的时候,忽然间豁然开朗。蛋疼的数学描述!


定义

传统的定义是:对一个指标函数集,如果存在H个样本能够被函数集中的函数按所有可能的2的H次方种形式分开,则称函数集能够把H个样本打散;函数集的VC维就是它能打散的最大样本数目H。若对任意数目的样本都有函数能将它们打散,则函数集的VC维是无穷大,有界实函数的VC维可以通过用一定的阀值将它转化成指示函数来定义。
VC维反映了函数集的学习能力,VC维越大则学习机器越复杂(容量越大),遗憾的是,目前尚没有通用的关于任意函数集VC维计算的理论,只对一些特殊的函数集知道其VC维。例如在N维空间中线形分类器和线形实函数的VC维是N+1。

VC维的图像解释_第1张图片

图像解释


参考

https://blog.csdn.net/mingspy/article/details/8858270
 

你可能感兴趣的:(机器学习理论)