SVM支持向量机,函数间隔为什么取1

看过很多讲解,都没有说清楚为什么函数间隔取1及其理由
1.什么是函数间隔?
超平面(w , b)关于任意点(xi , yi)的函数间隔定义为:
在这里插入图片描述
超平面(w , b)关于训练数据集T的函数间隔为超平面(w , b)关于T中所有样本点(xi , yi)的函数间隔的最小值:
在这里插入图片描述
函数间隔就是对于分类点分类准确性的一种度量,它在训练数据集当中进行计算时总是一个正数,因为训练的时候是按照我们给的确定的标签进行分类。在固定w和b的情况下,这时对某个点求解函数间隔,值的大小只能说明它对这个点分类的性能是否强大。

2.什么是几何间隔?

定义超平面(w , b)关于样本点(xi , yi)的几何间隔为:
在这里插入图片描述
定义超平面(w , b)关于训练数据集T的几何间隔为超平面(w , b)关于T中所有样本点(xi , yi)的几何间隔的最小值:
在这里插入图片描述
其实用几何间隔寻求最优超平面所对应的优化问题,可以归结于寻找点到平面的最近距离,即:
SVM支持向量机,函数间隔为什么取1_第1张图片
以上,gama是几何间隔,它等于离超平面最近的点到超平面的距离(也就是所有点面欧式距离中最小的)。

难点就是理解从几何间隔转变到函数间隔的等价优化问题,如下:
SVM支持向量机,函数间隔为什么取1_第2张图片
转变为
SVM支持向量机,函数间隔为什么取1_第3张图片
3.如何理解上述优化问题的等价转换,如何理解函数间隔此时取1?

SVM支持向量机,函数间隔为什么取1_第4张图片
综上,约束条件当中的函数间隔可以由一个值转化成1,或者任意常数,它的放缩会影响到不等式左边的w和b,进而影响到问题当中的w,进而转化成此类优化问题,约束条件的转化已经阐述了,问题的转化只是由最大值倒过来求最小值,这种等价优化比较好理解:
SVM支持向量机,函数间隔为什么取1_第5张图片

你可能感兴趣的:(机器学习,svm,算法,数据挖掘,支持向量机)