手把手教你推导支持向量机(SVM)

手把手教你推导支持向量机(SVM)_第1张图片

手把手教你推导支持向量机(SVM)_第2张图片

手把手教你推导支持向量机(SVM)_第3张图片

手把手教你推导支持向量机(SVM)_第4张图片

手把手教你推导支持向量机(SVM)_第5张图片

手把手教你推导支持向量机(SVM)_第6张图片

手把手教你推导支持向量机(SVM)_第7张图片

手把手教你推导支持向量机(SVM)_第8张图片

手把手教你推导支持向量机(SVM)_第9张图片

手把手教你推导支持向量机(SVM)_第10张图片

手把手教你推导支持向量机(SVM)_第11张图片

手把手教你推导支持向量机(SVM)_第12张图片

手把手教你推导支持向量机(SVM)_第13张图片

    第2页 倒数第4行,笔误,不是0类和1类,而是-1类和+1类,这样的话仅需通过符号即可判断,而逻辑回归是映射到0和1两类。实际中只有支持向量才有用,而非支持向量所对应的拉格朗日乘子必然为0,为什么呢,因为如果不是支持向量(3)中的约束条件必然>1,对应的(4)中的约束条件必然<0,而根据KKT条件中的4、5、6三条可知,拉格朗日乘子必然为0,这在计算中节约了不少时间,也使SVM在大量的训练集面前也能很好的工作。而上文提到,SVM之所以可以解决高维数据,主要依赖于核函数,上面提到了映射关系函数以及高维空间,实际上,我们没必要去真正凑出这个映射关系或者真正意义上去高维计算,这些过程都是隐式的,只是为了方面理解而已。

你可能感兴趣的:(SVM,支持向量机,核函数)