吃瓜教程——第六章支持向量机

超平面

超平面是指n维线性空间中维度为n-1的子空间。 它可以把线性空间分割成不相交的两部分。 比如二维空间中，一条直线是一维的，它把平面分成了两块；三维空间中，一个平面是二维的，它把空间分成了两块。

支持向量

为了找到最大间隔来划分超平面，必须要找到相应的w和b，满足r最小。

对偶问题

为了让求解w和b更高效，需要将此问题转化为对偶问题

 

 核函数

 

 

软间隔与正则化

由于实际情况中，很多时候是线性不可分的，为了解决这种问题，我们允许部分的样本划分出错，也就是软间隔。

 

 

 

这里说明，软间隔支持向量回归最终模型只是与支持向量有关，保证了损失函数的稀疏性。

支持向量回归

支持向量回归与传统的回归模型不同，支持向量回归是构建一个间距为2的间距带，落入此间距带的样本即分类正确，不计入损失，在间距带之外的样本则为分类错误，计算损失。

 

 

 

 

 

 

 核方法

 总结

 通过这18天对西瓜书系统地学习，我学到了很多的东西，但也暴露了很多很多的问题，特别是数学能力的不足，因为我学的是会计，学校课程教得也很浅，而且我已经一年没上过数学课了。。。。接下来一个月，我计划是跟着张宇老师完成考研数学基础30讲的内容，毕竟考研才是我现在最重要的石琼，而且正好能够填补我数学上的一些知识空白，等过完这一便后，我再来看西瓜书后面的内容，希望能有更大的收获。