【西瓜书学习笔记】第6章 支持向量机

1.支持向量与间隔 

【西瓜书学习笔记】第6章 支持向量机_第1张图片(其中-1,1是假设值,中间的线为“超平面”)

【西瓜书学习笔记】第6章 支持向量机_第2张图片

欲找到具有“最大间隔”的划分超平面,即求解

等价于求解

此为支持向量SVM的基本型,是一个凸二次规划问题

2.凸优化问题 

【西瓜书学习笔记】第6章 支持向量机_第3张图片

 3.对偶问题

【西瓜书学习笔记】第6章 支持向量机_第4张图片

 【西瓜书学习笔记】第6章 支持向量机_第5张图片

 【西瓜书学习笔记】第6章 支持向量机_第6张图片

 求解(6.11)的代表算法SMO

4.核函数

【西瓜书学习笔记】第6章 支持向量机_第7张图片

 

 

【西瓜书学习笔记】第6章 支持向量机_第8张图片

 

 

核函数: 

【西瓜书学习笔记】第6章 支持向量机_第9张图片

【西瓜书学习笔记】第6章 支持向量机_第10张图片

 核函数选择是支持向量机的最大变数,经验:文本数据通常采用线性核,情况不明时可尝试高斯核

 5.软间隔

 在现实任务中,往往很难确定合适的核函数使得训练样本在特征空间中线性可分,就算找到了这样的核函数,也无法判断是不是由于过拟合造成的,因此需要允许支持向量机犯错

【西瓜书学习笔记】第6章 支持向量机_第11张图片

【西瓜书学习笔记】第6章 支持向量机_第12张图片

【西瓜书学习笔记】第6章 支持向量机_第13张图片

【西瓜书学习笔记】第6章 支持向量机_第14张图片

【西瓜书学习笔记】第6章 支持向量机_第15张图片

  【西瓜书学习笔记】第6章 支持向量机_第16张图片

  6.支持向量回归

【西瓜书学习笔记】第6章 支持向量机_第17张图片

 【西瓜书学习笔记】第6章 支持向量机_第18张图片

 【西瓜书学习笔记】第6章 支持向量机_第19张图片

 【西瓜书学习笔记】第6章 支持向量机_第20张图片

 【西瓜书学习笔记】第6章 支持向量机_第21张图片

 li

你可能感兴趣的:(支持向量机,机器学习,人工智能)