学习笔记_第二章 感知机-《统计学习方法》李航

感知机是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1二值。感知机预测是用学习得到的感知机模型对新输入实例进行分类。

2.1 感知机模型
学习笔记_第二章 感知机-《统计学习方法》李航_第1张图片
感知机是一种线性分类模型,属于判别函数。感知机模型的假设空间是定义在特征空间中的所有线性分类模型或线性分类器,即函数集合{f|f(x)=wx+b*}.
感知机的几何解释:
线性方程 wx+b=0*
对应于特征空间Rn中的一个超平面S,其中w是超平面的法向量,b是超平面的截距。这个超平面将特征空间划分为两部分,即正负两类。超平面S称为分离超平面。如图:
学习笔记_第二章 感知机-《统计学习方法》李航_第2张图片
2.2 感知机学习策略
L2 范数:欧式距离
学习笔记_第二章 感知机-《统计学习方法》李航_第3张图片
学习笔记_第二章 感知机-《统计学习方法》李航_第4张图片
2.3 感知机学习算法
学习笔记_第二章 感知机-《统计学习方法》李航_第5张图片学习笔记_第二章 感知机-《统计学习方法》李航_第6张图片
学习笔记_第二章 感知机-《统计学习方法》李航_第7张图片
感知机学习算法由于采用不同的初值或选取不同的误分类点,解可以不同。

Gram 矩阵
定义
学习笔记_第二章 感知机-《统计学习方法》李航_第8张图片

你可能感兴趣的:(学习笔记_第二章 感知机-《统计学习方法》李航)