统计学习方法 第二章 | 感知机

目录

1 感知机模型

2 感知机学习策略

任一点到超平面的距离推导过程

感知机的损失函数

3 感知机学习算法

3.1 学习算法的原始形式

3.2 学习算法的对偶形式


1 感知机模型

统计学习方法 第二章 | 感知机_第1张图片

 

2 感知机学习策略

统计学习方法 第二章 | 感知机_第2张图片

 

任一点到超平面的距离推导过程

统计学习方法 第二章 | 感知机_第3张图片

x·y = x1y1+x2y2+...

统计学习方法 第二章 | 感知机_第4张图片

感知机的损失函数

统计学习方法 第二章 | 感知机_第5张图片

* 注意损失函数是定义在集合M上的,即只考虑误分类的点

3 感知机学习算法

3.1 学习算法的原始形式

统计学习方法 第二章 | 感知机_第6张图片

统计学习方法 第二章 | 感知机_第7张图片

统计学习方法 第二章 | 感知机_第8张图片

* 注意是随机选取一个点进行参数更新

3.2 学习算法的对偶形式

参考https://www.zhihu.com/question/26526858

* 假设w,b的初始值都是0

统计学习方法 第二章 | 感知机_第9张图片

你可能感兴趣的:(机器学习)