PLA算法以及线性可分的收敛性

1.PLA算法
PLA算法以及线性可分的收敛性_第1张图片
2.Pocket Algorithm(带有杂例的PLA算法)
PLA算法以及线性可分的收敛性_第2张图片
3.收敛性的推导过程
假设在数据集D上是Linear Separable这里写图片描述存在一个这里写图片描述使这里写图片描述
这里写图片描述存在这里写图片描述对于输入空间上的每个这里写图片描述都能合理的远离划分的直线,即这里写图片描述,因为这里写图片描述

PLA算法以及线性可分的收敛性_第3张图片

PLA算法以及线性可分的收敛性_第4张图片
由以上①②可推出
PLA算法以及线性可分的收敛性_第5张图片
所以如果是线性可分的,那么t必定是收敛的

你可能感兴趣的:(机器学习基石)