感知机学习算法(PLA)的修正过程的理解(机器学习基石)

原理

首先,PLA修正过程的数学表示:
在一个循环中,t代表当前的迭代次数
1. 找到一个错误分类的点( xt,yt x t , y t ):
sign(wTtxn(t))yn(t) s i g n ( w t T x n ( t ) ) ≠ y n ( t )
2. 修正该错误
Wt+1Wt+yn(t)xn(t) W t + 1 ← W t + y n ( t ) x n ( t )
重复循环,直到没有错误分类的点存在

图解

说明:用权重W来代表一个假设

刚开始的时候,在一个二维的坐标上将所有点画出来:
感知机学习算法(PLA)的修正过程的理解(机器学习基石)_第1张图片
1. 随机选择一个权重 W0 W 0 来对点分类:
感知机学习算法(PLA)的修正过程的理解(机器学习基石)_第2张图片
2. 对错误分类的点修正:
感知机学习算法(PLA)的修正过程的理解(机器学习基石)_第3张图片
3. 通过循环,不断的完成修正:
感知机学习算法(PLA)的修正过程的理解(机器学习基石)_第4张图片
4. 最终会完成分类:
感知机学习算法(PLA)的修正过程的理解(机器学习基石)_第5张图片

总结

虽然老师在视频中并没有讲具体是怎么分类的(反正我当时听不懂……),后来仔细研究才懂得图中各个部分所代表的意思。

蓝色线段:目前迭代次数的权重W所代表的直线
黑色点:错误分类点
红色线段:上一次迭代的权重所代表的直线
决策边界:与权重W直线垂直,这是真正决定点类别的直线

最后,感知机学习算法的更新过程的依据是线性代数中的矩阵运算规则

你可能感兴趣的:(机器学习)