简单感知器由一个线性组合器和硬限幅器(即sgn函数,判断是正数返回1,负数返回-1)组成,线性组合器有m个输入,m个输入权值,一个偏置,图像表述如下:
(Simson Haykin)
用数学方法表述就是y=∑wixi+b,i=1,2,3…m,如果sgn(y)=+1,则分为第一类,否则分为第二类。感知器一般只做出两类判别。上述表达式可以简写为y=∑wixi,i=1,2,3…m+1,其中w(m+1)=b,x(m+1)=1.
为了得到感知器权值和偏置,需要利用训练数据对感知器进行训练。假设现在有k=1,2,3…n的训练数据,那么依次用训练数据训练感知器,用k表示训练数据序号和迭代数:1.如果y(k)= ∑wi(k)xi(k)=d(k),其中d(k)是正确分类,则w不变2.否则,w(k+1)=w(k)+δ(k)x(k), 如果d(k)>0且y(k)<0,δ(k)为正,否则为负。
经过数学证明可以得出,感知器可以在有限步骤内收敛,收敛速度与δ(k)有关。
简单感知器是一个单层的神经网络,只能在简单的线性模型上进行模式分类,具有明显的局限性。但是简单感知器基础上构建的多层感知器乃至深度神经网络,则爆发了巨大的能量。