ML—感知机算法(MATLAB)

华电北风吹

天津大学认知计算与应用重点实验室

最后修改日期:2015/8/23


      感知机算法属于比较简单的分类器算法,但是跟逻辑回归和支持向量机一样属于构建分类超平面。

      不同的是感知机采用分错的样本与分类超平面的距离作为损失函数,下面的算法基于随机梯度下降法,采用异步方式达到收敛状态

function [w]=perceptionLearn(x,y,learningRate,maxEpoch)
% Perception Learn Algorithm
% x,y 一行为一个样本,y取值{-1,+1}

[m,n]=size(x);
x=[ones(m,1) x];
w=zeros(1,n+1);
finish=true;
for epoch=1:maxEpoch
    for samlendex=1:m
        if sign(x(samlendex,:)*w')~=y(samlendex)
            finish=false;
            w=w+learningRate*y(samlendex)*x(samlendex,:)
        end
    end
    if finish==true
        break;
    end
end

测试函数:

clear;clc;
x=[3,3;4,3;1,1];
y=[1,1,-1];
plot(x(1:2,1),x(1:2,2),'*');
hold on;
plot(x(3,1),x(3,2),'p');

% [w]=LogisticRegression(x,y,1,20);
[w]=perceptionLearn(x,y,1,20);

xline=linspace(0,5,20);
yline=-w(2)/w(3).*xline-w(1)/w(3);
plot(xline,yline);

结果图像如下:


你可能感兴趣的:(机器学习,感知机,随机梯度下降法)