感知机的原始算法_python

本系列文章主要是对李航老师的《统计方法分析》里涉及到的机器学习算法利用python进行实现,每个算法包括两部分,理论说明和代码实现,为方便在调用模块或类的时候查看原理,相关理论说明在代码中以文档字符串出现。第一篇为感知机的原始算法。

#-*- encoding:utf-8 -*-
#-------------------------------------V1.0.0------------------------------------------------
#Implementation of Perceptron Learning Algorithm  with Python                              |
#Author:Julie                                                                             |
#Date:2018.11.29                                                                         |
#-------------------------------------------------------------------------------------------
 
#Algorithm Description 
#该分类器用于对线性二分类数据,模型为y=sign(w*x+b),对应着一个超平面w*X+b=0,w是超平面的法向量,b是超平面的截距。
#1:对数据集D进行适当的处理,从中产生训练集S和测试集T   如何选取参考:机器学习测试集选取常用方法-《机器学习》周志华
#2:指定损失函数,梯度下降,L(w,b)=-∑yi(w*xi+b),(xi,yi)为误分类点
#3:训练:最小化损失函数,梯度下降minL:w = w+r*xi*yi,b=b+r*yi,0

运行结果如下:w =[1,1],b=-3

感知机的原始算法_python_第1张图片

下一 篇:针对该篇,把该实现过程封装为类。

你可能感兴趣的:(机器学习)