Machine Learning---感知器学习算法

MachineLearning---PNN

引言

这篇将介绍machine learning中另一个较为经典的一个算法。之前介绍的几个算法(Backpropagation、LMS……)这些算法有一个明显的特点就是,它们都需要先训练算法,都会通过训练数据集调整算法的内部参数。

这次介绍的算法就摆脱了这种过程。


一、PNN算法基本介绍

1.算法思想

PNN(ProbabilisticNeural Networks)是一种较为出色的分类算法。

算法利用已分类的数据集,对未分类数据进行计算,得到“激活值”(Activation),在找出利用Winner Take All的原则,找到分类。

对于如何计算激活值下面会进行详细介绍。

2.激活值计算公式

隐藏层节点激活值,这里的隐藏层也便是样本集合(已分类的数据集)。


上诉中是隐藏层第i个节点的激活值, 便是已分类的数据集,F表示带分类的数据。

输出端节点的激活值。


其中便是第j个分类的输出端激活值;N表示样本数据(已分类)的数量;便是上面计算的隐藏层节点的激活值;是光滑参数。

3.算法流程

对于这个算法的流程也是比较好理解:

1.遍历类别;

2.遍历类别中的样本数据;

3.利用公式(1)对隐藏层节点激活值进行计算

4.利用公式(2)对当前分类,计算其激活值;

5.对所有类别激活值,进行比较,找出最大的,并返回类别序号。


二、算法实现

在这里提供这个算法的实现代码:

[cpp]  view plain copy print ?
  1. int pnn_classify()  
  2. {  
  3.     double output[CLASSNUM];  
  4.     for(int c = 0 ; c< CLASSNUM ; ++c)  
  5.     {  
  6.         output[c]= 0.0;  
  7.         for(int e = 0 ; e< EXAMPLENUM ; ++e)  
  8.         {  
  9.             double h = 0.0;  
  10.             for(int d = 0 ; d< DIMENSIONALITY ; ++d)  
  11.             {  
  12.                 h+= example[d] * dataset[c].example[e].f[d];  
  13.             }  
  14.             output[c]= exp((h-1.0)/pow(sigma,2));  
  15.         }  
  16.         output[c]= output[c] / (double)EXAMPLENUM;  
  17.     }  
  18.     //winner take all  
  19.     double maxActivation = 0.0;  
  20.     int iCMax = 0;  
  21.     for (int c = 0 ; c< CLASSNUM ; ++c)  
  22.     {  
  23.         if(maxActivation < output[c])  
  24.         {  
  25.             iCMax= c;  
  26.             maxActivation= output[c];  
  27.         }  
  28.     }  
  29.     return iCMax;  
  30. }  
  31.    

三、总结

由于笔者不是专门研究人工智能方面,所以在写这些文章的时候,肯定会有一些错误,也请谅解,上面介绍中有什么错误或者不当地方,敬请指出,不甚欢迎。

 

原地址:http://blog.csdn.net/stan1989/article/details/8565499

你可能感兴趣的:(Machine Learning---感知器学习算法)