【零散知识】概率神经网络（Probabilistic Neural Network，PNN）

前言：

{

    又到了该更新的时间，这次更新的内容是之前见到了概率神经网络（Probabilistic Neural Network，PNN）。

}

 

正文：

{

    [1]中对概率神经网络的介绍非常简单，但没有图。

    [2]中给出了一张结构图，见图2。

    按照[1]的介绍，概率神经网络包括输入层，模式层，求和层和输出层。

    输入层接受数据输入，没什么特别的，节点数量和输入维度一致。

    模式层和径向基神经网络[3]的隐含层类似（或者说一致），其中每个节点都对应一个模式（或中心，一个类别可以并一般有多个模式/中心），模式是选出来的训练样本或是通过其它方法（例如聚类）得到的。式（1）是模式层中每个节点的输出公式。

式（1）

    其中X代表模式层的输入（输入层的输出），W代表模式层的权。可见，这就是[3]中介绍的高斯基函数。

    求和层中节点的数量等于样本类别的数量（图2中的求和层中有2的节点，即此网络为二分类网络），每个节点只是把模式层中对应类别的节点所输出的结果相加并输出。

    根据我的理解，输出层就是只有权值没有偏置的全连接层，式（13）是输出层节点的权值公式。

   

    其中下标A和B代表两个类别，h代表模式属于对应类别的先验概率，I代表对应类别的损失，n代表对应类别的模式的数量。

}

 

结语：

{

    因为最近很忙，所以内容很少，也没确定是不是需要复杂的训练。我尽量还是3天一更。

    参考资料：

    {

        [1]https://en.wikipedia.org/wiki/Probabilistic_neural_network

        [2]https://wiki.eecs.yorku.ca/course_archive/2013-14/F/4403/_media/specht1990pnn.pdf

        [3]https://blog.csdn.net/fish_like_apple/article/details/84563892

    }

}