Self Organizing Maps (SOM): 一种基于神经网络的聚类算法

参考链接

自组织映射神经网络, 即Self Organizing Maps (SOM), 可以对数据进行无监督学习聚类。它的思想很简单,本质上是一种只有输入层–隐藏层的神经网络。隐藏层中的一个节点代表一个需要聚成的类。训练时采用“竞争学习”的方式,每个输入的样例在隐藏层中找到一个和它最匹配的节点,称为它的激活节点,也叫“winning neuron”。 紧接着用随机梯度下降法更新激活节点的参数。同时,和激活节点临近的点也根据它们距离激活节点的远近而适当地更新参数。

Self Organizing Maps (SOM): 一种基于神经网络的聚类算法_第1张图片
既然隐藏层是有拓扑关系的,所以我们也可以说,SOM可以把任意维度的输入离散化到一维或者二维(更高维度的不常见)的离散空间上。 Computation layer里面的节点与Input layer的节点是全连接的。

拓扑关系确定后,开始计算过程,大体分成几个部分:

  1. 初始化:每个节点随机初始化自己的参数。每个节点的参数个数与Input的维度相同。
  2. 对于每一个输入数据,找到与它最相配的节点。假设输入时D维的, 即 X={x_i, i=1,…,D},那么判别函数可以为欧几里得距离:

你可能感兴趣的:(神经网络)