机器学习day17使用自组织映射网络

设定输出层神经元的数量

输出层神经元的数量与训练集样本的类别数相关。不清楚类别数,尽可能多设置节点数。分类过细可适当减少输出节点,减少从未更新权值的死节点。

设计输出层节点的排列

输出层节点的排列依赖于实际的需要。排列方式尽可能直观地反映出实际问题的物理意义。例如一般的分类问题,一个输出节点代表一个模式类,用一维线阵结构简单明了,对于颜色,路径类问题,二维平面则简单直观。

初始化权值

可以随机初始化,尽量保证权值的初始位置和输入样本的大概分布区域重合,避免出现大量的死节点。一种简单的方法是,从训练集中随机抽取m个输入样本作为初始权值。

设计拓扑领域

拓扑领域的设计原则是使领域不断缩小,这样输出平面上相邻的神经元对应的权向量之间既有区别,又有相似性。保证获胜节点对某一类模式产生最大的响应时,其领域节点也能产生较大响应。领域可以是正方形,六边形,菱形等等。

设计学习率

学习率应该是一个递减的函数,在训练开始,学习率可以是较大的值,之后以较快的速度下降,这样有利于很快的拟合大概的输入向量的结构。之后学习率在较小的值上缓慢降至0,这样可以精细地调整权值使之符合输入空间地样本分布结构。

你可能感兴趣的:(机器学习day17使用自组织映射网络)