Hidden layer--autoencoder

# 隐藏层节点的特征提前能力

## 考虑一个三层全连接神经网络模型,(l_input, l_hidden, l_output)

各层的节点数分别为 n_input, n_hidden, n_output

每一个隐藏层节点h_i的特征提取能力是与该节点h_i和上一层所有节点input_k(k=1, 2, ... , n)所对应的权重向量w_j相关的,往往是与w_j 线性相关的输入x会显著激发h_i节点的函数值,因此输入向量x就是节点h_i所能够提取出来的特征值。如果每一个隐藏层节点提取的特征相互独立,那么这些独立特征值的组合(该组合是由隐藏层与输出层之间的权重矩阵实现的)就能够映射得到在R^(n_hidden)空间里的任意输出结果

你可能感兴趣的:(Hidden layer--autoencoder)