Fully-Connected Layer ----> Locally-Connected Layer ----> Convolutional Layer

Fully-Connected Layer  ----  全连接层

Locally-Connected Layer  ----  局部连接层

Convolutional Layer  ----  卷积层

input_size :a * a = v;      depth : d;    w : the number of weight

patch_size : p * p;        n : the number of patches ( no overlap)   


由于权重weights具有稀疏性,因此全连接层很多权重都为0(没用处),因此减小权重的个数(即由原来pitch_size = v 减小到 p*p)。

在LCN和CNN中,为了保证在隐藏层(hidden layer)中的个数与由全连接层生成的隐藏层个数一致,一般LCN和CNN的深度d比全连接层要小(取决于p 和 n)


你可能感兴趣的:(Fully-Connected Layer ----> Locally-Connected Layer ----> Convolutional Layer)