【TensorFlow】全连接层及 tf.contrib.fully_connected 函数

        全连接层在卷积神经网络中起到“分类器”的作用。如果说卷积层、池化层和激活函数层等是将原始的数据映射到隐层特征空间的话，全连接层则起到将学到的特征表示映射到样本的标记空间的作用。

        在实际应用中，全连接层可由卷积操作实现：对于前层是全链接的全连接层，可将其转化为卷积核为1×1的卷积；对于前层是卷积层的全连接层，可将其转化为卷积核为h×w的全局卷积，h和w分别为前层卷积结果的高和宽。

        举例来说，若最后一层卷积输出为7×7×512的特征向量，且最后一层是含4096个神经元的全连接层，则可用卷积核为7×7×512×4096的全局卷积来实现这一全连接运算过程。

TensorFlow中对应的库函数为tf.contrib.layers.fully_connected()，具体如下：

tf.contrib.layers.fully_connected(
    inputs,
    num_outputs,
    activation_fn=tf.nn.relu,
    normalizer_fn=None,
    normalizer_params=None,
    weights_initializer=initializers.xavier_initializer(),
    weights_regularizer=None,
    biases_initializer=tf.zeros_initializer(),
    biases_regularizer=None,
    reuse=None,
    variables_collections=None,
    outputs_collections=None,
    trainable=True,
    scope=None
)

参考：TensorFlow官方文档