首先介绍tf.contrib.layers
这是TensorFlow1.x中的一个封装好的高级库,里面有很多函数的高级封装,
卷积函数tf.contrib.layers.conv2d(),池化函数tf.contrib.layers.max_pool2d()和tf.contrib.layers.avg_pool2d(),全连接函数tf.contrib.layers.fully_connected()等等
使用这个高级库来开发程序将会提高效率。
下面来介绍tf.contrib.layers.xavier_initializer函数
xavier_initializer(
uniform=True,
seed=None,
dtype=tf.float32
)
该函数返回一个用于初始化权重的初始化程序 “Xavier” 。
这个初始化器是用来使得每一层输出的方差应该尽量相等。
参数:
uniform: 使用uniform或者normal分布来随机初始化。
seed: 可以认为是用来生成随机数的seed
dtype: 只支持浮点数。
返回值:
初始化权重矩阵
TensorFlow2.x 没有使用contrib高级库
解决方案:如何在Tensorflow 2.0中通过Xavier规则进行权重初始化?