batch_normalization

1.tf.nn.batch_normalization(x,mean,variance,offset,scale,variance_epsilon,name=None)

x:input
mean:样本均值
variance:样本方差
offset:样本偏移(相加一个转化值)
scale:缩放(默认为1)
variance_epsilon:为了避免分母为0,添加的一个极小值

2.tf.nn.moments(x,axes,name=None,keep_dims=False)

x:input
axes:维度
3.axes=list(range(len(x.get_shape())-1)),该公式常用来求input的维度信息。
4.tf.train.ExponentialMovingAverage,该方法为一个类,使用它必须先调用对象,然后调用对象方法apply(),该方法的作用是使用平滑指数衰减的方法来优化每次的均值和方差。

你可能感兴趣的:(batch_normalization)