深度学习笔记(4): Xavier神经网络参数初始化方法

深度学习笔记(4): Xavier神经网络参数初始化方法_第1张图片
深度学习笔记(4): Xavier神经网络参数初始化方法_第2张图片
深度学习笔记(4): Xavier神经网络参数初始化方法_第3张图片
深度学习笔记(4): Xavier神经网络参数初始化方法_第4张图片
代码:

def xavier_init(fan_in, fan_out, constant = 1):
    low = -constant * np.sqrt(6.0 / (fan_in + fan_out))
    high = constant * np.sqrt(6.0 / (fan_in + fan_out))
    return tf.random_uniform((fan_in, fan_out), minval=low, maxval=high, dtype=tf.float32)

你可能感兴趣的:(动手学深度学习)