BatchNormalization在各神经网络中的应用

因为之前在CNN中用错了BatchNorm的位置，所以特意记录以免再次犯错

1. BatchNorm在CNN中的应用(第（１）种正确)
   我个人偏向第一种可能，因为在fully connection中batch normalization应用在了激活函数之前
   （１）先卷积，再batchnorm, 然后激活函数，最后pooling
   
   https://github.com/PadamSethia/cnn-experiments/blob/master/MNIST-cnn.py
   https://github.com/twopointseven/cnn-pytorch/blob/master/cnn.py
   (2) 先卷积，再激活，然后batchnorm, 最后pooling
   
   https://github.com/bamtercelboo/cnn-lstm-bilstm-deepcnn-clstm-in-pytorch/blob/master/models/model_CNN.py
2. 在fully connection中的应用
   用在全连接层之后激活函数之前
   
   https://github.com/MorvanZhou/PyTorch-Tutorial/blob/master/tutorial-contents/504_batch_normalization.py
3. 在LSTM中的应用