LayerNorm和BatchNorm

BatchNorm是对不同样本间的同一维特征做归一化,即标准化某一特征整体的分布
LayerNorm是对同一样本的不同维特征间做归一化,即标准化某一样本特征的分布

你可能感兴趣的:(小白,机器学习)