【深度学习】5. 正则化方法:从 Weight Decay 到 BatchNorm、GroupNorm, Dropout、DropConnect, Early Stopping 与归一化技术
深度学习中的正则化方法全解析:从WeightDecay到BatchNorm、Dropout、EarlyStopping与归一化技术本文系统梳理了深度学习中各类正则化方法,包括:显式正则化:L1/L2正则、WeightDecay、Bayesian视角下的先验项训练过程正则化:EarlyStopping、输入加噪、Dropout、DropConnect网络结构正则化:数据增强、标签平滑、模型稀疏性控制