【神经网络中:常见的几种参数更新方法(SGD、Momentum、AdaGrad、Adam、RMSProp、Adadelta)权值初始值、Batch Norm、过拟合、抑制过拟合】
1训练数据(training_data)、验证数据(validation_data)、测试数据(testing_data)的区分:训练数据:模型参数(权重和偏置)的学习,建立模型验证数据:模型超参数性能的评估(超参数:模型算法本身设置的参数如学习率、epoch、batch_size、初始权值、卷积核个数和大小等等)测试数据:评估模型的泛化性能2常见的几种参数更新方法:SGD(随机梯度下降法)、Mo