深度学习算法的实现-梯度下降

#  数值微分
#    学习率这样的参数-超参数-人工参数
#  学习算法的实现
#    【随机梯度下降】
#    1.mini-batch
#       从数据中随机选择一部分数据进行训练,目标是减少mini-batch的最小损失函数值
#    2.计算梯度
#       求出各个权重参数的梯度,梯度表示损失函数的值减小最多的方向
#    3.更新参数
#       将权重参数延梯度方向进行微小更新
#    重复三步骤
#

你可能感兴趣的:(深度学习,算法)