几种优化算法(SGD, Adam, RMSPROP, BGD,MBGD, Momentum,)的比较
打卡+坚持今日语录:作为一名投资者,必须得学会抗压,需要一个良好的心态,如果心态跟着行情走,那就是一个失败的投资者。一、首先我们需要了解这几个优化算法的目的是什么?给定目标函数f(x),寻找到一组参数,最小化f(x)BGD(batchgradientdescent)批梯度下降法:采用整个训练集的数据来对损失函数进行计算缺点:这种方法在一次更新中,对整个数据集求梯度,遇到数据量太大时,计算速度很慢,