梳理caffe代码adadelta、adagrad、adam、nesterov、rmsprop_solver(十六)
有一篇不错的blog描述梯度下降的方法。我前面有介绍solver的优化方法。这节是新版caffesolver的5个求解方法:adagrad_solver.cpp:#include
#include"caffe/sgd_solvers.hpp"
namespacecaffe{
#ifndefCPU_ONLY
template
voidadagrad_update_gpu(intN,Dtype*