【math】梯度下降法(梯度下降法,牛顿法,高斯牛顿法,Levenberg-Marquardt算法)
何为梯度?一般解释:f(x)在x0的梯度:就是f(x)变化最快的方向举个例子,f()是一座山,站在半山腰,往x方向走1米,高度上升0.4米,也就是说x方向上的偏导是0.4往y方向走1米,高度上升0.3米,也就是说y方向上的偏导是0.3这样梯度方向就是(0.4,0.3),也就是往这个方向走1米,所上升的高度最高。(1*0.4/0.5)*0.4+(1*0.3/0.5)*0.3=1*(0.3^2+0.4