线性共轭方向法

能用最简单的话描绘出你所说的问题才是好样的，现实中往往怕嘲笑或为了装高级，而将描绘复杂化。

工科生不需要学理论？大错特错。

线性共轭方向法

求解线性方程组问题，在数值计算中有对应的解法，在最优化中将其转化为一个最优问题。

求解 转化为求解

初始点x0，初始方向d0
1.计算步长αk，αk = argmin{f(xk+α*dk)}，α>=0
2.xk+1 = xk + αk*dk
3.计算方向dk+1，使其与dk,...d0关于A共轭
4.k=k+1
算法当然有终止计算的规则，我没写。

共轭向量

第三步要满足该方向与之前计算的方向都关于A共轭，那什么是向量共轭？

d1_T*A*d2 = 0，那么就称两个向量d1与d2关于A共轭。

如果A为E呢？d1_T*d2=0，也就是两个向量正交，所以向量正交只是向量共轭的特例。

线性共轭梯度法

如果初始方向d0为反梯度方向，那就称之为线性共轭梯度法。