牛顿法和拟牛顿法

正在学习牛顿法，找到一篇非常详细的博客，特将目录整理下来，方便今后回想和查找。

一、牛顿法

内容来源：http://blog.csdn.net/u011310341/article/details/49496229

主要内容：

1、泰勒展开式。比较基础。

2、牛顿法。

从其应用的两个方面来介绍：

2.1 求方程的根——一阶泰勒展开。

2.2 解决最优化问题——二阶泰勒展开。

此部分又分为两种情况：二维情况和高维情况。

其中，二维情况比较常见，在很多文章中均能见到。最值得推荐的是其中的高维情况，讲得非常详细。。

涉及到矩阵向量求导法则：http://www.cnblogs.com/huashiyiqike/p/3568922.html

二、拟牛顿法

内容来源：http://blog.csdn.net/itplus/article/details/21896619

博主在牛顿法和拟牛顿法这系列中总共写了5篇。

第一篇：牛顿法。

其中有一个错误：公式1-7中的▽F应该转置一下的，可以从矩阵的维数推出来，参见前面提到的博客。

第二篇：拟牛顿法的条件。

第三篇到第五篇是具体的拟牛顿方法。暂时没有看