无约束最优化

泰勒展开、Hessian矩阵

  1. http://www.voidcn.com/blog/baimafujinji/article/p-5778836.html

一维搜索

  1. 进退法确定区间,区间消去法、黄金分割法、二次插值法确定极值

梯度下降、最速下降、牛顿、拟牛顿、共轭梯度

  1. 牛顿法、拟牛顿法
  2. 牛顿法、拟牛顿法
  3. BGD, SGD, Newton, Quasi-Newton, Conjugate Gradient
  4. Conjugate Gradient
  5. http://blog.sciencenet.cn/blog-817662-812287.html

你可能感兴趣的:(无约束最优化)