2018-05-06 开胃学习数学系列 - Optimization

可能考点

1. Optimality 的必要条件 是临界点 =0，充要条件是Hessian 是正定
2. 梯度下降法
3. 牛顿法

import numpy as np
from scipy.optimize import minimize

def rosen(x):
     return sum(100.0*(x[1:]-x[:-1]**2.0)**2.0 + (1-x[:-1])**2.0)
    
x0 = np.array([1.3, 0.7, 0.8, 2.2, 1.2, 2.1])
res = minimize(rosen, x0, method='nelder-mead',
                options={'xtol': 1e-8, 'disp': True})

print("The solution from Nelder-Mead:", res.x) 

梯度下降法