非线性规划

整数规划

决策变量只能取整数的规划问题

动态规划

按时间或空间将多阶段决策问题划分为多个阶段,对每个阶段进行决策,前一次决策结果影响当前决策,当前决策影响下一次决策。

非线性规划_第1张图片

非线性规划

目标函数、约束条件至少一个是决策变量的非线性函数

非线性规划_第2张图片

可行解:满足约束条件的解
可行域:约束条件构成的区域

非线性规划问题包括无约束问题与有约束问题。
非线性规划问题引入了不等式约束,标志现代规划理论的开始。

无约束最优化

变量轮换法
最速下降法
牛顿法
共轭梯度法
变尺度法

有约束最优化

Zoutendijk可行方向法
近似规划法:在迭代点将非线性目标函数与约束条件一阶泰勒展开,转化为线性规划求解。求解的一系列解组成一个序列,序列收敛于原问题的解。
制约函数法:SUMT分为内点法(障碍函数)与外点法(惩罚函数)。内点法要求整个迭代都在可行域内进行,不能在边界上。外点法无要求,不在可行域都行。
二次规划QP:目标函数为决策变量的二次函数,约束函数是决策变量的线性函数

二次规划

非线性规划_第3张图片

某些问题就是求解一系列的二次规划问题,懂我再说什么问题,请留言。

正定二次规划

H为正定矩阵,是一个凸规划,局部最优解是全局最优解

一般正定二次规划问题
非线性规划_第4张图片

等式约束问题

非线性规划_第5张图片

用最优解方向将问题进一步转化


P为x出发到最优解x_的方向
非线性规划_第6张图片

所以目标函数写为

最终形式1
非线性规划_第7张图片

最终形式2
非线性规划_第8张图片

SQP逐步二次规划


非线性规划_第9张图片
将非线性规划转化为一系列的二次规划子问题求解。

B为H的近似矩阵,Bk+1通过BFGS公式由Bk修正得到
目标函数按照正定二次规划展开,约束条件取泰勒一阶近似

非线性规划_第10张图片

你可能感兴趣的:(最优化)