规划论：线性规划、非线性规划、动态规划等概念整理

各种规划一直神秘的不敢去触碰，也一直是个疙瘩在脑子里，为此今天特意了解了一下。

规划论

规划论又称数学规划，运筹学的一个分支。
规划论是指在既定条件（约束条件）下，按照某一衡量指标（目标函数）在多种 方案中寻求最优方案（取最大或最小值）。规划论包括线性规划、非线性规划和动态规划

---

线性规划问题

概念理解：当目标函数与约束条件都是线形的，则称为线性规划。

线性规划问题是在一组线性约束条件的限制下，求一线性目标函数最大或最小的问题。 在解决实际问题时，把问题归结成一个线性规划数学模型是很重要的一步，但往往也是困难的一步，模型建立得是否恰当，直接影响到求解。而选适当的决策变量，是我们建立有效模型的关键之一。
建立数学模型的步骤（1）分析实际问题；（2）确定决策变量；（3）找出约束条件；（4）确定目标函数；（5）整理写出数学模型。

应用举例：某一企业内部，如何配合产品的销售时间、在各部门的原料、产品的存储、分配的数量等（决策变量） 来组织生产，使经济效益最高（目标）。
数学模型：

image.png

求解方法：图解法、单纯形法、对偶单纯形法等

非线性规划问题

概念理解：除去线性规划，则为非线性规划

其中，凸规划、二次规划、几何规划都是一种特殊的非线性规划。

数学模型：

image.png

凸规划：目标函数是凸函数，局部最小值 也是全局最小值。参考
举个例子, 我们考虑下面的极小化问题:

image.png

设f(x)是凸函数, gi(x)是凸函数, hj(x)是线性函数.

二次规划：一类特殊的非线性规划。它的目标函数是二次函数，约束条件是线性的。
几何规划：略

求解方法：拉格朗日乘子法、可行方向法、制约函数法等。

无约束优化问题

去除带约束的规划问题，则为无约束优化问题。
求解方法：
1、 最速下降法(也叫梯度下降)
2、 共轭梯度下降
3、 牛顿法
4、 拟牛顿法

动态规划问题

概念理解:若规划问题与时间有关，则称为动态规划；

把多阶段过程转化为一系列单阶段问题，逐个求解，解决这类问题的方法称为动态规划，它是一种方法、考察问题的一种途径，但不是一种特殊的算法。
没有统一的标准模型，也没有构造模型的通用方法，甚至还没有判断一个问题能否构造动态规划模型的准则。这样就只能对每类问题进行具体分析，构造具体的模型。对于较复杂的问题在选择状态、决策、确定状态转移规律等方面需要丰富的想象力和灵活的技巧性，这就带来了应用上的局限性。参考

动态规划一般可分为线性动规，区域动规，树形动规，背包动规四类。
线性动规：拦截导弹，合唱队形，挖地雷，建学校，剑客决斗等；
区域动规：石子合并， 加分二叉树，统计单词个数，炮兵布阵等；
树形动规：贪吃的九头龙，二分查找树，聚会的欢乐，数字三角形等；
背包问题：背包问题，完全背包问题，分组背包问题，二维背包，装箱问题，挤牛奶

举例：最短路径问题举例ppt

组合规划问题：

若规划问题与有限个事物的排列组合有关，则称为组合规划

随机规划问题：

若规划问题与随机变量有关，则称为随机规划。