优化学习笔记2

极点

• In mathematics, an extreme point of a convex set S in a real vector space is a point in S which does not lie in any open line segment joining two points of S. Intuitively, an extreme point is a "vertex" of S. 引用

  Affine space

• In mathematics, an affine space is a geometric structure that generalizes the properties of Euclidean spaces that are independent of the concepts of distance and measure of angles, keeping only the properties related to parallelism and ratio of lengths for parallel line segments.
  引用

  凸集

• In convex geometry, a convex set is a subset of an affine space that is closed under convex combinations.[1] More specifically, in a Euclidean space, a convex region is a region where, for every pair of points within the region, every point on the straight line segment that joins the pair of points is also within the region. 引用
  
  所以线性函数组成的集合也是凸集

  极方向

  
  
  

  凸规划

  

  线性规划部分性质

• 线性规划的可行域是凸集。
• 矩阵Ax=b的通解对应于可行解区域的极点。

• 若多面集S={x|Ax=b,x>=0}非空，则存在有限个极点。

  单纯形法

  基本思想：

  从一个基本可行解出发，求一个使目标函数值有所改善的基本可行解；通过不断改进基本可行解，力图达到最优基本可行解。

  大概步骤：

  先求解一个基本解，然后通过将基本解中的一个变量和自由变量替换看能否减小目标函数值，不断迭代。

  收敛性：

  对于非退化问题，单纯形方法经有限次迭代或达到最优基本可行解，或得出无界的结论。

对偶

线性规划中的对偶理论：

- 对称形式的对偶（约束只含有不等式）
- 非对称形式的对偶（约束只含有等式，转化为1进行对偶）
- 一般情形（通过添加变量转化为1进行对偶）

性质：

• 极小化问题给出极大化问题的目标函数值的上界；极大化问题给出极小化问题的目标函数值的下界。
• 若原问题和对偶问题中有一个问题存在最优解，则另一个问题也存在最优解，且两个问题的目标函数的最优值相等。

非线性规划对偶：

拉格朗日对偶：

---

今天的任务一个也没有完成，看了许多基础知识，5,17号尽量弥补回来吧。

转载于:https://www.cnblogs.com/UniMilky/p/6865654.html