关于对偶问题

链接：https://www.zhihu.com/question/43830699/answer/110807943

注意不管f,g如何，弱对偶定理永远是成立的（即v*<=z*），所谓的能否转化成对偶问题主要是指强对偶定理是否成立（即是否有v*=z*）。对线性规划，满足特定regularity条件（一般来说并不难）的半正定规划或凸优化问题也是成立的。

至于一些非凸问题或者整数规划问题，虽然我们不再有强对偶定理，但是通过弱对偶定理我们往往能得到对原问题的一个下界（lower bound），这对于我们求解原问题有时会有非常大的增益（比如分支定界算法，branch and bound）。实际上就算是凸问题，各种primal-dual算法往往也比单纯的primal方法要有效，比如dual-simplex一般认为比单纯simplex要好，primal-dual interior point method和augmented Lagrangian method (ALM)都是因为实际implemetation中的优越性。个人觉得对偶确实是优化中最最重要的概念。抽象来看都可看成和泛函里的Fenchel duality theorem相关（Fenchel's duality theorem）。

 

https://www.datalearner.com/blog/1051551324508180

对偶问题（Dual Problem）是运筹学中一个很重要的概念，是基于原问题的约束条件和目标函数为基础构造而来。每一个线性规划的问题都存在一个与之对应的对偶问题。

https://www.zhihu.com/question/26658861/answer/53394624
 

对偶问题有时比原问题更简单确实是一个很吸引人的答案。但最重要的不是这个。

线性规划的对偶理论没出现的时候，线性规划是不知道能不能解的！！！而且那时候也还没有计算机。

解线性规划最常用的方法是哪个?单纯形法。单纯形法第一步是什么？找一个起始点。我问你，起始点找不到怎么办？！！

或者换一个问法：我现在只问你，给你的这个线性规划问题有没有可行解，你怎么回答我？

假如有，很简单，找一个，代入到限制条件里，假如都满足了就ok了。
那假如不存在呢？你怎么证明？！！！

你手动试遍所有的解，然后发现限制条件总有一个不成立？解有无数个，你怎么试？！！
教这门课的俄罗斯大叔每次都会举同样一个例子：你要证明一个人有罪很容易，找出他犯罪的证据；但是你要证明一个人没罪很难！不在场证据？高级犯法不一定要在场。

对应回我们的线性规划可不可解的问题，某个解就是这个问题有解的证据。但是如果问题没有解，你怎么证明？？！！

对偶问题是解决这个事情的。这个就联系到Farkas lemma和其他一系列定理。全讲清楚就很花时间了。大概来讲就是说，有牛人找到一个跟原问题的对偶问题密切相关的问题，如果这个问题有解，原问题就没解。这样就提供了一个简单的证明原问题没解的途径。

线性规划区别于其它优化问题的一个重要特点是，我们能比较容易地判断我们这问题有解还是没解。

事实上，你能判断出任何一个线性规划有没有解，就已经能轻松算出原问题的最优解了。两个问题是等价的。为什么这么说？假如问题是最大化一个目标函数cx.我们就可以每次问cx

对偶问题研究清楚了之后，对偶问题就被用来辅助解决原问题甚至通过解对偶问题来解原问题