凸优化（五）凸问题与其解

1. 概述

这期来讲一下凸问题，了解凸问题的结构便于我们来进行相应的求解。相信大家应该看过前几期了（ball ball 大家去看看吧，提高点阅读量吧），有什么不懂的或者希望交流的请在评论区留言。

2. 凸问题的最优解：

在正式讲之前，希望大家了解一个优化领域的常识：
（1）那就是大部分问题并不能直接求得符号解，一般是通过搜索算法来求得局部最优解，而局部最优解通常又不是全局最优解，所以算法中存在着这样的矛盾。那么常用的搜索算法为啥只能找到局部最优呢？有木有能跳出局部最优的算法呢？这些后期会一一解答。（如果我还能更那么多的话）

（2）一般求解的优化问题都是极小化目标函数，如果是极大化的话就取个负号即可。

（3）局部最优：通俗地讲就是这一片连续的定义域，存在着这样的一个点，使得函数取值比周围的都小，但是这片区域的大小是有限制的。来看看数学定义吧：。说个题外话，每次看到存在，任意这样的定义都会让我想起来大一学习极限的定义的时候，那时候真的觉得相当绕。

（4）全局最优：通俗地讲就是这对于，存在着这样的一个点，使得其函数取值比所有存在于定义域的点的取值都小与或等于，那这样的点就是全局最优点啦。数学定义就是：。这个就是最优解了哦，注意最优解是点，不是函数值哦！

（5）凸问题的局部最优就是全局最优：这句话可以说是为啥凸优化这么重要的原因了，因为求解到了凸问题的局部最优解那么就求到了全局最优解。那么秉承着从理论学习出发，做一个与众不同的技术博的思想来说，我们来证明一下！提前说一下，会用到凸组合和凸函数的性质，前面几节都有说过的。

那么明确一下证明的命题：有一个凸问题，简而意之无约束的凸函数有一个局部最优解，证明其为全局最优解。
假设其局部最优解为,全局最优解为，假设，那么根据定义，既然是全局最优解,那么肯定满足，那么我们构造一个凸组合,我们知道啊肯定是凸集内的点，那么也是凸集内的点。好，定义，根据之前的（1）式，得到显然在内。接着有下式成立：，此时由于，那么有成立。同志们，到这步胜利就在眼前了！让我们来使用一下凸函数的第一个定义，得到下式：,又因为我们假设了为局部最优，为全局最优，那么则（3）式进一步写成最后得到了,这个结论显然是不成立的，那么哪里错了呢？推导都是正确的，那就是假设错误了，显然是假设存在全局最优解那里出了问题，反证法得证凸问题的局部最优解即是全局最优解。