算法优化（1）：基础知识-凸集，单峰函数，拟凸函数与凸函数，函数凹凸性定义

本文笔记介绍我最近学习的算法优化的基础知识，有：

• 最优化问题的一般形式
• 约束问题的分类及形式
• 优化问题的分类
• 单峰函数（Unimodal function）的定义
• 拟凸函数（Quasiconvex function）的定义
• 凸集（convex set）与凸函数(convex function)的定义
• 函数凹凸性的定义（注意和凹凸函数的定义区别，下篇文章会讲二者区别）

（1）最优化问题的一般形式是

注：x是优化过程中的最优变量；f(x)【目标函数】是标量；h(x)=0代表等式约束；g(x)<=0代表不等式约束

（2）约束问题可以分为两类：无约束优化和约束优化，二者形式如下

注：目标函数f(x)与约束h(x)或g(x)均为线性函数时，问题为线性规划；目标函数f(x)与约束h(x)或g(x)至少有一个是变量x的非线性函数时，问题为非线性规划。

（3）一般情况下maximization问题是可以和minimization问题相互转化的【取负数即可，x*代表最优变量】

（4）优化问题的分类主要有四类：线性规划，二次规划，凸优化，非线性规划

（5）凸集定义【这是我的手写笔记可能。。。稍微模糊了一点】

（6）单峰函数（Unimodal function）
先来看看老师给的定义

我翻译一下，它的意思其实就是：

就是指一个函数如果在某个区间内有一个局部最大值，那么它就是在那个区间上的单峰函数，要注意是在某个区间上定义的喔！

（7）拟凸函数（Quasiconvex function）定义

如果没看懂英文的话，看我下面的笔记：
例题里面只有2图不是拟凸函数

（8）凸函数（convex function）定义


下面的笔记，是我参考的袁亚湘老师的《最优化理论》里面凸函数的定义

所以说从上面可以看出来，我们凸函数的图形总是位于相应弦的下方的。

（9）函数的凹凸性
这是我考研的时候复习，当时复习到了函数的凹凸性（图像），要注意函数的凹凸性和凹凸函数的定义是不一样的喔，别弄混了！

有一点很奇怪的是，中国关于凹凸函数的定义和国外是相反的，下篇文章我详解一下这其中的奥妙，千万不要弄混了！