凸优化学习笔记3（中科大）凸函数

3. 凸函数

3.1 基本性质和例子

3.1.1 定义（凸、凹、严格凸、严格凹）

（1）定义1


  若函数-f是（严格）凸的，则函数f是（严格）凹的。

（2）定义2（将高维限制在一维来判断）

3.1.2 拓展值延伸

（1）定义

（2）凸函数的拓展值延伸也是凸函数。（因为满足定义域和式3.1两个条件）

（3）凸集的示性函数

• 定义
  
• 凸集的示性函数是凸函数

3.1.3 一阶条件（凸、凹、严格凸、严格凹）

（1）凸函数一阶条件定义（定义3）：


  所以，对于一个凸函数，其一阶Taylor近似是原函数的一个全局下估计。

（2）一阶条件证明：
  一维情况：用定义1证明充分性、必要性；
  高维情况：用定义2证明充分性、必要性。

3.1.4 二阶条件（凸、凹）

（1）凸函数二阶条件定义（定义4）：

 注：严格凸、严格凹只满足必要性，即不是等价的。

3.1.5 例子

（1）

• 仿射函数f(x)=Ax+b是凸函数

（2）一维函数（用二阶条件证明比较方便）

（3）n维函数（用定义1证明比较方便）

3.2 保凸运算

3.2.1 非负加权求和

拓展至无限项或积分的情况：

3.2.2 复合仿射映射

3.2.3 逐点最大和逐点上确界（两个函数的极大值函数）

3.2.4 复合（函数的组合）

（1）标量复合

• 一维： k=n=1；dom g =dom h =dom f =R；h,g均为二阶可微
  
• 高维： k,n>=1；dom g ,dom h ,dom f != R^n；h,g均不二阶可微
  
  
  （2）矢量复合

3.2.5 最小化

3.2.6 函数的透视

（1）透视函数

（2）函数的透视

3.3 函数的共轭

3.3.1 定义及例子

（1）定义

（2）性质

• f(x)若可微，则f*(y)对应的x必是满足f’(x)=y的一点；
• 不论f(x)为什么函数，f*(y)一定是凸函数；

（3）例子

3.3.2 基本性质

• 共轭的共轭
  

3.4拟凸函数（Quasi convex function)

（凸集与凸函数的关系——alpha-sublevel set)

3.4.1定义及例子

（1）定义

  拟凹函数：
  拟线性函数：
（2）性质
 凸函数的下水平集是凸集。

（3）例子

  所以，拟凸函数可能是凹的，也可能是不连续的。
注：单模态函数（unimodal function) = 拟凸函数

3.4.2基本性质

（1）性质



（2）拟凸函数第二定义

3.4.3可微拟凸函数

（1）一阶条件

证明：

• 一维情况：充分性、必要性
• 高维情况：充分性、必要性
  
  （2）二阶条件

3.4.4保拟凸运算

3.5对数-凹函数(log-concave)和对数-凸函数(log-convex)

3.5.1定义

所以：若f(x)为对数凸，则f(x)一定为凸函数；
   若f(x)为凹，则f(x)一定为对数凹。

3.5.2相关性质