凸优化系列——凸函数

1.凸函数的定义

        凸函数直观上来说,就是两点之间的函数值小于两点连线的函数值凸优化系列——凸函数_第1张图片

        常见凸函数

线性函数既是凸函数,也是凹函数

对于二次函数,如果Q矩阵是半正定矩阵,那么它的二阶导为Q为半正定矩阵,根据凸性判定的二阶条件,它也是凸的。

最小二乘函数总能够写成AA^T,因此也是凸的 

凸优化系列——凸函数_第2张图片

 2.凸函数的性质

凸优化系列——凸函数_第3张图片

       凸优化系列——凸函数_第4张图片

这条性质讲的是,凸函数的函数值大于等于凸函数在任意一点的切线

凸优化系列——凸函数_第5张图片 

 凸优化系列——凸函数_第6张图片

 

凸优化系列——凸函数_第7张图片

这个性质我们可以类比高等数学中函数的凹凸性来理解,当然,同济版高等数学和这里是反的,当二阶导大于0时,f(x)为凸函数。 

充分性 

凸优化系列——凸函数_第8张图片 必要性

凸优化系列——凸函数_第9张图片

 3.保凸运算

凸函数的非负组合的二阶hesse矩阵肯定半正定,故非负组合是凸的

凸优化系列——凸函数_第10张图片

凸函数求最大也还是凸的 

 凸优化系列——凸函数_第11张图片

 4.凸集与凸函数之间的关系

凸优化系列——凸函数_第12张图片

        这个含义是说,以一元函数为例,凸函数的下水平集为连通的线段,根据凸集的定义,肯定是凸集,而非凸函数的下水平集不是连通的,肯定不是凸集 

凸优化系列——凸函数_第13张图片

 

 凸优化系列——凸函数_第14张图片

 

 

 

你可能感兴趣的:(#,凸优化,最优化)