目录(?)[+]
好吧,我想理解下Convex function(凸函数)。
A function f : R^n -> R is convex if dom f is a convex set and if for all x,y belongs to dom f and theta with 0<=theta<=1, we have
f(theta*x+(1-theta)*y) <= theta*f(x) + (1-theta)*f(y)
可以用下面的图看看凸函数。
从定义中我们可以得到如下信息:
* 函数f的定义域存在于N维空间。
* 凸函数的定义域是一个凸集。
* 函数满足一个不等式,这个不等式大家都叫Jensen's inequality.
更进一步:
* 凸函数的定义域是个凸集,并且满足Jensen不等式,那么它在定义域的内部一定是连续的,它唯一可能不连续的点只可能在边界上。假设存在不连续点,一定可以推翻Jensen不等式!
其实凸函数还有一些性质,我们不多做研究,继续看凸优化。
Suppose f is differentiable. Then f is convex if and only if
* dom f is convex
* f(y) >= f(x) + ∇f(x)^T (y-x)
可知:
* 大前提是f可微!
* 定义域是凸集
* 满足不等式,这个不等式的右边就是多元函数在x点展开的前两项
对于一维函数的情况,我们也可以从图形上理解一下
We now assume that f is twice differentiable, that is, its Hessian or second derivative exists at each point in dom f, which is open.
Then f is convex if and only if dom f is convex and its Hessian is positive semidefinite: for all x belongs to dom f, Hessian(f) >= 0
我不明白为什么冒号后面加的那句。!!!
难道这是半正定矩阵的充分必要条件,还是另外的一个新条件呢????
有谁知道的,麻烦留言额。。。。。。。。。。。。。。。