共轭函数及其性质

一、定义

共轭函数(conjugate function)亦称对偶函数:如果 f : R n → R f:R^n→R f:RnR是一个函数,那么 f f f的共轭函数:
f ∗ ( y ) = s u p x ∈ d m f   f ( y T x − f ( x ) ) \begin{align*} f^*(y)= \mathop{sup}\limits_{ x\in dmf \ f }(y^Tx-f(x)) \end{align*} f(y)=xdmf fsup(yTxf(x))
其中 f ∗ ( y ) f^*(y) f(y)的定义域是使得等式右边有上界的那些y。

二、性质

  1. 共轭函数 f ∗ f^∗ f是一个凸函数
  2. 如果 g g g f f f的凸闭包,那么 g ∗ = f ∗ g^∗=f^∗ g=f
  3. 对一般的函数 f f f f ∗ ∗ ≤ f f^{∗∗}\leq f f∗∗f
  4. 如果 f f f是一个凸函数,那么 f ∗ ∗ = f f^{∗∗}=f f∗∗=f
  5. Fenchel不等式(当 f f f可微时亦称为Young不等式): f ( x ) + f ∗ ( y ) ≥ x T y f(x)+f^*(y)\geq x^Ty f(x)+f(y)xTy
  6. 如果 f f f是凸函数而且可微,那么 f ∗ ( y ) = x ∗ T ▽ f ( x ∗ ) − f ( x ∗ ) f^*(y)=x^{*T} \triangledown f(x^*)-f(x^*) f(y)=xTf(x)f(x),其中 x ∗ x^* x满足 ▽ f ( x ∗ ) = y \triangledown f(x^*)=y f(x)=y
  7. 如果 g ( x ) = f ( A x + b ) g(x)=f(Ax+b) g(x)=f(Ax+b),则 g ∗ ( y ) = f ∗ ( A − T y ) − b T A − T y g^*(y)=f^*(A^{-T}y)-b^TA^{-T}y g(y)=f(ATy)bTATy
  8. 如果 f ( u , v ) = f 1 ( u ) + f 2 ( v ) f(u,v)=f_1(u)+f_2(v) f(u,v)=f1(u)+f2(v),那么 f ∗ ( w , z ) = f 1 ∗ ( w ) + f 2 ∗ ( z ) f^*(w,z)=f_1^*(w)+f_2^*(z) f(w,z)=f1(w)+f2(z)

三、证明

1)性质3的证明:
共轭函数及其性质_第1张图片
2)性质4的证明:
共轭函数及其性质_第2张图片

原文链接:【数学基础】第十九课:凸优化进阶

你可能感兴趣的:(基础数学类,算法)