常见优化类型小结

文章目录

    • Linear Programming(LP)
    • Quadratic Programming(QP)
    • Quadratical Constraint Quadratic Programming(QCQP)
    • Second-Order Cone Programming(SOCP)
    • Semi-Definite Programming(SDP)
    • 参考:

优化方式各种各样,但是总结起来常用的就那么几种,LP/QP/QCQP/SOCP/SDP,命名是根据优化的目标和约束来命名的

Linear Programming(LP)

线性规划
目标线性,约束线性
m i n i m i z e s   c T x A x < b minimizes \ c^Tx\\Axminimizes cTxAx<b

Quadratic Programming(QP)

二次规划
目标二次项,约束均为线性
m i n i m i z e   x T P x + q T x + c A x < b minimize\ x^TPx+q^Tx+c \\Axminimize xTPx+qTx+cAx<b
常见有 P ∈ S + ⪰ 0 P \in S_{+}\succeq 0 PS+0,这是一个凸二次规划问题

Quadratical Constraint Quadratic Programming(QCQP)

二次约束二次规划
目标二次项,约束带有二次项
m i n i m i z e   x T P x + q T x + c x T Q x + g T x + r < 0 minimize\ x^TPx+q^Tx+c\\x^TQx+g^Tx+r<0 minimize xTPx+qTx+cxTQx+gTx+r<0

Second-Order Cone Programming(SOCP)

二阶锥规划

m i n i m i z e   f T x ∣ ∣ A x + b ∣ ∣ 2 < c T x + d minimize\ f^Tx\\||Ax+b||_2minimize fTxAx+b2<cTx+d
上述约束条件构成了一个锥

Semi-Definite Programming(SDP)

半定规划

m i n i m i z e   f T x x 1 F 1 + ⋯ + x n F n + G ⪯ 0 minimize\ f^Tx\\x_1F_1+\cdots+x_nF_n+G \preceq0 minimize fTxx1F1++xnFn+G0
F i , G ∈ S F_i,G \in S Fi,GS,属于实对称矩阵。

这些模型在一定条件下是可以相互转换的

模型的一般性:LP 模型的求解效率:LP>QP>QCQP>SOCP>SDP

参考:

http://blog.csdn.net/haiming_yeyeye/article/details/48979591

你可能感兴趣的:(数据科学,优化类型)