多目标优化算法（一）：知识储备

算法小白第一次记笔记，多多指教！
注：我最近在研读向毅博士的毕业论文，以下知识点来自其博士论文，但是也有我自己的理解与总结。在此附上论文的百度学术链接：https://xueshu.baidu.com/usercenter/paper/show?paperid=1g5806j0910a00p0rd3g0ax0r5437805&site=xueshu_se

目录

1. 智能优化算法的优势
2. 优化问题的分类
3. 高维多目标演化算法的分类（MaOEAs）
4. 多目标优化问题基本定义
5. 多目标测试问题集
6. 多目标算法性能评价指标

智能优化算法的优势

与数学方法相比，演化算法和基于群集智能算法的优势为：

1. 不要求当前问题具有较好的解析性质，如可导，连续等；
2. 可处理大规模，甚至极为复杂的搜索空间；
3. 基于种群（或群体）特性，使算法单次运行即可产生真实帕累托前沿近似解集。

优化问题的分类

在科学研究及工程实践中，人们往往会遇到各种优化问题。一般来说，这些优化问题被分为单目标优化问题和多目标优化问题。

1. 单目标优化问题(Single-objective optimization problem,SOPs) :待优化的目标只有一个；一个问题对应一个最优解。
2. 多目标优化问题(Multi-objective optimization problem,MOPs):至少存在两个目标，且各目标之间往往冲突，即一个目标的改善通常会导致至少一个其它目标的退化。当目标个数超过3，称为高维多目标优化问题（Many-objective optimization problem,MaOPs）

高维多目标演化算法的分类（MaOEAs）

1. 基于改进的Pareto支配算法：比较个体时考虑目标真实值；比较个体时考虑各目标比较的优劣数。缺点是涉及问题相关控制参数。
2. 基于改进多样性维护方法的算法：代表性算法如GrEA（引入3个准则维护多样性），SDE（基于转换的密度评估策略）。缺点是过分强调多样性可能会对收敛性造成影响。
3. 基于分解的算法：：常采用一组权向量（或参考方向）和特定成就标量函数（ASF）将多目标问题转化为一系列标量子问题。缺点是需在高维目标空间生成一组分布均匀的权向量。代表性算法框架是MOEA/D。
4. 基于性能指标的算法：常用的指标为HV，IGD，R2等。缺点是计算效率低下。
5. 其它类别的高维多目标演化算法：基于新算法框架的算法，基于目标降维的算法，基于用户偏好的算法等。

多目标优化问题基本定义

1. Pareto最优：在比较解的优劣时，单目标优化直接根据适应度值大小比较不同解的优劣，但是多目标优化中目标值不只一个，根据某一个目标值决定优劣关系是不合理的，常用的比较方法是非支配排序法。

2. Pareto支配：图中给出一个双目标最小化的例子，B和A比较时，B的两个目标值都比A好，因此B肯定比A好，则称B支配A；B和C比较时，B的第一个目标比C好，但是第二个目标比C差，此时无法判断B和C哪个更好，则称B和C是互不支配的关系。
   

3. Pareto前沿：在一个种群中，存在一个不被其他任何个体支配的解集，这个解集在目标空间的映射称为Pareto前沿（PF）。
   

4. Pareto解集：相应地，在决策空间称为帕累托解集（PS）。
   

多目标测试问题集

为了验证进化多目标算法（EMO）的性能，学者们设计了众多测试问题。这些测试问题的设计主要参考以下性质：
–决策变量和目标个数可调
–PS形状多样
–PF形状多样
–真实PS和PF已知
–等效最优解集个数可调
–具有全局和局部最优解集

常用的基准测试函数集

1. DTLZ（7个问题）
   –所有问题均可分
   –可任意设定决策变量和优化目标的个数
   –DTLZ1的PF是一个超平面
   –DTLZ2是一个相对简单问题
   –DTLZ3非常适合检验算法收敛性
   –DTLZ4使得一般EMO算法难以获得分布广泛的最终解集
   –DTLZ5,6是退化的曲面，可检测算法在高维目标空间搜索低维PF的能力
   –DTLZ7可用于检测算法是否具备有效处理不连续PF的能力
   文献：Deb K, Thiele L, Laumanns M, et al. Scalable test problems for evolutionary multiobjective optimization. Springer, 2005.

2. WFG（9个问题）
   –可任意设定决策变量和优化目标的个数
   –大多数问题不可分
   –引入更多问题特性：单峰/多峰，有偏/无偏，欺骗性/无欺骗性，凹状/凸状，退化/非退化等
   文献：Huband S, Hingston P, Barone L, et al. Areview of multiobjective test problems and a scalable test problem toolkit. IEEE Transactions on Evolutionary Computation, 2006, 10(5):477–506.

3. DTLZ^-1/WFG^-1
   –在原始DTLZ和WFG测试问题各目标函数前乘以（-1）即可，其目的在于获得反转的PF
   –该测试问题的主要目的在于测试EMO算法处理凸状PF的能力
   文献：Ishibuchi H, Setoguchi Y, Masuda H, et al. Performance of Decomposition-Based
   Many-Objective Algorithms Strongly Depends on Pareto Front Shapes. IEEE Transactions on Evolutionary Computation, 2017, 21(2):169–190.

4. MMF suite
   –不可任意设定决策变量和优化目标的个数
   –PF的几何形状为凸/凹/线性
   –PS的几何形状为曲线段
   –PS个数不可调
   –函数比较简单
   文献：J. J. Liang, W. Xu, C. Yue, K. Yu, H. Song, O. D. Crisalle, and B. Qu, “Multimodal Multiobjective Optimization with Diffierential Evolution,” Swarm and Evolutionary Computation, vol. 44, no. 2019, pp. 1028-1059, 2018.

5. SYM-PART
   –不可任意设定决策变量和优化目标的个数
   –PF的几何形状为凸
   –PS的几何形状为直线段
   –PS个数不可调
   –函数比较简单
   文献：G. Rudolph, B. Naujoks, and M. Preuss, “Capabilities of EMOA to Detect and Preserve Equivalent Pareto Subsets,” International Conference on Evolutionary Multi-Criterion Optimization, pp. 36-50, 2007.

6. Omini-test
   –可任意设定决策变量个数
   –不可任意设定优化目标个数
   –PF的几何形状为凸
   –PS的几何形状为直线段
   –PS个数可调
   –函数比较简单
   文献：K. Deb, and S. Tiwari, “Omni-Optimizer: A Procedure for Single and Multi-Objective Optimization,” International Conference on Evolutionary Multi-Criterion Optimization, pp. 47-61, 2005.

多目标算法性能评价指标

在多目标优化中，性能指标用于评估算法最终解集的质量。随着EMO研究领域的不断发展壮大，研究人员提出了众多性能指标。这些性能指标的设计主要被期望具有以下性质：
–可量化
–可解释性
–实用性强
–计算简单

常用的性能指标

1. IGDX
2. IGDF
3. HV/rHV
4. PSP/rPSP
5. Generalized SPREAD
6. Peak Ratio（适用于单目标优化）
7. Success Rate（适用于单目标优化）