1. 基本概念
- 带约束的单目标优化问题基本可以表述为 最小化一个函数f(x),在满足g(x)<=0的情况下
- 变量类型:连续、离散/整数、二进制或排列,甚至还有混合变量
- 变量数量N:N=10和N=1000截然不同。N太大在二阶导数的计算上非常昂贵,需要有效地处理内存
- 约束:不平等式g(x)和平等式h(x)的约束,可能让搜索岛屿化,把可行空间做映射变换是个解决方案
- 多模态:存在少数几个甚至多个局部最优解,需要确保在搜索空间中探索了足够多的区域
- 可区分性:可微函数==可以计算一阶二阶导数,可以使用梯度方法。但如果不可知则需要全局搜索(属于黑盒优化领域)
- 评估时间:评估成本非常重要,可能需要分布式计算
- 不确定性:通常假设目标函数和约束函数是确定性的。然而,如果一个或多个目标函数是不确定的,这会引入噪音,需要对不同的随机种子重复评估求期望。
2 单目标问题
2.1 Ackley
- Ackley 函数广泛用于测试优化算法。如上图所示,在其二维形式中,它的特点是外部区域几乎平坦,中心有一个大孔。该函数有可能使优化算法,特别是爬山算法,陷入其众多局部最小值之一。
- 公式推荐的参数值为:
。
- 输入域:
- 全局最小值:
![](https://upload-images.jianshu.io/upload_images/7720139-4d2853be232fd683.png)
Ackley
2.2 Griewank
- Griewank 函数有许多分布广泛的局部最小值,这些最小值是有规律分布的。复杂性显示在放大的图中。
- 公式参数值:d 维度
- 输入域:
- 全局最小值:
![](https://upload-images.jianshu.io/upload_images/7720139-ea0f3b19110af478.png)
Griewank
2.3 Zakharov
- Zakharov 函数除了全局最小值之外没有局部最小值。它在此处以二维形式显示.
- 公式参数值:d 维度
- 输入域:
- 全局最小值:
![](https://upload-images.jianshu.io/upload_images/7720139-c7deebc5c3caad46.png)
Zakharov
2.4 Rastrigin
- Rastrigin 函数有几个局部最小值。它是高度多模态的,但最小值的位置是有规律的分布的。它以二维形式显示在上图中。
- 公式参数值:d 维度
- 输入域:
- 全局最小值:
![](https://upload-images.jianshu.io/upload_images/7720139-6d2a578281c9a308.png)
Rastrigin
2.5 rosenbrock
- rosenbrock,定义可以在中找到。它是一个非凸函数,由 Howard H. Rosenbrock 于 1960 年引入,也称为 Rosenbrock 的 valley 或 Rosenbrock 的香蕉函数。
- Rosenbrock 函数,也称为 Valley 或 Banana 函数,是基于梯度的优化算法的流行测试问题。它以二维形式显示在上图中。
- 该函数是单峰的,全局最小值位于一个狭窄的抛物线谷中。然而,即使这个山谷很容易找到,收敛到最小值也很困难(Picheny et al., 2012)。
- 公式参数值:d 维度
- 输入域:
或
- 全局最小值:
![](https://upload-images.jianshu.io/upload_images/7720139-a6270b1cf9fa40e6.png)
image.png
3 多目标问题
3.1 BNH
To Thanh Binh and Ulrich Korn. Mobes: a multiobjective evolution strategy for constrained optimization problems. In IN PROCEEDINGS OF THE THIRD INTERNATIONAL CONFERENCE ON GENETIC ALGORITHMS (MENDEL97, 176–182. 1997.
- 帕累托最优解由解构成
这些解决方案使用粗体连续曲线标记。在问题中添加这两个约束不会使无约束的帕累托最优前沿中的任何解决方案都不可行。因此,约束可能不会给解决这个问题带来任何额外的困难。
3.2 ZDT
Eckart Zitzler, Kalyanmoy Deb, and Lothar Thiele. Comparison of multiobjective evolutionary algorithms: empirical results. Evolutionary Computation, 8(2):173–195, 2000.
- 问题构建:
- 其中两个目标必须最小化。功能
可以被认为是收敛的函数,通常
适用于帕累托最优解(ZDT5 除外)
- ZDT1:一个 30 变量问题 (=30) 具有凸帕累托最优集
- ZDT2:一个 30 变量问题(=30) 具有非凸帕累托最优集:
- ZDT3:一个 30 变量问题(=30) 有许多不连贯的帕累托最优前沿:
- ZDT4:一个 10 变量 (=10) 具有凸帕累托最优集的问题。该问题存在多个局部帕累托最优解。因此,算法很容易陷入局部最优。
- ZDT5:在 ZDT5 中,变量由比特环解码。总共使用了 11 个离散变量,其中1由 30 位表示,其余的2至11每个 5 位。功能()除了数数1对应的变量。另外,请注意目标函数具有欺骗性,因为(())随着 1 的数量减少,但当所有变量确实为 1 时具有最小值。
- ZDT6:一个 10 变量 (=10) 具有非凸帕累托最优集的问题。整个帕累托最优区域的解决方案密度是不均匀的。
![](https://upload-images.jianshu.io/upload_images/7720139-5e943f541083f654.png)
![](https://upload-images.jianshu.io/upload_images/7720139-bb23ff9dd930b42a.png)
3.3 OSY
- Osyczka 和 Kundu 使用了以下六变量测试问题
- 帕累托最优区域是五个区域的串联。每个区域都存在一些限制。然而,对于整个帕累托最优区域,∗_4=∗_6=0. 下表显示了五个区域中每个区域中的其他变量值以及每个区域中有效的约束。
3.4 TNK
- 自从
,可行目标空间也与可行决策变量空间相同。无约束的决策变量空间由正方形中的所有解组成0≤(1,2)≤. 因此,唯一不受约束的帕累托最优解是∗1=∗2=0. 但是,包含第一个约束使该解决方案不可行。受约束的帕累托最优解位于第一个约束的边界上。由于约束函数是周期性的,并且第二个约束函数也必须满足,所以不是第一个约束边界上的所有解都是帕累托最优的。帕累托最优集是断开的。由于帕累托最优解位于非线性约束曲面上,因此优化算法可能难以在所有不连续的帕累托最优集上找到解的良好分布。
3.5 DTLZ
- DTLZ1问题的特点是存在
个局部最优,所以MOGA不容易找到最优Pareto集。
- DTLZ2 由于自定义M,该问题也可以被用于测试算法对大量目标函数的问题的性能。
- DTLZ3 为了增加搜索全局最优的难度,建议在g函数等于Rastrigin的情况下使用上面的问题,即当g满足Rastrigin的最优化时,该问题才能找到全局最优
- DTLZ4问题由DTLZ2修改而来,侧重于测试MOEA算法的解的分布性
- DTLZ5问题将测试MOEA收敛到曲线的能力,还将允许一种更简单的方法(通过绘制FMFM和任何其他目标函数)来直观地演示MOEA的性能。由于这条Pareto-最优曲线附近的解有一个自然偏差,这个问题对于一个算法来说可能很容易解决。
- DTLZ6问题基于DTLZ5进行修改,算法很难像DTLZ5那样收敛到真正的pareto最优前沿。
- 该问题有
个不连通的最优Pareto 区域,用于测试算法在不同的Pareto区域里维持子种群的能力
![](https://upload-images.jianshu.io/upload_images/7720139-b8770add22c451d0.png)
DTLZ
3.6 DAS-CMOP
- DAS-CMOP是个可调约束的多目标优化基准函数集。共9个基准函数,其中前1-6个是2目标的优化问题,7-9是3目标优化问题。
-
其约束的强度和难度用:(η,ζ,γ)控制,η,ζ,γ∈[0,1],这个值可以自定义,也可以使用作者提供的16个参数组控制
DAS-CMOP
参考
- 受约束的多目标优化优秀论文及总结目录