在高中生物上,我们就学习过关于遗传变异、自然选择的知识,自然选择的原则是优胜劣汰、适者生存,有性繁殖则可以不断使基因进行混合和重组,因此自然选择和有性生殖实际上是生物体的优化过程,正是这种优化过程的不断进行才导致了生物的进化。
遗传算法(GA)就是人们从生物界按自然选择和有性生殖、遗传变异的自然进化现象中得到启发,而设计出来的一种优化搜索算法。
博主学习遗传算法算是一种被动学习,就是听老师讲课,后来看了几篇知乎,发现大佬们写的入门文章通俗易懂,这里附上链接:
https://www.zhihu.com/question/23293449?utm_source=qq&utm_medium=social&utm_oi=875107575870418944
一、基本概念
1. 适应度与适应度函数
适应度(fitness)就是借鉴生物个体对环境的适应程度, 而对所求解问题中的对象设计的一种表征优劣的测度。适应度函数(fitness function)就是问题中的全体对象与其适应度之间的一个对应关系, 即对象集合到适应度集合的一个映射。 它一般是定义在论域空间上的一个实数值函数。
2. 染色体及其编码
遗传算法以生物细胞中的染色体(chromosome)代表问题中的个体对象。而一个染色体可以看作是由若干基因组成的位串, 所以需要将问题中的个体对象编码为某种位串的形式。这样,原个体对象也就相当于生命科学中所称的生物体的表现型(phenotype), 而其编码即“染色体”也就相当于生物体的基因型(genotype)。遗传算法中染色体一般用字符串表示, 而基因也就是字符串中的一个个字符。例如,假设数字9是某问题中的个体对象, 则我们就可以用它的二进制数串1001作为它的染色体编码。
3. 种群
种群(population)就是模拟生物种群而由若干个染色体组成的群体, 它一般是整个论域空间的一个很小的子集。 遗传算法就是通过在种群上实施所称的遗传操作,使其不断更新换代而实现对整个论域空间的搜索。
4. 遗传操作
遗传算法中有三种关于染色体的运算: 选择-复制、交叉和变异,这三种运算被称为遗传操作或遗传算子(genetic operator)。
选择-复制
选择-复制(selection reproduction)操作是模拟生物界优胜劣汰的自然选择法则的一种染色体运算, 就是从种群中选择适应度较高的染色体进行复制,以生成下一代种群。选择-复制的通常做法是, 对于一个规模为N的种群S,按每个染色体xi∈S的选择概率P(xi)所决定的选中机会, 分N次从S中随机选定N个染色体, 并进行复制。 这里的选择概率P(xi)的计算公式为
其中,f为适应度函数,f(xi)为xi的适应度。可以看出, 染色体xi被选中的概率就是其适应度f(xi)所占种群中全体染色体适应度之和的比例。 显然, 按照这种选择概率定义, 适应度越高的染色体被随机选定的概率就越大, 被选中的次数也就越多, 从而被复制的次数也就越多。相反,适应度越低的染色体被选中的次数也就越少,从而被复制的次数也就越少。如果把复制看做染色体的一次换代的话,则这就意味着适应度越高的染色体其后代也就越多,适应度越低的染色体其后代也就越少, 甚至被淘汰。 这正吻合了优胜劣汰的自然选择法则。
上述按概率选择的方法可用一种称为赌轮的原理来实现。 即做一个单位圆, 然后按各个染色体的选择概率将圆面划分为相应的扇形区域(如图4-1所示)。这样, 每次选择时先转动轮盘, 当轮盘静止时,上方的指针所正对着的扇区即为选中的扇区,从而相应的染色体即为所选定的染色体。 例如, 假设种群S中有4个染色体: s1,s2, s3, s4,其选择概率依次为: 0.11, 0.45, 0.29, 0.15, 则它们在轮盘上所占的份额如图4-1中的各扇形区域所示。
在算法中赌轮选择法可用下面的子过程来模拟:
① 在[0, 1]区间内产生一个均匀分布的伪随机数r。
② 若r≤q1,则染色体x1被选中。
③ 若qk-1
一个染色体xi被选中的次数, 也可以用下面的期望值e(xi)来确定。
交叉
交叉 (crossover)亦称交换、交配或杂交,就是互换两个染色体某些位上的基因。例如,设染色体s1=01001011, s2=10010101, 交换其后4位基因, 即
则得新串s1′=01000101,s2′=10011011。s1′和s2′可以看做是原染色体s1和s2的子代染色体。
变异
变异(mutation)亦称突变,就是改变染色体某个(些)位上的基因。例如,把染色体s=11001101的第三位上的0变为1, 则得到新染色体s′=11101101。
二、基本遗传算法
简单来讲, 遗传算法就是对种群中的染色体反复做三种遗传操作, 使其朝着适应度增高的方向不断更新换代, 直至出现了适应度满足目标条件的染色体为止。遗传算法的基本框架如图4-2所示。
在算法的具体步骤中, 还需给出若干控制参数, 如种群规模、最大换代数、交叉率和变异率等等。
——种群规模就是种群的大小, 用染色体的个数表示。
——最大换代数就是算法中种群更新换代的上限, 它也是算法终止的一个条件。
——交叉率(crossover rate)就是参加交叉运算的染色体个数占全体染色体总数的比例,记为Pc,取值范围一般为0.4~0.99。由于生物繁殖时染色体的交叉是按一定的概率发生的, 因此参加交叉操作的染色体也有一定的比例, 而交叉率也就是交叉概率。
——变异率(mutation rate)是指发生变异的基因位数所占全体染色体的基因总位数的比例,记为Pm,取值范围一般为0.0001~0.1。由于在生物的繁衍进化过程中, 变异也是按一定的概率发生的, 而且发生概率一般很小, 因此变异率也就是变异概率。
基本遗传算法:
步1 在论域空间U上定义一个适应度函数f(x),给定种群规模N,交叉率Pc和变异率Pm,代数T;
步2 随机产生U中的N个染色体s1, s2, …, sN,组成初始种群S={s1, s2, …, sN},置代数计数器t=1;
步3 计算S中每个染色体的适应度f() ;
步4 若终止条件满足,则取S中适应度最大的染色体作为所求结果,算法结束。
步5 按选择概率P(xi)所决定的选中机会,每次从S中随机选定1个染色体并将其复制,共做N次,然后将复制所得的N个染色体组成群体S1;
步6 按交叉率Pc所决定的参加交叉的染色体数c,从S1中随机确定c个染色体,配对进行交叉操作,并用产生的新染色体代替原染色体,得群体S2;
步7 按变异率Pm所决定的变异次数m,从S2中随机确定m个染色体,分别进行变异操作,并用产生的新染色体代替原染色体,得群体S3;
步8 将群体S3作为新一代种群,即用S3代替S,t=t+1,转步3;
需要说明的是, 遗传算法的具体表述在各个文献中并不太一致, 本书给出的这一表述, 只是遗传算法的基本步骤, 所以我们称其为基本遗传算法。 该算法描述与所称的简单遗传算法 (Simple Genetic Algorithm, SGA)基本一致。简单遗传算法是D. J. Goldberg总结出的一种统一的最基本的遗传算法。在简单遗传算法的基础上, 现在已派生出遗传算法的许多变形, 可以说已形成了一个遗传算法家族。
在应用遗传算法解决实际问题时, 还需给出结构模式的表示方案、适应度的计算方法、终止条件等。表示方案通常是把问题的搜索空间的每一个可能的点,编码为一个看做染色体的字符串, 字符通常采用二进制数0、1。适应度的计算方法一般根据实际问题而定。
三、遗传算法应用举例
例4.1
利用遗传算法求解区间[0,31]上的二次函数y=x2的最大值。
分析 可以看出,只要能在区间[0,31]中找到函数值最大的点a,则函数y=x2的最大值也就可以求得。于是, 原问题转化为在区间[0, 31]中寻找能使y取最大值的点a的问题。显然, 对于这个问题, 任一点x∈[0, 31]都是可能解, 而函数值f(x)= x2也就是衡量x能否为最佳解的一种测度。那么,用遗传算法的眼光来看, 区间[0, 31]就是一个(解)空间,x就是其中的个体对象, 函数值f(x)恰好就可以作为x的适应度。这样, 只要能给出个体x的适当染色体编码, 该问题就可以用遗传算法来解决。
解:
(1) 定义适应度函数,编码染色体。由上面的分析,函数f(x)=x2就可作为空间U上的适应度函数。显然y=x2是一个单调增函数,其取最大值的点x=31是个整数。另一方面, 5位二进制数也刚好能表示区间[0, 31]中的全部整数。所以, 我们就仅取[0,31]中的整数来作为参加进化的个体,并且用5位二进制数作为个体x的基因型编码, 即染色体。
(2) 设定种群规模, 产生初始种群。我们将种群规模设定为4,取染色体s1=01101(13),s2=11000(24),s3=01000(8), s4=10011(19)组成初始种群S1。
(3) 计算各代种群中的各染色体的适应度, 并进行遗传操作,直到适应度最高的染色体(该问题中显然为“11111”=31)出现为止。
计算S1中各染色体的适应度、选择概率、积累概率等并列于表4.1中。
这里对表中的几个表项进行说明
适应度是通过适应函数算出来的,这里f(x)= x2是适应函数,选择概率则是适应度所占的比率,累计概率则是选择概率的累计,在这里会碰到计算出小数的问题,尽量使用四舍五入,同时也要保证最后的积累概率为1,估计被选次数则是染色体被选择的期望e(xi)=(pi)*N,注意这里是向上取整。
选择-复制
设从区间[0, 1]中产生4个随机数如下:
r1=0.450126, r2=0.110347, r3=0.572496, r4=0.98503
按赌轮选择法,染色体s1, s2, s3, s4的被选中次数依次为:1, 2, 0, 1。于是,经复制得群体:
s1’=11000(24), s2’=01101(13), s3’=11000(24), s4’=10011(19)
可以看出,在第一轮选择中适应度最高的染交叉 设交叉率pc=100%,即S1中的全体染色体都参加交叉运算。设s1’与s2’配对,s2’与s4’配对。分别交换后两位基因,得新染色体:
s1’’=11001(25), s2’’=01100(12),
s3’’=11011(27), s4’’=10000(16)
变异
设变异率pm=0.001。这样,群体S1中共有540.001=0.02位基因可以变异。0.02位显然不足1位,所以本轮遗传操作不做变异。
现在,我们得到了第二代种群S2:
s1=11001(25), s2=01100(12),
s3=11011(27), s4=10000(16)
表 4.2 第二代种群S2中各染色体的情况
假设这一轮选择-复制操作中,种群S2中的4个染色体都被选中(因为选择概率毕竟只是一种几率,所以4个染色体恰好都被选中的情况是存在的),我们得到群体:
s1’=11001(25), s2’=01100(12), s3’=11011(27), s4’=10000(16)
然后,做交叉运算,让s1’与s2’,s3’与s4’ 分别交换后三位基因,得
s1’’=11100(28), s2’’=01001(9), s3’’=11000(24), s4’’=10011(19)
这一轮仍然不会发生变异。于是,得第三代种群S3:
s1=11100(28), s2=01001(9), s3=11000(24), s4=10011(19)
设这一轮的选择-复制结果为:
s1’=11100(28), s2’=11100(28), s3’=11000(24), s4’=10011(19)
然后,做交叉运算,让s1’与s4’,s2’与s3’ 分别交换后两位基因,得
s1’’=11111(31), s2’’=11100(28), s3’’=11000(24), s4’’=10000(16)
这一轮仍然不会发生变异。于是,得第四代种群S4:
s1=11111(31), s2=11100(28), s3=11000(24), s4=10000(16)
显然,在这一代种群中已经出现了适应度最高的染色体s1=11111。于是,遗传操作终止,将染色体“11111”作为最终结果输出。
然后,将染色体“11111”解码为表现型,即得所求的最优解:31。将31代入函数y=x2中,即得原问题的解,即函数y=x2的最大值为961。
例4.2
用遗传算法求解TSP。
分析 在前面的图搜索技术中,我们曾用状态图搜索中最佳图搜索算法A*算法求解过TSP。在那里算法是在问题的状态空间中从初始节点(起点城市)出发一步一步试探性地朝目标节点前进,以找到一条最短路径。然而,对于这个问题,其任一可能解———— 一个合法的城市序列,即n个城市的一个排列都可以事先构造出来。于是,我们就可以直接在解空间(所有合法的城市序列)中搜索最佳解。这正适合用遗传算法求解。
事实上,我们可以将一个合法的城市序列s=(c1, c2, …, cn, cn+1)(cn+1就是c1)作为一个个体。这个序列中相邻两城之间的距离之和的倒数就可作为相应个体s的适应度,从而适应度函数就是
接下来的问题就是如何对个体s=(c1, c2, …, cn, cn+1)进行编码。然而,这却不是一个直截了当的事情。因为这里的任一个体(x1, x2, …, xn, xn+1)必须是一个合法的城市序列,所以如果编码不当,就会在实施交叉或变异操作时出现非法城市序列即无效解。例如,对于5个城市的TSP,我们用符号A、B、C、D、E代表相应的城市,用这5个符号的序列表示可能解即染色体。那么,对下面的两个染色体(合法序列表示的可能解)
s1=(A, C, B, E, D, A),s2=(A, E, D,C, B, A)
实施常规的交叉或变异操作,如交换后三位,得
或者将染色体s1第二位的C变为E,得
s1’’=(A, E, B, E, D, A)
显然,新产生的s1、s2和s1’’都是非法城市序列即无效解,这就是说,我们必须设计合适的染色体和相应的遗传运算,使得这些遗传运算对染色体集合封闭。
在算法设计与分析课上,旅行售货商问题(TSP)是典型的搜索问题,书中用回溯法(DFS)和分支限界法(BFS)两种算法来搜索,其解空间也是典型的排列树,从这里介绍的遗传算法来看,这是一个启发式搜索!
四、遗传算法的特点与优势
由上所述, 我们看到,遗传算法模拟自然选择和有性繁殖、 遗传变异的自然原理, 实现了优化搜索和问题求解。与图搜索相比, 遗传算法的主要特点是:
——遗传算法一般是直接在解空间搜索, 而不像图搜索那样一般是在问题空间搜索, 最后才找到解(如果搜索成功的话)。
——遗传算法的搜索随机地始于搜索空间的一个点集, 而不像图搜索那样固定地始于搜索空间的初始节点或终止节点, 所以遗传算法是一种随机搜索算法。
——遗传算法总是在寻找优解(最优解或次优解), 而不像图搜索那样并非总是要求优解, 而一般是设法尽快找到解(当然包括优解), 所以遗传算法又是一种优化搜索算法。
——遗传算法的搜索过程是从空间的一个点集(种群)到另一个点集(种群)的搜索,而不像图搜索那样一般是从空间的一个点到另一个点地搜索。 因而它实际是一种并行搜索, 适合大规模并行计算, 而且这种种群到种群的搜索有能力跳出局部最优解。
——遗传算法的适应性强, 除需知适应度函数外, 几乎不需要其他的先验知识。
——遗传算法长于全局搜索, 它不受搜索空间的限制性假设的约束,不要求连续性, 能以很大的概率从离散的、多极值的、 含有噪声的高维问题中找到全局最优解。