遗传算法 - 简单介绍

遗传算法介绍

    • 1.遗传算法的起源和发展历程
    • 2.遗传算法优缺点及适用场景
    • 3.其他优化算法
    • 4.遗传算法术语
    • 5.遗传算法流程
    • 6. 参考文献

1.遗传算法的起源和发展历程

萌芽期:上个世纪50年代到70年代,提出GA等概念
成长期:上个世纪70年代中到80年代,用于优化问题
发展期:90年代以后,开始向广度和深度方向发展
2017年 Uber 发表5篇论文表明神经进化(neuroevolution)也是训练深度神经网络解决强化学习(RL)问题的有效方法。
2019年 Google 在星际争霸 II 上使用AlphaStar打败人类选手,其中使用了进化学习策略。

2.遗传算法优缺点及适用场景

优点:

  1. 适应性广,可解决大部分的凸优化问题,不可导问题依然可用。
  2. 并行度高,可以进行多个个体的同时比较。
  3. 全局最优解,搜索能力强,可扩展性好…
    缺点:
    1.参数多,调参主要靠经验。
    2.计算量大,收敛速度慢,搜索时间长…

3.其他优化算法

离散优化算法:

  1. 随机搜索算法:爬山搜索算法,模拟退火算法(Simulated Annealing、SA),局部搜索、禁忌搜索、蚁群算法、人工免疫系统(AIS)算法、人工免疫系统(AIS)、粒子群优化(PSO )、引力搜索算法( GSA )、蚁群聚类方法( ACCM中) 、随机传播搜索( SDS )
    连续优化算法(基于梯度的优化算法):最速下降法,牛顿法、拟牛顿法、SGD,Momentum,Adam等

4.遗传算法术语

种群:可行解集
个体:可行解
染色体:可行解的编码
基因:可行解编码的分量
适应度:目标函数值
选择:选择操作
交叉:编码的交叉操作
变异:可行解编码的变异

5.遗传算法流程

遗传算法 - 简单介绍_第1张图片

6. 参考文献

UBer 论文 https://eng.uber.com/deep-neuroevolution/
Google论文 https://www.nature.com/articles/s41586-019-1724-z
GACNN https://arxiv.org/pdf/1909.13354.pdf
https://zhuanlan.zhihu.com/p/92543229
https://zhuanlan.zhihu.com/p/61246506
https://blog.csdn.net/Uwr44UOuQcNsUQb60zk2/article/details/78877975

你可能感兴趣的:(遗传算法,算法,深度学习)