群体智能之集群智能

目录

1.写在前面

2.群体智能

3.群体智能分类

4.集群智能

4.1 集群智能的特点

4.2 集群智能代表性方法

5.集群智能-蚁群优化算法(ACO: Ant Colony Optimization ),适用于离散问题最优解

5.1 蚁群寻食过程分析

5.2  ACO: Ant Colony Optimization 

5.3 形式化

5.4 旅行商问题的蚁群优化求解

整个算法实现图示:

6.粒子群优化算法 PSO: Particle Swarm Optimization 求解连续解空间的优化问题

6.1 粒子群优化算法构成要素

6.2 粒子群优化算法算法过程描述 

6.3 粒子群优化算法粒子位置和速度更新示例

6.4 粒子群优化算法粒子速度更新公式解读

6.5 粒子群优化算法算法终止条件 

6.6 粒子群优化算法速度更新参数分析 

6.7 粒子群优化算法改进

6.8 粒子群优化算法和遗传算法相比 

6.9粒子群优化算法优缺点

6.10 粒子群优化算法小结

7.课后作业


1.写在前面

人工智能的发展史上,大概分为三大学派:

(1)符号主义:符号逻辑,专家系统;规则驱动的确定性智能

(2)联结主义:神经网络、深度学习;数据驱动不确定性智能

(3)行为主义:强化学习、涌现智能.;交互驱动的涌现智能

2.群体智能

  • 群体智能指的是无智能或者仅具有相对简单智能的 主体通过合作涌现出更高智能行为的特性 。其中的个体并非绝对的无智能或只具有简单智能,而是 相对于群体表现出来的智能而言是简单的。
  • 单个复杂个体可以实现的功能,同样可以由大量简 单的个体通过群体合作实现,后者的优势在于它更 健壮、灵活和经济。
  • 群体智能利用群体优势,在没有中心控制的条件下, 寻找解决复杂问题的新思路

3.群体智能分类

  • 集群智能 : 众多无智能的个体,通过相互之间的简单合作所表现出 来的智能行为(个体智能比较低)
  • 博弈 :具备一定智能的理性个体,按照某种机制行动,在群体 层面体现出的智能(理性、自私,优化个人目标,达到社会最优
  • 众包 : 设计合适的机制,激励个体参与,从而实现单个个体不 具备的社会智能(激励个人(真实的人))

4.集群智能

  • 集群智能是分布式、自组织的(自然/人造)系统 表现出的一种群体智能
  • 集群智能系统一般由一群简单的智能体构成,智 能体按照简单的规则彼此进行局部交互,智能体 也可以环境交互
  • 灵感通常来自生物系统  蚁群、鸟群、兽群 、粒子群

4.1 集群智能的特点

  •  分布式:无中心控制
  •  随机性:非确定性
  •  自适应:个体根据环境进行策略调整
  •  正反馈:个体好的尝试会对个体产生正反馈
  •  自发涌现:会在群体层面涌现出一种智能

4.2 集群智能代表性方法

  • 蚁群优化算法
  • 粒子群优化算法

5.集群智能-蚁群优化算法(ACO: Ant Colony Optimization ),适用于离散问题最优解

我们思考一个问题,蚂蚁寻找食物的过程。当两个路径等长的时候,让足够多的蚂蚁去自主选择,可能选择走两条路径的蚂蚁数目是比较接近的。如果上面的路径短,再重复试验,上面的蚂蚁会明显多余下面路径上的蚂蚁,我们说这个是一个集群智能中的蚁群问题。

群体智能之集群智能_第1张图片

假设路径不等长的情况下,我们得到下面这个图,上面路径为下面路径的一半:

群体智能之集群智能_第2张图片

  • 蚂蚁从A点出发,速度相同,食物在D点,可能随机选择路线ABD或ACD。上面的路径长度是下面路径长度的一半
  • 假设初始时每条路线分配一只蚂蚁,每个时间单位行走一步,上图为经过9个时间单位时的情形
  • 走ABD的蚂蚁到达终点,而走ACD的蚂蚁刚好走到C点,为一半路程

群体智能之集群智能_第3张图片

经过18个时间单位时的情形: 走ABD的蚂蚁到达终点后得到食物又返回了起点A,而走ACD的蚂蚁刚 好走到D点


5.1 蚁群寻食过程分析

  1.  假设蚂蚁每经过一处所留下的信息素为一个单位,则经过36个时间单 位后,所有开始一起出发的蚂蚁都经过不同路径从D点取得了食物, 此时ABD的路线往返了2趟,每一处的信息素为4个单位,而 ACD的路 线往返了一趟,每一处的信息素为2个单位,其比值为2:1
  2.  寻找食物的过程继续进行,则按信息素的指导,蚁群在ABD路线上增 派一只蚂蚁(共2只),而ACD路线上仍然为一只蚂蚁。再经过36个 时间单位后,两条线路上的信息素单位积累为12和4,比值为3:1
  3.  若按以上规则继续,蚁群在ABD路线上再增派一只蚂蚁(共3只), 而ACD路线上仍然为一只蚂蚁。再经过36个时间单位后,两条线路上 的信息素单位积累为24和6,比值为4:1
  4.  若继续进行,则按信息素的指导,最终所有的蚂蚁会放弃ACD路线, 而都选择ABD路线。
     

5.2  ACO: Ant Colony Optimization 

  •  一种解空间搜索方法
  •  适用于在图上寻找最优路径
     

群体智能之集群智能_第4张图片

5.3 形式化

  •  每个蚂蚁对应一个计算智能体
  •  蚂蚁依概率选择候选位置进行移动
  •  在经过的路径上留下“信息素”(Pheromone)
  •  “信息素”随时间挥发
  •  “信息素”浓度大的路径在后续的选择中会以更高 的概率被选取

5.4 旅行商问题的蚁群优化求解

群体智能之集群智能_第5张图片

群体智能之集群智能_第6张图片

群体智能之集群智能_第7张图片

群体智能之集群智能_第8张图片

整个算法实现图示:

群体智能之集群智能_第9张图片

群体智能之集群智能_第10张图片

群体智能之集群智能_第11张图片

群体智能之集群智能_第12张图片

群体智能之集群智能_第13张图片

群体智能之集群智能_第14张图片

蚁群大小 : 一般情况下,蚁群中的蚂蚁个数不超过TSP图中节点的个数
终止条件:(1)设定迭代轮数 (2) 设定最优解连续保持不变的迭代轮数
 思想: (1)局部随机搜索+自增强 (2) 鲁迅:“世界本无路,走的人多了也就有了路”
缺点 :(1) 收敛速度慢 (2) 易于陷入局部最优 (3) 对于解空间为连续的优化问题不适用

6.粒子群优化算法 PSO: Particle Swarm Optimization 求解连续解空间的优化问题

是一种随机优化方法 ,通过粒子群在解空间中进行搜索,寻找最优解(适应度 最大的解),在整个集合上随机选取几个点,值小的点会看到值大的点,如果要是求最大值,值比较小的点就会向值大的点移动(向优秀的同学学习)。

群体智能之集群智能_第15张图片

6.1 粒子群优化算法构成要素

 群体智能之集群智能_第16张图片

6.2 粒子群优化算法算法过程描述 

群体智能之集群智能_第17张图片

6.3 粒子群优化算法粒子位置和速度更新示例

群体智能之集群智能_第18张图片

6.4 粒子群优化算法粒子速度更新公式解读

群体智能之集群智能_第19张图片

群体智能之集群智能_第20张图片

6.5 粒子群优化算法算法终止条件 

  •  迭代的轮数
  •  最佳位置连续未更新的轮数
  •  适应度函数的值到达预期要求

6.6 粒子群优化算法速度更新参数分析 

群体智能之集群智能_第21张图片

6.7 粒子群优化算法改进

群体智能之集群智能_第22张图片

6.8 粒子群优化算法和遗传算法相比 

  •  遗传算法强调“适者生存”,不好的个体在竞争中被淘 汰;PSO强调“协同合作”,不好的个体通过学习向 好的方向转变。
  •  遗传算法中最好的个体通过产生更多的后代来传播基因; PSO中的最好个体通过吸引其它个体向它靠近来施加 影响。
  •  遗传算法的选择概率只与上一代群体相关,而与历史无 关,群体的信息变化过程是一个Markov链过程;而 PSO中的个体除了有位置和速度外,还有着过去的历 史信息(pBest、gBest)

6.9粒子群优化算法优缺点

优点:

  •  易于实现;
  •  可调参数较少;
  •  所需种群或微粒群规模较小;
  •  计算效率高,收敛速度快

缺点:

  •  和其它演化计算算法类似,不保证收敛到全局最优解

6.10 粒子群优化算法小结

  •  一种随机优化算法
  •  适用于求解连续解空间的优化问题

7.课后作业

代码参考:https://github.com/guofei9987/scikit-opt

群体智能之集群智能_第23张图片

 

你可能感兴趣的:(高级人工智能(国科大课程))