以往的优化算法都是通过单一的节点来寻找最优值,比如对于爬山问题,我们总是预估一个人进行爬山,但是一个个体的力量是很小的。比如一个人很容易走到一个局部最优解,再也出不来;另外比如阿尔卑斯山和珠穆朗玛峰,如果一个人走到了阿尔卑斯山,即便他可以通过其他方式再到达珠穆朗玛峰,很显然,横跨欧亚大陆的距离太长了,浪费了不少时间。所以,如果是群体算法,一群人爬山,我可以让一部人去欧洲爬山,一部分人去亚洲,一部分人去非洲,然后,这些人能够互相交流,这样,算法不仅仅比较了自己的经验值,还利用了群体的经验值。但是,有一个问题,假如有一个人先走到了阿尔卑斯山,其他人都在平地,基于群体智能,是不是每个人不用再爬了,直接到阿尔卑斯山寻找?并不是,这里的算法使用了群体智能和个体智能的综合,即每个人并不会直接过来,而是会判断自己当前的位置和群体最优解的位置权重,如果相差过大,即便回到阿尔卑斯山,也会生成很大的步长,下一次选方向时,仍会直接跨过欧洲到达亚洲,即即便都回到了阿尔卑斯山,但是步长相差很大的那些人还是能够再跨回中国寻找珠穆朗玛峰。
描述
群体智能如遗传算法,粒子群算法、蚁群算法,都是使用的群体来进行决策,而不是单个个体。
算法原理
以往我们的算法是这样更新最新值得:x=x-w*v
其中x是输入值,v是步长,w是步长权重(默认不改变),更新条件为当前值小于最小值时,这时,x的改变只和个体有关。
而对于粒子群算法,有两处不同:
V = w * V + c1 * r1 * (pbest - X) + c2 * r2 * (gbest - X)
,更新输入值xX = X + V
。其中w为惯性权重,c1\c2分别为个体步长权重和群体补偿权重,即用来调节比重占比,防止一个音素影响太大,r1\r2为[0-1]之间的随机值,pbest\gbest分别为个体最优值和群体最优值。PSO流程(cd相当于条件1,e相当于条件2)
a). 初始化一群微粒(群体规模为m),包括随机的位置和速度;
b). 评价每个微粒的适应度;
c). 对每个微粒,将它的适应值和它经历过的最好位置pbest的作比较,如果较好,则将其作为当前的最好位置pbest;
d). 对每个微粒,将它的适应值和全局所经历最好位置gbest的作比较,如果较好,则重新设置gbest的索引号;
e). 根据方程(1)变化微粒的速度和位置;
f). 如未达到结束条件(通常为足够好的适应值或达到一个预设最大代数Gmax),回到b)。
import numpy as np
import random
import matplotlib.pyplot as plt
# ----------------------PSO参数设置---------------------------------
class PSO():
def __init__(self, pN, dim, max_iter):
self.w = 0.8
self.c1 = 2
self.c2 = 2
self.r1 = 0.6
self.r2 = 0.3
self.pN = pN # 粒子数量
self.dim = dim # 搜索维度
self.max_iter = max_iter # 迭代次数
self.X = np.zeros((self.pN, self.dim)) # 所有粒子的位置和速度
self.V = np.zeros((self.pN, self.dim))
self.pbest = np.zeros((self.pN, self.dim)) # 个体经历的最佳位置和全局最佳位置
self.gbest = np.zeros((1, self.dim))
self.p_fit = np.zeros(self.pN) # 每个个体的历史最佳适应值
self.fit = 1e10 # 全局最佳适应值
# ---------------------目标函数Sphere函数-----------------------------
# 这里用于求函数最优解
def function(self, X):
# return X**2-4*X+3+7*X**4+X**3-X**5
return X ** 2 - 4 * X + 3
# ---------------------初始化种群----------------------------------
def init_Population(self):
for i in range(self.pN):
for j in range(self.dim):
self.X[i][j] = random.uniform(0, 1)
self.V[i][j] = random.uniform(0, 1)
self.pbest[i] = self.X[i]
tmp = self.function(self.X[i])
self.p_fit[i] = tmp
if tmp < self.fit:
self.fit = tmp
self.gbest = self.X[i]
# ----------------------更新粒子位置----------------------------------
def iterator(self):
fitness = []
for t in range(self.max_iter):
# 1、更新个体位置和群体位置
for i in range(self.pN): # 更新gbest\pbest
temp = self.function(self.X[i])
if temp < self.p_fit[i]: # 更新个体最优
self.p_fit[i] = temp
self.pbest[i] = self.X[i]
if self.p_fit[i] < self.fit: # 更新全局最优
self.gbest = self.X[i]
self.fit = self.p_fit[i]
# 2、更新步长\速度
for i in range(self.pN):
self.V[i] = self.w * self.V[i] + self.c1 * self.r1 * (self.pbest[i] - self.X[i]) + \
self.c2 * self.r2 * (self.gbest - self.X[i])
self.X[i] = self.X[i] + self.V[i]
fitness.append(self.fit)
print(self.X[0], end=" ")
print(self.fit) # 输出最优值
return fitness
# ----------------------程序执行-----------------------
my_pso = PSO(pN=30, dim=1, max_iter=100)
my_pso.init_Population()
fitness = my_pso.iterator()
# -------------------画图--------------------
plt.figure(1)
plt.title("Figure1")
plt.xlabel("iterators", size=14)
plt.ylabel("fitness", size=14)
t = np.array([t for t in range(0, 100)])
fitness = np.array(fitness)
plt.plot(t, fitness, color='b', linewidth=3)
plt.show()
参考文章:
http://www.omegaxyz.com/2018/01/12/python_pso/
http://chuansong.me/n/1497455951515