021 模拟退火算法学习（一）-----求解最短连通路径

1.模拟退火算法概述

• 模拟退火是一种通用概率算法，用来在固定时间内寻求在一个大的搜寻空间内找到的最优解。模拟退火是S. Kirkpatrick, C. D. Gelatt和M. P. Vecchi在1983年所发明。而V. Černý在1985年也独立发明此算法。
• 模拟退火来自冶金学的专有名词退火。退火是将材料加热后再经特定速率冷却，目的是增大晶粒的体积，并且减少晶格中的缺陷。材料中的原子原来会停留在使内能有局部最小值的位置，加热使能量变大，原子会离开原来位置，而随机在其他位置中移动。退火冷却时速度较慢，使得原子有较多可能可以找到内能比原先更低的位置。
• 模拟退火的原理也和金属退火的原理近似：我们将热力学的理论套用到统计学上，将搜寻空间内每一点想像成空气内的分子；分子的能量，就是它本身的动能；而搜寻空间内的每一点，也像空气分子一样带有“能量”，以表示该点对命题的合适程度。算法先以搜寻空间内一个任意点作起始：每一步先选择一个“邻居”，然后再计算从现有位置到达“邻居”的概率。
  可以证明，模拟退火算法所得解依概率收敛到全局最优解。
• 初始化
  生成一个可行的解作为当前解输入迭代过程，并定义一个足够大的数值作为初始温度。
• 迭代过程
  迭代过程是模拟退火算法的核心步骤，分为新解的产生和接受新解两部分：
  由一个产生函数从当前解产生一个位于解空间的新解；为便于后续的计算和接受，减少算法耗时，通常选择由当前新解经过简单地变换即可产生新解的方法，如对构成新解的全部或部分元素进行置换、互换等，注意到产生新解的变换方法决定了当前新解的邻域结构，因而对冷却进度表的选取有一定的影响。
  计算与新解所对应的目标函数差。因为目标函数差仅由变换部分产生，所以目标函数差的计算最好按增量计算。事实表明，对大多数应用而言，这是计算目标函数差的最快方法。
  判断新解是否被接受，判断的依据是一个接受准则，最常用的接受准则是Metropolis准则：若Δt′<0则接受S′作为新的当前解S，否则以概率exp（-Δt′/T）接受S′作为新的当前解S。
  当新解被确定接受时，用新解代替当前解，这只需将当前解中对应于产生新解时的变换部分予以实现，同时修正目标函数值即可。此时，当前解实现了一次迭代。可在此基础上开始下一轮试验。而当新解被判定为舍弃时，则在原当前解的基础上继续下一轮试验。
  模拟退火算法与初始值无关，算法求得的解与初始解状态S（是算法迭代的起点）无关；模拟退火算法具有渐近收敛性，已在理论上被证明是一种以概率1收敛于全局最优解的全局优化算法；模拟退火算法具有并行性。
• 停止准则
  迭代过程的停止准则：温度T降至某最低值时，完成给定数量迭代中无法接受新解，停止迭代，接受当前寻找的最优解为最终解。
• 退火方案
  在某个温度状态T下，当一定数量的迭代操作完成后，降低温度T，在新的温度状态下执行下一个批次的迭代操作。

2.一个matlab例子

• 在以下代码中随机生成一些点，通过模拟退火算法求解一条连接所有点的最短路径。

% 本程序的功能，从N个点中找出一条连接所有节点的最短路径，不要求首尾连通

clc, clear
% 设置处理点的数量
N = 500;
M = zeros(N, 2);
% 产生100个位置不同的点
M(:, 1) = randperm(N);
M(:, 2) = randperm(N);
% 初始化距离矩阵
d = zeros(N);
% 统计没两个点之间的距离
for i=1:N-1
    for j=i+1:N
        d(i, j) = sqrt((M(i,1)-M(j,1))*(M(i,1)-M(j,1)) + (M(i,2)-M(j,2))*(M(i,2)-M(j,2)));
    end
end
d = d + d';
% 初始化路径及路线长度
path = zeros(1, N);
length = inf;
% 先确定一个比较好的初始解
for i=1:1000
    path0 = randperm(N);
    temp = 0;
    for j=1:N-1
        temp = temp + d(path0(j) , path0(j+1));
    end
    if temp < length
       length = temp;
       path = path0;
    end
end
% 设置模拟退火的参数
e = 0.1^30;
L = 20000;
at = 0.999;
T = 1;
for k = 1:L
    % 产生新解
    c = floor(rand(1, 2)*(N-2)) + 2;
    c = sort(c);
    c1 = c(1);
    c2 = c(2);
    change = d(path(c1-1), path(c2)) + d(path(c1), path(c2+1)) - d(path(c1-1), path(c1)) - d(path(c2), path(c2+1));
    if change < 0
        path = [path(1:c1-1), path(c2:-1:c1), path(c2+1: N)];
        length = length + change;
    elseif exp(-change/T) >= rand% 接受条件
        path = [path(1:c1-1), path(c2:-1:c1), path(c2+1: N)];
        length = length + change;
    end
    T = T * at;
    if T < e
        break;
    end
end
plot(M(path, 1), M(path, 2), '-*');
hold on

结果

• 可以看到，在应用模拟算法前后查看路径长度，发现路径均优化了一个数量级！
• 期待今后能对模拟退火算法有更深入的学习！！

3.参考

• 维基百科 ：模拟退火
• 《数学建模算法与应用》司守奎。孙玺菁

2016-3-16初次接触模拟退火算法，记之。