模拟退火算法，经典退火算法

模拟退火算法，经典退火算法

  经典退火算法是一种加入概率的贪心算法。通常搜索极值的最简单的方法就是将某一点的值与附近的点的值比较，如果我们找到一点它的值比附近的点的值都大或者都小的话那么我们就找到了局部极值。但是这样搜索的话有可能不能得到整体的极值点。经典退火算法对上述过程进行了修正，它以一定的概率使得系统在处于局部极值时可以移动到附近一个不是局部极值的点。为了系统最后能够得到稳定解，随着时间推移，这个概率必须逐渐趋近于0。
  这个过程与物理中的玻尔兹曼分布类似。在玻尔兹曼分布中，p(\Delta E) \sim e^{-\Delta E/kT}，其中\Delta E是两个不同状态的能量差，这里能量对应各点的函数值。如果我们渐渐降低温度，那么我们看到只要\Delta E \neq 0那么概率就会趋向于0。上述降低温度的过程在人类制造金属的历史上称为“退火”。
  参考资料：
https://blog.csdn.net/acdreamers/article/details/10019849"

算法步骤

  有四个步骤：
  1）第一步是由一个产生函数从当前解产生一个位于解空间的新解；为便于后续的计算和接受，减少算法耗时，通常选择由当前新解经过简单地变换即可产生新解的方法，如对构成新解的全部或部分元素进行置换、互换等，注意到产生新解的变换方法决定了当前新解的邻域结构，因而对冷却进度表的选取有一定的影响。

  2）第二步是计算与新解所对应的目标函数差。因为目标函数差仅由变换部分产生，所以目标函数差的计算最好按增量计算。事实表明，对大多数应用而言，这是计算目标函数差的最快方法。

  3）第三步是判断新解是否被接受,判断的依据是一个接受准则，最常用的接受准则是Metropolis接受准则： 若Δt′<0则接受S′作为新的当前解S,否则以概率exp(-Δt′/T)接受S′作为新的当前解S。

  4）第四步是当新解被确定接受时，用新解代替当前解，这只需将当前解中对应于产生新解时的变换部分予以实现，同时修正目标函数值即可。此时，当前解实现了一次迭代。可在此基础上开始下一轮试验。而当新解被判定为舍弃时，则在原当前解的基础上继续下一轮试验。

  另外，有一种对经典退火算法的改进，即量子退火。