随机重启爬山法思考

随便写点,也不一定对。
首先是关于什么时候应该重启,大家的说法很多:

第一种是同学说的:
认为“成功”时重启,比如八皇后问题里面,我们显式的知道问题的全局最优解,但是爬山法显然也适用于非显式的问题。这个时候不太好解释随机重启爬山法怎么进行工作。比如非凹损失函数的一些拟合类问题。所以我觉得这个好像不太可行。

第二种是我老师说的:
设定一个搜索步数阈值,超过阈值直接开新的初始状态搜索。我觉得不合理,因为我们不能保证问题卡在局部最优点的步数会大于全局最优点的步数,事实上我们可以认为局部最优大部分情况比全局最优好找,毕竟全局最优本身就是一个特殊的局部最优。比如八皇后问题,卡住的均值是3,成功的均值是4.所以我觉得这个阈值的说法不成立。
后来老师说,那就人工给个值吧,搜到一个解,继续开启新的搜索,直到搜索次数到达给定的阈值。我觉得这个也不对,因为我们知道,随机重启爬山法的完备性很接近1,这个阈值该怎么给,会很大程度的影响完备性。而且也没有随机性了。(好像还是有一点,每次开始搜索的时候初始是随机的)我觉得这种说法不太准确。

第三种是我随便想的:
给定一个概率值,每次搜索结束的时候,通过这个概率值,随机的进行一次重启搜索。这样完备性应该很接近1,但是我不知道该怎么证明,如果有一天看到了材料再来想想怎么解决。

随机重启爬山法的重启期望次数是 1 P \frac{1}{P} P1次,失败需要的步数是 1 − P P \frac{1-P}{P} P1P次,至于为什么。假设有 p x = 1 , 那 么 x ( 重 启 的 期 望 次 数 ) = 1 / p , 同 时 失 败 重 启 需 要 的 步 数 是 累 次 失 败 的 期 望 步 数 和 其 概 率 的 乘 积 。 也 就 是 次 数 ∗ 每 次 失 败 的 步 数 ∗ 概 率 = 1 / P ∗ 3 ∗ ( 1 − P ) px=1,那么x(重启的期望次数)=1/p,同时失败重启需要的步数是累次失败的期望步数和其概率的乘积。也就是次数*每次失败的步数*概率=1/P*3*(1-P) px=1,x()=1/p,=1/P3(1P)

你可能感兴趣的:(随机重启爬山法思考)