为什么E-GREEDY算法中e越小,性能会更好

为什么E-GREEDY算法中e越小,性能会更好

How to understand the following sentences 为什么E-GREEDY算法中e越小,性能会更好_第1张图片

第一句,讲的是e-贪心方法最终的性能更好的原因在于它持续地探索使得找到最优动作的概率提高了(纯粹的贪心只有1/3的概率找到最优动作)。

第二句,当e=0.1时,该方法探索的概率更高,因而能更早地找到最优动作,但它选取该动作的概率不超过91%(因为有10%概率是继续探索,而不是利用该最优动作)。(空有宝藏,不会利用)

第三句,当e=0.01时,尽管方法的性能提升的较慢,但最终的性能要比e=0.1要好(平均收入和最优动作选取的概率两方面)。
我认为,更小的探索概率即更大的利用概率,会使得探索得到的更有的动作更有可能在下一次被利用到,满足了拥有宝藏的同时,有效的使用该宝藏,以此更上一层楼。

最后一句,有可能的话,随着时间的迁移,逐步减小e的值,尽可能地利用e的高值和低值的优点。(高值探索的快,前期无敌,低值会利用,后期无敌)

附上RFAI书上的三种动作价值方法(纯贪心、e=0.1、e=0.01) 性能指标的图。

为什么E-GREEDY算法中e越小,性能会更好_第2张图片

你可能感兴趣的:(强化学习,强化学习)