李宏毅深度强化学习笔记(五)Q-learning(Continuous Action)

参考jessie_weiqing博客:https://blog.csdn.net/cindy_1102/article/details/87907470
李宏毅深度强化学习课程 https://www.bilibili.com/video/av24724071

李宏毅深度强化学习笔记(五)Q-learning(Continuous Action)

连续行动下的 Q-Learning

连续行动:
在某些情况下,action是一个连续向量(比如驾驶类游戏,需要决定一个连续的角度)
在这种情况下,Q learning 并不是一个用来寻找最佳action的好方法

  • 解决方式一:
    采样一系列行动,看哪个行动会返回最大的Q值
  • 解决方式二:
    使用梯度上升来解决这个优化问题(具有较高的计算成本)
  • 解决方式三:
    设计一个网络来使得这个优化过程更简单
    李宏毅深度强化学习笔记(五)Q-learning(Continuous Action)_第1张图片

这里 ∑ 和 μ 是高斯分布的方差和均值,因此,该矩阵 ∑一定是正定的。要让Q值较高,意味着要使得 ( a − μ ) 2 (a-\mu)^2 (aμ)2的值更小,也就是说 a=μ \muμ.

你可能感兴趣的:(强化学习)