论文理解【RL经典】—— 【SQL】Reinforcement Learning with Deep Energy-Based Policies

• 标题：Reinforcement Learning with Deep Energy-Based Policies
• 文章链接：Reinforcement Learning with Deep Energy-Based Policies
• 代码：rail-berkeley/softlearning (原作者实现）
• 作者 Blog：Learning Diverse Skills via Maximum Entropy Deep Reinforcement Learning
• 发表：ICML 2017
• 领域：强化学习经典（Model-free + 最大熵思想），这篇是 SAC 的前身所以专门介绍一下

---

1. 思想

1.1 随机性策略

• 传统 RL 方法直接以最大化累计折扣回报作为优化目标，理想情况下最后会收敛到一个确定性策略，因为无论什么环境总会有一个最优解，传统 RL 就是想直接向它靠近。虽然传统 RL 方法中也含有随机性成分，但是引入随机性的主要目的是增加探索，扩大最后收敛到的稳定策略被选取的空间，比如

  1. 为了加强探索在策略中增加随机成分，如 $ϵ$-greedy
  2. 对策略网络输出增加一个噪声，得 Q 函数估计更平滑，如 TD3
  3. 直接把策略建模为一个概率分布，策略网络的训练变成优化分布的参数，比如 “随机高斯策略方法” 中策略网络是一个正态分布（这个其实有点随机性策略的感觉了，但是人为指定策略分布使其受到很大限制）

• 作者认为有些情况下训练随机性策略更有优势，比如

  1. 针对 “多模态目标multimodal objective” 的任务获得最优随机策略。所谓多模态目标就是 agent 想达到的目标有多个，比如打台球打进哪个袋口都可以，传统 RL 可能最后收敛到只会瞄准一个袋口。下图是本文作者的实验，面对四个等价目标，随机性策略下 agent 以接近相等的概率去向各个目标
     

  2. 提高策略面对未知动态的鲁棒性。比如下面这个走迷宫任务
     
     有两条路线能到达目标，传统 RL 最后只会收敛到上侧较短的路线，地图下侧由于后期访问少，相应位置的价值网络和策略网络（如果有的话）可能都还是欠拟合状态；随机策略则会同时优化两条路径，有时走上面有时走下面，虽然这时宏观上看 agent 的收益有所损失，但环境变化（上方道路被堵住）时可以迅速地 fine-turn 到下面的路线上

  3. 通过预训练迅速习得类似技能：这个其实和上面第 2 点一个意思，我们可以先在左图预训练随机策略，然后直接拿到某条路被挡住的任务环境中继续训练，策略会迅速 fine-turn 到可行的更好路线上

  在最优控制和概率推理二者结合的场景中，随机性策略表现更好，本文之前已经有了从分别从两个角度出发的研究

• 过去从最优控制（RL别名）角度出发的研究表明，一个好的随机策略要同时最大化累计折扣回报和策略的熵。直观上看，这时我们不去找那个单一的回报最高的策略，而是要找出一系列回报比较高的策略，并最大化它们的混乱程度，通过这种方式，agent 最后可以学会 “解决问题” 的所有方式，尽管某些方式的成本比较高，但是 agent 也知道可以这么做，会以较小概率按次优方案行动

1.2 用能量模型对策略建模

• 任务的多模态性质体现在价值函数中，最终学到的 $Q^{\ast }(s_t,a_t|s_t)$ 会是一个多峰函数。传统 RL 策略建模为如下 $\max$ 操作
  $$\pi (a_t|s_t)=\underset{a}{\mathrm{argmax}}{Q}^{\ast }(s_t,a_t)$$ 为了增强探索，有时对策略输出加一个高斯噪声 $ϵ$，这样得到的近似确定性策略如下面左图所示
  

  显然，一个理想的，适用于多模态任务的策略应该像右图那样，能够体现 $Q^{\ast }(s_t,a_t|s_t)$ 的多峰性质

• 作者这里选择了能表示多模态目标的最一般的分布类，把策略建模成一个能量模型(Energy-Based Models, EMB)

  能量模型将样本 $X$ 和标签 $Y$ 的匹配度建模为能量 $\mathcal{E}(X,Y)$，能量越小代表样本和标记越匹配，模型对样本 $X$ 的预测标记 $Y$ 是一个分布的形式
  $$\mathrm{P}(\mathrm{Y}|\mathrm{X})=\frac{{\mathrm{e}}^{-\beta \mathcal{E}(\mathrm{Y},\mathrm{X})}}{{\int }_{y\in Y}{\mathrm{e}}^{-\beta \mathcal{E}(\mathrm{Y},\mathrm{X})}}$$ 其中逆温度系数 $\beta$ 是个常数不重要，分母的配分系数。能量模型是从玻尔兹曼分布推导出的，详细说明请参考：能量模型(Energy-Based Models, EMB)

  对应到强化学习的场景下，$s_t$ 看做样本，$a_t$ 看做标记，策略为
  $$\pi (a_t|s_t)\propto \exp (-\mathcal{E}(s_t,a_t))$$ 只需把 $(s_t,a_t)$ pari 的能量 $\mathcal{E}(s_t,a_t)$ 设计为基于负的 $Q^{\ast }$ 价值放缩后给出即可，这时价值越大的二元组对应的能量越低，匹配度越高，可以得到上面右侧图那种适合于多模态任务的随机性策略

2. 本文方法

2.1 最大熵强化学习

• 考虑如何实现 1.1 节最后的 “同时最大化累计折扣回报和策略的熵”，先看传统 RL 的优化目标
  $$\begin{array}{rl}{\pi }_{\text{std}}^{\ast }& =\underset{\pi }{\mathrm{argmax}}\frac{1}{1-\gamma }{\mathbb{E}}_{(s,a)\sim {\rho }_{\pi }}[r(s,a)]\\ & =\underset{\pi }{\mathrm{argmax}}{\mathbb{E}}_{\tau \sim \pi }[\sum _{t=0}^{\infty }{\gamma }^{t}r(s_t,a_t)]\end{array}$$ 作者基于传统 model-free RL 框架，通过修改 reward 来传递 “最大化熵” 的目标，具体而言就是把策略的熵作为附加 reward，于是优化目标变为
  $$\begin{array}{rl}{\pi }_{\text{MaxEnt}}^{\ast }& =\underset{\pi }{\mathrm{argmax}}\frac{1}{1-\gamma }{\mathbb{E}}_{(s,a)\sim {\rho }_{\pi }}[r(s,a)+\alpha \mathcal{H}(\pi (\cdot |s)]\\ & =\underset{\pi }{\mathrm{argmax}}{\mathbb{E}}_{\tau \sim \pi }[\sum _{t=0}^{\infty }{\gamma }^t(r(s_t,a_t)+\alpha \mathcal{H}(\pi (\cdot |s_t))]\end{array}$$ 其中 ${\rho }_{\pi }$ 是策略 $\pi$ 诱导的 $(s,a)$ 二元组分布，$\alpha$ 是一个平衡最大化回报和最大化熵的系数，可以通过对真实 reward 乘以 $\frac{1}{\alpha }$ 将其隐藏掉

2.2 策略建模

• 前面 1.2 节已经说明过作者的策略建模思想，具体而言，作者将 $(s,a)$ 二元组的能量设计为
  $$\mathcal{E}(s_t,a_t)=-\frac{1}{\alpha }{Q}_{\text{soft}}(s_t,a_t)$$ 于是策略要满足
  $${\pi }_{\text{MaxEnt}}(a_t|s_t)\propto \exp \left(\frac{1}{\alpha }{Q}_{\text{soft}}(s_t,a_t)\right)$$ 这里 $Q_{\text{soft}}(s_t,a_t)$ 就是加入 2.1 节是熵目标后的 $Q$ 价值函数。这里相当于把原先用 $\mathrm{argmax}$ 选择动作变成了通过 $\text{softmax}$ 选取动作，因而最终能得到随机性策略
• 需要注意的是，只靠这个并不足够，在传统 Q-Learning 中改用 $\text{softmax}$ 选取动作，虽然能让策略体现 $Q$ 函数的多峰特征，但因为优化过程中没有明确地增大策略熵，仍然可能收敛到近似确定性策略，因此单独使用能量策略模型并不能得到良好的随机性策略，必须和考虑最大化策略熵的优化目标结合才行

2.3 软价值函数（Soft Value Functions）

• 按照 2.1 节的思路，最大熵 RL 的价值函数和传统 RL 无异，只是在 reward 中增加一个策略熵，于是可以定义
  $$\begin{array}{rl}& Q_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})\triangleq r_0+{\mathbb{E}}_{\tau \sim \pi ,{\mathbf{s}}_0=\mathbf{s},{\mathbf{a}}_0=\mathbf{a}}\left[\sum _{t=1}^{\infty }{\gamma }^t(r_t+\alpha \mathcal{H}(\pi \left(\cdot |{\mathbf{s}}_t)\right))\right]\end{array}$$
• 类似传统 RL，将 $Q_{\mathrm{soft}}(s,a)$ 和 $V_{\mathrm{soft}}(s)$ 理解为 “从s处执行a出发的带熵奖励的累计折扣收益期望” 和 “从s处出发的的带熵奖励的累计折扣收益期望”，两个价值函数间的关系满足
  $$\begin{array}{rl}{V}_{\mathrm{soft}}^{\pi }(s)& ={\mathbb{E}}_{a\sim \pi (\cdot |s)}[Q_{\mathrm{soft}}^{\pi }(s,a)]+\alpha \mathcal{H}(\pi (\cdot |s))\\ Q_{\mathrm{soft}}^{\pi }(s,a)& =r(s,a)+\gamma {\mathbb{E}}_{s^{\prime }\sim p_{\mathrm{s}}}\left[V_{\mathrm{soft}}^{\pi }\left(s^{\prime }\right)\right]\end{array}$$ 注意第一行 $Q_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})$ 中没有计算在 $s$ 选出 $a$ 这一步的熵，把它加上。这两个相互代入就能得到最大熵 RL 语境下类似 Bellman equation 的恒等迭代关系，不妨称其为 soft Bellman equation

2.3.1 策略改进定理

• 如同 2.2 节所述，现在我们用 $\text{softmax}$ 替代了 $\mathrm{argmax}$ 选取动作来 update 策略，这样的 update 合理吗？或者说这一步是不是一个合理的 policy improvement 过程？作者在这里给出如下定理说明确实合理
  
• 下面给出带权重系数 $\alpha$ 的详细证明，给定当前策略 $\pi$ 对应的 soft Q value 为 $Q_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})$，如下 update 策略
  $$\tilde{\pi }(a|s)\propto \exp (\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},a)),\forall s$$
  1. 首先注意到，按当前策略 $\pi$ 行动时，有
     $$\begin{array}{r}\mathcal{H}(\pi (\cdot |\mathbf{s}))+{\mathbb{E}}_{\mathbf{a}\sim \pi }\left[\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})\right]=-{\mathrm{D}}_{\mathrm{KL}}(\pi (\cdot \mid \mathbf{s})\Vert \tilde{\pi }(\cdot \mid \mathbf{s}))+\log \int \exp \left(\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})\right)d\mathbf{a}\end{array}\text{\hspace{1em}(1)}$$

     要证明这个等式，可以从分解 $-{\mathrm{D}}_{\mathrm{KL}}(\pi (\cdot \mid \mathbf{s})\Vert \tilde{\pi }(\cdot \mid \mathbf{s}))$ 入手
     $$\begin{array}{rl}-{\mathrm{D}}_{\mathrm{KL}}(\pi (\cdot \mid \mathbf{s})\Vert \tilde{\pi }(\cdot \mid \mathbf{s}))& ={\int }_a\pi (a|s)\log \frac{\tilde{\pi }(a|s)}{\pi (a|s)}da\\ & ={\int }_a\pi (a|s)\log \tilde{\pi }(a|s)da-{\int }_a\pi (a|s)\log \pi (a|s)da\\ & ={\int }_a\pi (a|s)\log \tilde{\pi }(a|s)da+\mathcal{H}(\pi (a|\mathbf{s}))\\ & ={\int }_a\pi (a|s)\log \frac{\exp (\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},a))}{{\int }_a\exp (\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},a))da}da+\mathcal{H}(\pi (a|\mathbf{s}))\\ & ={\int }_a\pi (a|s)\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},a)da-{\int }_a\pi (\log {\int }_a\exp (\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},a))da)da+\mathcal{H}(\pi (a|\mathbf{s}))\\ & ={\mathbb{E}}_{\mathbf{a}\sim \pi }\left[\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})\right]-\log {\int }_a\exp (\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},a))da+\mathcal{H}(\pi (a|\mathbf{s}))\end{array}$$

  2. 利用等式 (1) 可得，维持当前价值估计 $Q_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})$ 但是按新策略 $\tilde{\pi }$ 行动时，有
     $$\begin{array}{rl}\mathcal{H}(\tilde{\pi }(\cdot |\mathbf{s}))+{\mathbb{E}}_{\mathbf{a}\sim \tilde{\pi }}\left[\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})\right]& =-{\mathrm{D}}_{\mathrm{KL}}(\tilde{\pi }(\cdot \mid \mathbf{s})\Vert \tilde{\pi }(\cdot \mid \mathbf{s}))+\log \int \exp \left(\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})\right)d\mathbf{a}\\ & =0+\log \int \exp \left(\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})\right)d\mathbf{a}\end{array}\text{\hspace{1em}(2)}$$ 由于 ${\mathrm{D}}_{\mathrm{KL}}(\tilde{\pi }(\cdot \mid \mathbf{s})\Vert \tilde{\pi }(\cdot \mid \mathbf{s}))\ge 0$ 当且仅当 $\pi =\tilde{\pi }$ 时等号成立，当 $\pi \ne \tilde{\pi }$ 时（即收敛之前），有
     $$\mathcal{H}(\pi (\cdot \mid \mathbf{s}))+{\mathbb{E}}_{\mathbf{a}\sim \pi }\left[\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})\right]\le \mathcal{H}(\tilde{\pi }(\cdot \mid \mathbf{s}))+{\mathbb{E}}_{\mathbf{a}\sim \tilde{\pi }}\left[\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})\right]$$ 两边同时乘上 $\alpha$ 得到两个策略下 soft V value 的关系为
     $$\alpha \mathcal{H}(\pi (\cdot \mid \mathbf{s}))+{\mathbb{E}}_{\mathbf{a}\sim \pi }\left[Q_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})\right]\le \alpha \mathcal{H}(\tilde{\pi }(\cdot \mid \mathbf{s}))+{\mathbb{E}}_{\mathbf{a}\sim \tilde{\pi }}\left[Q_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})\right]\text{\hspace{1em}(3)}$$
  3. 反复应用等式 (3) 展开 $Q_{\mathrm{soft}}^{\pi }(\mathbf{s},a)$
     $$\begin{array}{rl}{Q}_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})& ={\mathbb{E}}_{{\mathbf{s}}_1}[r_0+\gamma \left(\alpha \mathcal{H}\left(\pi \left(\cdot \mid {\mathbf{s}}_1\right)\right)+{\mathbb{E}}_{{\mathbf{a}}_1\sim \pi }\left[Q_{\mathrm{soft}}^{\pi }\left({\mathbf{s}}_1,{\mathbf{a}}_1\right)\right]\right)]\\ & \le {\mathbb{E}}_{{\mathbf{s}}_1}[r_0+\gamma \left(\alpha \mathcal{H}\left(\tilde{\pi }\left(\cdot \mid {\mathbf{s}}_1\right)\right)+{\mathbb{E}}_{{\mathbf{a}}_1\sim \tilde{\pi }}\left[Q_{{\mathrm{soft}}^{\pi }}^{\pi }\left({\mathbf{s}}_1,{\mathbf{a}}_1\right)\right]\right)]\\ & ={\mathbb{E}}_{{\mathbf{s}}_1}\left[r_0+\gamma \left(\alpha \mathcal{H}\left(\tilde{\pi }\left(\cdot \mid {\mathbf{s}}_1\right)\right)+r_1\right)\right]+{\gamma }^2{\mathbb{E}}_{{\mathbf{s}}_2}[\alpha \mathcal{H}\left(\pi \left(\cdot \mid {\mathbf{s}}_2\right)\right)+{\mathbb{E}}_{{\mathbf{a}}_2\sim \pi }\left[Q_{\mathrm{soft}}^{\pi }\left({\mathbf{s}}_2,{\mathbf{a}}_2\right)\right]]\\ & \le {\mathbb{E}}_{{\mathbf{s}}_1}\left[r_0+\gamma \left(\alpha \mathcal{H}\left(\tilde{\pi }\left(\cdot \mid {\mathbf{s}}_1\right)\right)+r_1\right]+{\gamma }^2{\mathbb{E}}_{{\mathbf{s}}_2}[\alpha \mathcal{H}\left(\tilde{\pi }\left(\cdot \mid {\mathbf{s}}_2\right)\right)+{\mathbb{E}}_{{\mathbf{a}}_2\sim \tilde{\pi }}\left[Q_{\mathrm{soft}}^{\pi }\left({\mathbf{s}}_2,{\mathbf{a}}_2\right)\right]\right]\\ & ={\mathbb{E}}_{{\mathbf{s}}_1{\mathbf{a}}_2\sim \tilde{\pi },{\mathbf{s}}_2}\left[r_0+\gamma \left(\alpha \mathcal{H}\left(\tilde{\pi }\left(\cdot \mid {\mathbf{s}}_1\right)\right)+r_1\right)+{\gamma }^2\left(\alpha \mathcal{H}\left(\tilde{\pi }\left(\cdot \mid {\mathbf{s}}_2\right)\right)+r_2\right)\right]+{\gamma }^3{\mathbb{E}}_{{\mathbf{s}}_3}[\alpha \mathcal{H}\left(\tilde{\pi }\left(\cdot \mid {\mathbf{s}}_3\right)\right)+{\mathbb{E}}_{{\mathbf{a}}_3\sim \tilde{\pi }}\left[Q_{{\mathrm{soft}}^{\ast }}^{\pi }\left({\mathbf{s}}_3,{\mathbf{a}}_3\right)\right]]\\ & ⋮\\ & \le {\mathbb{E}}_{\tau \sim \tilde{\pi }}\left[r_0+\sum _{t=1}^{\infty }{\gamma }^t\left(\alpha \mathcal{H}\left(\tilde{\pi }\left(\cdot \mid {\mathbf{s}}_t\right)\right)+r_t\right)\right]\\ & =Q_{\text{soft }}^{\tilde{\pi }}(\mathbf{s},\mathbf{a}).\end{array}$$ 策略改进定理等证，只要按照如下方式更新策略进行 policy improvement，最终一定可以收敛
     $${\pi }_{i+1}(a|s)\propto \exp \left(\frac{1}{\alpha }{Q}_{\text{soft}}^{{\pi }_i}(s,a)\right)$$ 这个等价于用优势函数表示
     $${\pi }_{i+1}(a|s)\propto \exp \left(\frac{1}{\alpha }(Q_{\text{soft}}^{{\pi }_i}(s,a)-V_{\text{soft}}^{{\pi }_i}(s))\right)$$

2.3.2 最优策略的唯一性

• 上面我们证明了迭代地对 $Q_{\text{soft}}$ 使用 softmax 方式更新策略一定可以收敛到某个最优策略，并且对收敛时 $Q_{\text{soft}}^{\ast },V_{\text{soft}}^{\ast },{\pi }_{\text{MaxEnt}}^{\ast }$ 三者间的关系进行了推导分析。本节证明无论更新初始值、更新使用样本顺序等如何变化，最优策略都是唯一的

  其实和证明原始 Bellman operator 和 Bellman optimal operator 的收敛性一样，只需证明这种更新方式对应的算子是一个压缩映射即可，关于两个原始 Bellman 算子的证明可以参考：强化学习拾遗 —— 表格型方法和函数近似方法中 Bellman 迭代的收敛性分析

  1. 把 “对 $Q_{\text{soft}}$ 使用 softmax 方式迭代更新策略” 这件事转换为仅关于价值函数的迭代操作：作者这里直接用了 2.3.1 节最终收敛到的关系，文中表述为定理 3：设 $Q_{\text{soft}}$ 和 $V_{\text{soft}}$ 都有界，并假设 ${\int }_{\mathcal{A}}\exp (\frac{1}{\alpha }{Q}_{\text{soft}}(\cdot ,a))da<\infty ,Q_{\text{soft}}^{\ast }<\infty$，反复进行如下迭代
     $$\begin{array}{rl}{Q}_{\mathrm{soft}}\left({\mathbf{s}}_t,{\mathbf{a}}_t\right)& \leftarrow r_t+\gamma {\mathbb{E}}_{{\mathbf{s}}_{t+1}\sim p_{\mathrm{s}}}\left[V_{\mathrm{soft}}\left({\mathbf{s}}_{t+1}\right)\right],\forall {\mathbf{s}}_t,{\mathbf{a}}_t\\ V_{\mathrm{soft}}\left({\mathbf{s}}_t\right)& \leftarrow \alpha \log {\int }_{\mathcal{A}}\exp \left(\frac{1}{\alpha }{Q}_{\mathrm{soft}}\left({\mathbf{s}}_t,{\mathbf{a}}^{\prime }\right)\right)d{\mathbf{a}}^{\prime },\forall {\mathbf{s}}_t\end{array}$$ 最终会分别收敛到 $Q_{\text{soft}}^{\ast }$ 和 $V_{\text{soft}}^{\ast }$

     分析一下这个迭代过程，第一行从 $V_{\text{soft}}^{\ast }(s_t)$ 表示出 $Q_{\text{soft}}^{\ast }(s_t)$ 就是直接用的 2.3 节最初提到的恒等关系
     $$Q_{\mathrm{soft}}^{\pi }(s,a)=r(s,a)+\gamma {\mathbb{E}}_{s^{\prime }\sim p_{\mathrm{s}}}\left[V_{\mathrm{soft}}^{\pi }\left(s^{\prime }\right)\right]$$ 而第二行是这个迭代的重点，有 2.3.1 节分析中第 2 点可知，在当前价值估计为 $Q_{\mathrm{soft}}^{\pi }(\mathbf{s},\mathbf{a})$ 但是按基于 softmax 得到的提升后的新策略 $\tilde{\pi }$ 行动时，有
     $$V_{\text{soft}}^{\tilde{\pi }}(s)=\alpha \log {\int }_{\mathcal{A}}\exp \left(\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\pi }(s,a^{\prime })\right)d{a}^{\prime }$$ 因此这一行是从价值函数上体现了 softmax 策略提升操作，只有优化后的策略 $\tilde{\pi }$ 才能使等号成立，将 $=$ 变化为 $\leftarrow$ 即代表估计优化后策略的价值，因此定理 3 这个迭代过程就是最大熵 RL 语境下类似 Bellman optimal equation 的恒等迭代关系，不妨称其为 soft Bellman optimal equation。另外可以看一下原始 Bellman optimal equation
     $$\begin{array}{l}\mathrm{v}(\mathrm{s})={\max }_{\mathrm{a}\in \mathcal{A}}\mathrm{q}(\mathrm{s},\mathrm{a})\\ \mathrm{q}(\mathrm{s},\mathrm{a})=\mathrm{r}(\mathrm{s},\mathrm{a})+\gamma {\sum }_{{\mathrm{s}}^{\prime }}\mathrm{p}\left({\mathrm{s}}^{\prime }\mid \mathrm{s},\mathrm{a}\right)\mathrm{v}\left({\mathrm{s}}^{\prime }\right)={\sum }_{{\mathrm{s}}^{\prime },\mathrm{r}}\mathrm{p}\left({\mathrm{s}}^{\prime },\mathrm{r},\mid \mathrm{s},\mathrm{a}\right)\left[\mathrm{r}+\gamma \mathrm{v}\left({\mathrm{s}}^{\prime }\right)\right]\end{array}$$ 和这里很类似，第二行从 v 到 q 是恒等关系，第一行 $\max$ 操作体现 $\mathrm{argmax}$ 的策略提升操作

  2. 使用算子形式表示这里的 “soft Bellman optimal equation”：直接把上面迭代式子中的 $V_{\text{soft}}(s_t)$ 代入到 $Q_{\text{soft}}(s_t,a_t)$ 里，引入 soft value iteration operator $\mathcal{T}$ 为
     $$\mathcal{T}Q(\mathbf{s},\mathbf{a})\triangleq r(\mathbf{s},\mathbf{a})+\gamma {\mathbb{E}}_{{\mathbf{s}}^{\prime }\sim p_{\mathbf{s}}}\left[\log \int \exp Q\left({\mathbf{s}}^{\prime },{\mathbf{a}}^{\prime }\right)d{\mathbf{a}}^{\prime }\right]$$
  3. 证明算子是压缩映射：这里仍然使用传统 RL 的无穷范数作为考察压缩性质的度量，无穷范数下 $L^p$ 空间中任意两个 $Q_{\text{soft}}$ 函数 $Q_1,Q_2$ 间的距离为 $||Q_1-Q_2|{|}_{\infty }={\max }_{s,a}|Q_1(s,a)-Q_2(s,a)|$，设 $\epsilon =||Q_1-Q_2|{|}_{\infty }$，这时有
     $$\begin{array}{rl}\log \int \exp \left(Q_1\left({\mathbf{s}}^{\prime },{\mathbf{a}}^{\prime }\right)\right)d{\mathbf{a}}^{\prime }& \le \log \int \exp \left(Q_2\left({\mathbf{s}}^{\prime },{\mathbf{a}}^{\prime }\right)+\epsilon \right)d{\mathbf{a}}^{\prime }\\ & =\log \left(\exp (\epsilon )\int \exp Q_2\left({\mathbf{s}}^{\prime },{\mathbf{a}}^{\prime }\right)d{\mathbf{a}}^{\prime }\right)\\ & =\epsilon +\log \int \exp Q_2\left({\mathbf{a}}^{\prime },{\mathbf{a}}^{\prime }\right)d{\mathbf{a}}^{\prime }\end{array}$$ 同理有 $\log \int \exp \left(Q_1\left({\mathbf{s}}^{\prime },{\mathbf{a}}^{\prime }\right)\right)d{\mathbf{a}}^{\prime }\ge -\epsilon +\log \int \exp Q_2\left({\mathbf{a}}^{\prime },{\mathbf{a}}^{\prime }\right)d{\mathbf{a}}^{\prime }$，因此有
     $$\begin{array}{rl}||\mathcal{T}{Q}_1-\mathcal{T}{Q}_2|{|}_{\infty }& =\gamma ||\log \int \exp \left(Q_1\left({\mathbf{s}}^{\prime },{\mathbf{a}}^{\prime }\right)\right)d{\mathbf{a}}^{\prime }-\log \int \exp \left(Q_2\left({\mathbf{s}}^{\prime },{\mathbf{a}}^{\prime }\right)\right)d{\mathbf{a}}^{\prime }|{|}_{\infty }\\ & \le \gamma \epsilon \\ & =\gamma ||Q_1-Q_2|{|}_{\infty }\end{array}$$ 这就证明了算子 $\mathcal{T}$ 是一个 $\gamma$ 收缩映射，优化得到的最优策略一定唯一

2.3.3 小结

• 观察上面的证明过程，根据等式 (2)，还可以发现策略收敛时（$\tilde{\pi }=\pi$）时的最优 soft V value 为
  $$V_{\text{soft}}^{\ast }(s)={\mathbb{E}}_{\mathbf{a}\sim \pi }\left[Q_{\mathrm{soft}}^{\ast }(\mathbf{s},\mathbf{a})\right]+\alpha \mathcal{H}(\pi (\cdot |\mathbf{s}))=\alpha \log {\int }_a\exp \left(\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\ast }(\mathbf{s},a)\right)da$$ 利用这个可以得到最优策略为
  $$\begin{array}{rl}& \{\begin{array}{rl}& {\pi }_{\text{MaxEnt}}^{\ast }(a|s)\propto \exp \left(\frac{1}{\alpha }(Q_{\mathrm{soft}}^{\ast }(\mathbf{s},a)-V_{\text{soft}}^{\ast }(s))\right)\\ & {\int }_{\mathcal{A}}{\pi }_{\text{MaxEnt}}^{\ast }(a|s)=1\end{array}\\ ⟹& {\pi }_{\text{MaxEnt}}^{\ast }(a|s)=\exp \left(\frac{1}{\alpha }(Q_{\mathrm{soft}}^{\ast }(\mathbf{s},a)-V_{\text{soft}}^{\ast }(s))\right)\end{array}$$ 利用上面的 $V_{\text{soft}}^{\ast }(s)$ 和 ${\pi }_{\text{MaxEnt}}^{\ast }$（下面简称 ${\pi }^{\ast }$），还能从 $Q_{\mathrm{soft}}^{\ast }(s,a)$ 的定义推出用 $V_{\text{soft}}^{\ast }$ 表示 $Q_{\text{soft}}^{\ast }$ 的方法
  $$\begin{array}{rl}{Q}_{\mathrm{soft}}^{\ast }(\mathbf{s},\mathbf{a})& \triangleq r(s,a)+{\mathbb{E}}_{(s^{\prime },...)\sim \rho }\left[\sum _{t=0}^{\infty }{\gamma }^l(r_t+\alpha \mathcal{H}({\pi }^{\ast }(\cdot |s_t)))\right]\\ & =r(\mathbf{s},\mathbf{a})+\gamma {\mathbb{E}}_{{\mathbf{s}}^{\prime }\sim p_{\mathrm{s}}}\left[\alpha \mathcal{H}\left({\pi }^{\ast }\left(\cdot \mid {\mathbf{s}}^{\prime }\right)\right)+{\mathbb{E}}_{{\mathbf{a}}^{\prime }\sim {\pi }^{\ast }\left(\cdot \mid {\mathbf{s}}^{\prime }\right)}\left[Q_{\mathrm{soft}}^{\ast }\left({\mathbf{s}}^{\prime },{\mathbf{a}}^{\prime }\right)\right]\right]\\ & =r(\mathbf{s},\mathbf{a})+\gamma {\mathbb{E}}_{{\mathbf{s}}^{\prime }\sim p_{\mathrm{s}}}\left[V_{\mathrm{soft}}^{\ast }\left({\mathbf{s}}^{\prime }\right)\right]\end{array}$$
• 整理一下，优化收敛时，有
  $$\begin{array}{rl}{Q}_{\text{soft}}^{\ast }(s_t,a_t)& =r(s_t,a_t)+{\mathbb{E}}_{(s_{t+1},...)\sim \rho }\left[\sum _{l=1}^{\infty }{\gamma }^l(r_{t+l}+\alpha \mathcal{H}({\pi }_{\text{MaxEnt}}^{\ast }(\cdot |s_{t+l})))\right]\\ & =r(s_t,a_t)+\gamma {\mathbb{E}}_{s_{t+1}\sim p_{\mathrm{s}}}\left[\alpha \mathcal{H}({\pi }_{\text{MaxEnt}}^{\ast }(\cdot |s_{t+l}))+{\mathbb{E}}_{a_{t+1}\sim {\pi }_{\text{MaxEnt}}^{\ast }(\cdot |s_t)}[Q_{\text{soft}}^{\ast }(s_{t+1},a_{t+1}]\right]\\ & =r(s_t,a_t)+\gamma {\mathbb{E}}_{s_{t+1}\sim p_{\mathrm{s}}}\left[V_{\mathrm{soft}}^{\ast }\left(s_{t+1}\right)\right]\\ V_{\text{soft}}^{\ast }(s_t)& =\alpha \log {\int }_{\mathcal{A}}\exp \left(\frac{1}{\alpha }{Q}_{\mathrm{soft}}^{\ast }(s_t,a)\right)da\\ {\pi }_{\text{MaxEnt}}^{\ast }(a_t|s_t)& =\exp \left(\frac{1}{\alpha }(Q_{\mathrm{soft}}^{\ast }(s_t,a_t)-V_{\text{soft}}^{\ast }(s_t))\right)\end{array}$$ 到这其实就把文章里的定理 1 和定理 2 也证明完了

  Note: 我个人认为文章附录里对这部分证明的符号不严谨，我是重新写的没完全按原文

• 另外，还可以和传统 RL 的两个 bellman 等式进行比较

  这里实在懒得打公式了，引用自 Soft Q-learning解读
  

2.4 Soft Q-Learning

• 到目前为止算法其实已经有了，只要像 2.3.2 节那样不停迭代
  $$\begin{array}{rlrl}{Q}_{\mathrm{soft}}\left({\mathbf{s}}_t,{\mathbf{a}}_t\right)& \leftarrow r_t+\gamma {\mathbb{E}}_{{\mathbf{s}}_{t+1}\sim p_{\mathrm{s}}}\left[V_{\mathrm{soft}}\left({\mathbf{s}}_{t+1}\right)\right],& & \forall {\mathbf{s}}_t,{\mathbf{a}}_t\\ V_{\mathrm{soft}}\left({\mathbf{s}}_t\right)& \leftarrow \alpha \log {\int }_{\mathcal{A}}\exp \left(\frac{1}{\alpha }{Q}_{\mathrm{soft}}\left({\mathbf{s}}_t,{\mathbf{a}}^{\prime }\right)\right)d{\mathbf{a}}^{\prime },& & \forall {\mathbf{s}}_t\end{array}$$ 就一定能收敛到唯一的最优价值函数，但是这里存在对动作空间和状态空间的积分，无法直接处理，本节来解决此问题

2.4.1 转换为优化问题

• 首先把上面这个迭代优化变形成一个优化问题，使用一个 $\theta$ 参数化的网络 $Q_{\text{soft}}^{\theta }$ 来近似 $Q_{\text{soft}}$，同时通过在 $V_{\text{soft}}$ 中引入重要性采样比，把积分转换由 $Q_{\text{soft}}^{\theta }$ 得到的期望形式 $V_{\text{soft}}^{\theta }$（转换为期望后就可以用随机优化方法了）
  $$\begin{array}{rl}{\mathrm{V}}_{\mathrm{soft}}^{\theta }\left({\mathrm{s}}_{\mathrm{t}}\right)& =\alpha \log {\int }_{\mathcal{A}}\exp \left(\frac{1}{\alpha }{\mathrm{Q}}_{\mathrm{soft}}^{\theta }\left({\mathrm{s}}_{\mathrm{t}},{\mathrm{a}}^{\prime }\right)\right){\mathrm{da}}^{\prime }\\ & =\alpha \log {\int }_{\mathcal{A}}\frac{{\mathrm{q}}_{{\mathrm{a}}^{\prime }}\left({\mathrm{a}}^{\prime }\right)}{{\mathrm{q}}_{{\mathrm{a}}^{\prime }}\left({\mathrm{a}}^{\prime }\right)}\exp \left(\frac{1}{\alpha }{\mathrm{Q}}_{\mathrm{soft}}^{\theta }\left({\mathrm{s}}_{\mathrm{t}},{\mathrm{a}}^{\prime }\right)\right){\mathrm{da}}^{\prime }\\ & =\alpha \log {\mathbb{E}}_{{\mathrm{q}}_{{\mathrm{a}}^{\prime }}}\left[\frac{\exp \left(\frac{1}{\alpha }{\mathrm{Q}}_{\mathrm{soft}}^{\theta }\left({\mathrm{s}}_{\mathrm{t}},{\mathrm{a}}^{\prime }\right)\right)}{{\mathrm{q}}_{{\mathrm{a}}^{\prime }}\left({\mathrm{a}}^{\prime }\right)}\right]\end{array}\text{\hspace{1em}(4)}$$ 这里引入的 $q_a^{\prime }$ 可以是动作集上的任意分布。之后的操作完全类似 DQN，首先利用 soft Bellman optimal equation 构造 TD target，再通过优化 L2 损失来靠近它，即最小化
  $$\begin{gathered} J_Q(\theta )={\mathbb{E}}_{{\mathbf{s}}_t\sim q_{{\mathbf{s}}_t},{\mathbf{a}}_t\sim q_{{\mathbf{a}}_t}}\left[\frac{1}{2}{\left({\hat{Q}}_{\mathrm{soft}}^{\bar{\theta }}\left({\mathbf{s}}_t,{\mathbf{a}}_t\right)-Q_{\mathrm{soft}}^{\theta }\left({\mathbf{s}}_t,{\mathbf{a}}_t\right)\right)}^2\right] \\ 其中{\hat{Q}}_{\mathrm{soft}}^{\bar{\theta }}\left({\mathbf{s}}_t,{\mathbf{a}}_t\right)=r_t+\gamma {\mathbb{E}}_{{\mathbf{s}}_{t+1}\sim p_{\mathrm{s}}}\left[V_{\mathrm{soft}}^{\bar{\theta }}\left({\mathbf{s}}_{t+1}\right)\right] \end{gathered}$$ 这里构造 L2 损失的 $(s,a)$ 分布，以及上面式 (4) 引入的动作分布 $q_a^{\prime }$ 都可以是任意的，作者的做法是
  1. 构造 L2 损失的 $(s,a)$ 分布：从 replay buffer 采样 $s$，再从当前策略 $Q_{\text{soft}}^{\theta }$ 所诱导的策略 $\pi$ 中采样生成对应的 $a$
  2. $q_a^{\prime }$：使用当前策略 $Q_{\text{soft}}^{\theta }$ 所诱导的策略对应的分布 $\pi (\cdot |s_t)$

2.4.2 从 energy-based 分布中采样

• 接下来的问题特别棘手，为了执行上面的优化，必须从当前估计的价值 $Q_{\text{soft}}^{\theta }$ 所诱导的策略
  $$\pi (a_t|s_t)\propto \exp \left(\frac{1}{\alpha }{Q}_{\text{soft}}^{\theta }(s_t,a_t)\right)$$ 中采样，从这样的玻尔兹曼分布中采样是很困难的，过去的方法通常可以分两类
  1. 基于马尔可夫链蒙特卡洛法 Markov chain Monte Carlo, MCMC 进行采样。这种方法无法进行在线推理，不适用
  2. 训练一个随机采样网络，可以直接从目标分布中生成样本。这个其实很像 GAN 这类生成方法的 generator，具体而言就是要训练一个 $\varphi$ 参数化的网络 $f^{\varphi }$，它把来自给定分布（如高斯）的随机噪音 $\xi$ 映射为一个采样自目标分布的样本，这样就能如下采样动作了
     $$a_t=f^{\varphi }(\xi ;s_t)$$ 作者在此使用了 Stein variational gradient descent (SVGD) 方法，它有如下特点
     1. 可以得到一个采样网络，快速从目标分布中生成样本
     2. 已经证明，它可以收敛到 EBM 模型后验分布的一个准确估计
     3. 得到的采样网络形式上看很像 Actor-Critic 框架中 Actor 的角色，从这个角度看 2.4.1 节的价值估计就相当于 Critic，这样能把 Value-based 类方法 Q-learning 和 Policy Gradient 类方法 Actor-Critic 联系起来
• 概述一下 SVGD 的思路，把采样网络表示为 ${\pi }^{\varphi }(a_t|s_t)$，我们的目标是找到最优网络参数 $\varphi$ 使得它对任意 $s_t$ 表示的分布尽量靠近 $Q_{\text{soft}}^{\theta }$ 所诱导的策略分布。也就是要优化以下 KL 散度
  $$J_{\pi }\left(\varphi ;{\mathbf{s}}_t\right)={\mathrm{D}}_{\mathrm{KL}}({\pi }^{\varphi }\left(\cdot \mid {\mathbf{s}}_t\right)\Vert \exp \left(\frac{1}{\alpha }\left(Q_{\mathrm{soft}}^{\theta }\left({\mathbf{s}}_t,\cdot \right)-V_{\mathrm{soft}}^{\theta }\right)\right))$$ 我们可以先从给定分布中独立采样一组噪声 $\{{\xi }^{(i)}\}$，然后用随机初始化的采样网络得到一组 $a_t^{(i)}=f^{\varphi }({\xi }^{(i)};s_t)$。接下来的每轮迭代中，我们对这组被采出来的样本 $\{a_t^{(i)}\}$ 施加扰动 $△f^{\varphi }({\xi }^{(i)};s_t)$，使上述 KL 散度不断减小，这样多次迭代后 $\{a_t^{(i)}\}$ 就可以看作真的来自目标分布了。SVGD 方法给出了扰动的最佳方向为
  $$\Delta f^{\varphi }\left(\cdot ;{\mathbf{s}}_t\right)={\mathbb{E}}_{{\mathbf{a}}_t\sim {\pi }^{\varphi }}[{\kappa \left({\mathbf{a}}_t,f^{\varphi }\left(\cdot ;{\mathbf{s}}_t\right)\right){\nabla }_{{\mathbf{a}}^{\prime }}{Q}_{{\mathrm{soft}}^{\theta }}\left({\mathbf{s}}_t,{\mathbf{a}}^{\prime }\right)|}_{{\mathbf{a}}^{\prime }={\mathbf{a}}_t}+{\alpha {\nabla }_{{\mathbf{a}}^{\prime }}\kappa \left({\mathbf{a}}^{\prime },f^{\varphi }\left(\cdot ;{\mathbf{s}}_t\right)\right)|}_{{\mathbf{a}}^{\prime }={\mathbf{a}}_t}]$$ 其中 $\kappa$ 是一个核函数，SVGD 其实是在再生核希尔伯特空间中优化了两个分布间的 Kernelized Stein Discrepancy，最后得到的 $\Delta f^{\varphi }\left(\cdot ;{\mathbf{s}}_t\right)$ 并不是上面 $J_{\pi }\left(\varphi ;{\mathbf{s}}_t\right)$ 的精确梯度，不过二者具有相同的方向，这样就可以设 $\frac{\partial J_{\pi }\left(\varphi ;{\mathbf{s}}_t\right)}{\partial a_t}\propto \Delta f^{\varphi }$，再用链式法则就能得到
  $$\frac{\partial J_{\pi }\left(\varphi ;{\mathbf{s}}_t\right)}{\partial \varphi }\propto {\mathbb{E}}_{\xi }\left[\Delta f^{\varphi }\left(\xi ;{\mathbf{s}}_t\right)\frac{\partial f^{\varphi }\left(\xi ;{\mathbf{s}}_t\right)}{\partial \varphi }\right]$$ 至此就能用任意梯度方法对 $\varphi$ 进行优化了，最后得到的 ${\pi }^{\varphi }(a_t|s_t)$ 还可以直接用作策略网络

  Note：关于 SVGD 的详细说明可以参考 [论文解读 02]Stein变分梯度下降详细解读

2.5 伪代码

• 给出 Soft Q learning 的伪代码如下
  

3. 实验

• 这个方法比较早了，实验就不详细写了，简单说就是验证了 1.1 节中的三个优势

4. 总结

• SQL 的主要意义是启发了当前几乎最流行的 model-free 方法 SAC，它本身基本已经没人用了，这里直接引用别人总结的 SQL 特点：论文笔记之Soft Q-learning
  1. SQL是一种随机性策略算法，不是确定性策略，他的随机性并不像 DDPG 或者 TD3 那样的启发式，而是通过能量模型使得各个动作最终都有一定概率会被选择，可以体现出 Q value 的多峰性质
  2. 使用采样网络对难以采样的能量模型分布进行动作采样
  3. 使用IS技术将积分转为期望，从而可以将 V 加入到随机优化中
  4. SQL使用了2种优化算法，一种是确定性方向的SVGD，另一种是我们常用的随机性优化方法Adam
  5. 将采样网络看成是Actor网络的话，SQL的结构和DDPG这种AC算法没什么差异
  6. 改变了经典的期望累计奖励目标函数，增加了熵项，因此还需要改变贝尔曼等式，重新设计策略评估与策略提升过程（这个东西在后面的 SAC 中也用了）
  7. Theorem 1 证明了玻尔兹曼策略是最大化含熵目标的最优解
  8. SQL的 “S” 来自于其EBM模型的分布很像 softmax 函数，所以截取了 “soft”
  9. 最大化含熵目标的优点：抗干扰强、适用于多模任务、某个任务输出的这种策略可以作为下个任务的初始化策略、探索性强、鲁棒性强等。缺陷在于SVGD计算复杂度高，因此也可以放弃SVGD，用随机优化来替代，比如SAC算法中就这样做了。
• 附一篇比较清晰的解读 Soft Q-learning解读