8. An Introduction to MCMC for Machine Learning (4)

MCMC中的深入论题

目录
3.6 辅助变量采样器
3.6.1 混合蒙特卡洛（详见PRML）
3.6.2 切片采样
3.6.3 模拟回火
3.7 可逆跳跃MCMC

3.6 辅助变量采样器

思路：从增广分布p(x,u)中采样往往比从p(x)中采样更容易，其中u是辅助变量。然后，根据p(x,u)抽样(x(i),u(i))，然后忽略样本u(i)，就可以得到边际样本x(i)。

在这里，我们将重点介绍两个众所周知的辅助变量方法的例子，即混合蒙特卡罗和切片抽样。

3.6.1 混合蒙特卡罗（HMC）

Duane（1987）和尼尔（1996）概述的“跨越【leapfrog】”HMC算法。混合蒙特卡罗（HMC）是一种MCMC算法，包含关于目标分布梯度信息以改善高维混合。

汉密尔顿蒙特卡洛（HMC）采样是一种动力学采样方法，也是现如今最通用的采样方法。由于MH算法与吉布斯采样方法中下一个样本点与当前样本点之间的相关性都不可避免会很强，因为当前样本点是下一个样本点的条件。这样的采样路径是随机游走的，对目标分布的探索效率比较低下。

通过引入 辅助的动量变量，把待采样的变量作为位置变量，把二者纳入一个势能与动能守恒的动力学系统，通过采样点在动力学系统中随机的游走来得到两个变量的联合的采样点，舍去辅助变量，剩下的就是待采样的位置变量了。在探索目标分布时，位置变量的变化与能量的梯度（动量的大小）有关，这样的采样过程使得位置变量的变化可以更有针对性，而不是效率低下的随机游走。

3.6.1.1 动力学

经典的动力学由牛顿第二定律描述：物休