【机器学习】贝叶斯参数估计法

一、贝叶斯参数估计

• 前导篇：【机器学习】最大似然估计与最大后验估计

• 这里先回顾一下最大后验估计法：

  • 最大后验估计法，通过最大化参数$\theta$的后验分布来求出估计参数$\hat{\theta }$ :$$\hat{\theta }=arg\underset{\theta }{\max }P(\theta |x)=arg\underset{\theta }{\max }P(x|\theta )\ast P(\theta )$$
  • 现在我们分析分析后验分布$P(\theta |x)$：$$P(\theta |x)=\frac{P(x|\theta )\ast P(\theta )}{P(x)}$$ $P(x)$为常数，对优化问题不影响，所以可以记作：$$P(\theta |x)=P(x|\theta )\ast P(\theta )$$
  • $P(x|\theta )$为样本的概率分布，$P(\theta )$为参数$\theta$的先验分布。我们将样本$x$带入后：$P(\theta |x)$就是一个$\theta$的概率分布，即$\theta$后验分布。既然它是一个概率分布，我们可以简单的把它理解为一个概率密度函数$f(\theta )$，即$f(\theta )=P(\theta |x)$，最大后验估计法就是用该函数$(f(\theta ))$的最大值点作为我们估计的参数: $\hat{\theta }$
    
    

• 贝叶斯参数估计法是最大后验估计法的加强版：

  • 先引入损失函数：$L(\theta ,a)$,这个地方对于损失函数中变量的含义，很多博客和资料说法都不一致，这里只是根据个人理解给出中间两个变量的含义：
    • $\theta$：是后验分布的随机变量， $\theta$的分布函数为：$f(\theta )=P(\theta |x)$
    • $a$：也是一个随机变量，也可以理解为一个普通自变量，最后用$a$来估计贝叶斯参数估计法得出的$\hat{\theta }$。
  • 参数的后分布$P(\theta |x)$还有一个含义:原本参数$\theta$是服从先验分布$P(\theta )$的，当我们获得样本数据$x$后，将样本数据的以下统计信息加入到$\theta$分布中后，$\theta$变成服从后验验分布$P(\theta |x)$的随机变量了。
  • 现在假设我们有了样本数据$X$，和损失函数$L(\theta ,a)$。
    • 首先我们将样本信息加入到$\theta$分布中，得到$\theta$当前服从的后验分布$P(\theta │x)$。
    • 得到了参数$\theta$当前的概率分布$P(\theta │x)$后，我们就可以计算损失函数$L(\theta ,a)$相对参数$\theta$的数学期望了：$$E_{\theta }(L(\theta ,a))=\int L(\theta ,a)P(\theta │x)d\theta$$这是一个a的函数叫做：贝叶斯风险
    • 最后贝叶斯参数估计法通过最小化贝叶斯风险得到最后的参数估计值$\hat{\theta }$，即：$$\hat{\theta }=arg\underset{a}{\min }{E}_{\theta }(L(\theta ,a))$$
      
      

• 贝叶斯参数估计法步骤：

  • 第一步：计算后验分布$P(\theta │x)$：$$P(\theta │x)=\frac{P(x│\theta )\ast P(\theta )}{P(x)}$$
  • 第二步：计算贝叶斯风险：$$E_{\theta }(L(\theta ,a))=\int L(\theta ,a)P(\theta |x)d\theta$$
  • 第三步：最小化贝叶斯风险得到$\hat{\theta }$：$$\hat{\theta }=arg\underset{a}{\min }{E}_{\theta }(L(\theta ,a))$$
    
    

• 由上面的推导过程我们知道，贝叶斯参数估计法求解过程有两个难点：

  • 第一个：求后验分布
  • 第二步：最小化贝叶斯风险，涉及积分以及最小值求解

二、共轭分布

• 共轭先验:设资料$X$有概率密度函数$F：X\sim F(x|\theta )$. $\theta$的先验分布$\pi (\theta )$属于某个分布族$P：\pi (\theta )\in P.$ 如果$\theta$的后验分布:$\pi (\theta |x)$也属于分布族$P$，那么$P$就叫做$F$的共轭先验。
• 假设样本$x$的分布为：$f(x|\theta )$，$\theta$的先验分布$\pi (\theta )$分布已知。如果$\pi (\theta )$与$f(x|\theta )$共轭，那么$\pi (\theta )$与$\pi (\theta |x)$会有一样的形式，这样不就会很方便求解后验分布$\pi (\theta |x)$了吗？这样将先验分布设计成与$f(x|\theta )$共轭，后面计算会很方便。
• 幸运的是我们可以证明，所有属于指数族分布的$f(x|\theta )$，都可以求出它的共轭先验分布$\pi (\theta )$的具体形式。而大部分常见的分布都属于指数族分布，比如正态分布，指数分布，二项分布，泊松分布，Beta分布，Gamma分布等等。
• 常用的共轭分布：：
  
  其中整体分布，就是样本分布$f(x|\theta )$。如果你的样本的分布是上面表中第一列中的一项，那么就可以将先验分布设计成第三列中对应的分布。所以在才会在那么多算法或实际问题中将某个参数的先验分布定义成Gamma或Beta这种“奇怪”的形式，原因就是为了求解方便。这就解决了第一个难题：求后验分布

Gamma 分布：

• Gamma函数：$$\Gamma (x)={\int }_0^{\infty }{t}^{x-1}{e}^{-t}dt$$
• Gamma函数图像：
  
• 通过分部积分法，可以很容易证明Gamma函数具有如下之递归性质：$$\Gamma (x+1)=x\Gamma (x)$$$$\Gamma (x)=(x-1)!$$
• Gamma分布:
  • 根据$\Gamma$函数的定义有：$${\int }_0^{\infty }\frac{x^{\alpha -1}{e}^{-x}}{\Gamma (\alpha )}dx=1$$
  • 取积分中的函数作为概率密度，就得到了一个形式最简单的Gamma分布，其概率密度函数为：$$Gamma(x|\alpha )=\frac{x^{\alpha -1}{e}^{-x}}{\Gamma (\alpha )}$$其中,$\alpha$为Gamma分布的shape parameter，主要决定了曲线的形状；而$\beta$为Gamma分布的 rate parameter，主要决定了曲线有多陡。Gamma分布的归一化常数恰为 $\Gamma$函数在点$\alpha$处的值$\Gamma (\alpha )$。
  • Gamma分布的期望、方差： $$E(t)=\frac{\alpha }{\beta }$$$$D(t)=\frac{\alpha }{{\beta }^2}$$
  • Gamma分布的图像：
    

Beta分布：

• Beta函数：$$B(\alpha ,\beta )={\int }_0^1{x}^{\alpha -1}(1-x{)}^{\beta -1}dx$$其中$\alpha ,\beta >0$
• Beta函数性质:
  • 对称性:$B(\alpha ,\beta )=B(\beta ,\alpha )$
  • 与$\Gamma$函数的关系：$$B(\alpha ,\beta )=\frac{\Gamma (\alpha )\Gamma (\beta )}{\Gamma (\alpha +\beta )}$$
• 根据Beta函数的定义有：$${\int }_0^1\frac{p^{\alpha -1}(1-p{)}^{\beta -1}}{B(\alpha ,\beta )}dp=1$$
• 上式中取积分中的函数作为概率密度，就得到了Beta分布：$$B(p|\alpha ,\beta )=\frac{p^{\alpha -1}(1-p{)}^{\beta -1}}{B(\alpha ,\beta )}$$
• 可以发现Beta分布的归一化常数恰为Beta函数在$(\alpha ,\beta )$处的值.
• Beta 分布的期望、方差：$$E(p)=\frac{\alpha }{\beta +\alpha }$$$$D(p)=\frac{\beta \alpha }{(\beta +\alpha {)}^2(\beta +\alpha +1)}$$
• Beta 分布的图像：
  

三、损失函数

• 贝叶斯估计的最后一步需要求下面式子：$$\hat{\theta }=arg\underset{a}{\min }{E}_{\theta }(L(\theta ,a))$$其中涉及积分以及最小值求解，看起来十分麻烦。所幸的是在特定的损失函数形式下，上面最后一步可以化简，并不需要完全用到积分。下面一部分的讲解就是在三种特定损失函数形式下贝叶斯估计的计算方法。
• 平方损失函数：
  • 公式：$$L(\theta ,a)=(\theta -a{)}^2$$
  • 若损失函数是平方损失函数，那么$\hat{\theta }$等于后验概率$\pi (\theta |x)$期望值，即当$a$等于$\theta$在$\pi (\theta |x)$上的期望时，贝叶斯风险最小。
• 绝对值损失函数：
  • 公式：$$L(\theta ,a)=|\theta -a|$$
  • 若损失函数是绝对值损失函数，那么$\hat{\theta }$等于$X$的中位数，那么当$a$等于数据$X$的中位数时，贝叶斯风险最小
• 0-1损失函数：
  • 公式：$$L(\theta ,a)=\{\begin{array}{ll}0,& |\theta -a|\le \Delta \\ 1,& |\theta -a|>\Delta \end{array}$$
  • 若损失函数是0-1损失函数且$\Delta$很小，当$a=argmax\pi (\theta |x)$时，即$a$等于$\theta$后验分布的最大值时，贝叶斯风险最小。

四、例子

• 假设：$X_1,X_2,...,X_n$是独立同分布的，且都服从泊松分布，$X_i\sim Poi(\lambda )$. $\lambda$是要估计的参数。使用均方误差作为损失函数。
• 第一步：利用$\lambda$的共轭先验求$\lambda$的后验分布：
  • 由$X_i\sim Poi(\lambda )$可知样本分布为： $$f(x│\lambda )=\frac{e^{-\lambda }{\lambda }^x}{x!}$$
  • 因为$X_i$是独立同分布，所以它的联合概率密度函数是：$$f(X│\lambda )=\frac{e^{-n\lambda }{\lambda }^{{\sum }_{i=1}^n{x}_i}}{{\coprod }_{i=1}^{n}x!}$$
  • 泊松分布的共轭先验分布是Gamma分布,所以假设参数$\lambda$的先验分布为：$$\pi (\lambda )=\frac{{\beta }^{\alpha }{\lambda }^{\alpha -1}{e}^{-\beta t}}{\Gamma (\alpha )}$$ $\alpha ,\beta$是已知参数。
  • 求解$X$的边缘概率密度函数$f(x)$：$$f(x)={\int }_0^{\infty }\frac{e^{-n\lambda }{\lambda }^{{\sum }_{i=1}^n{x}_i}}{{\coprod }_{i=1}^{n}x!}\pi (\lambda )d\lambda ={\int }_0^{\infty }\frac{e^{-n\lambda }{\lambda }^{{\sum }_{i=1}^n{x}_i}}{{\coprod }_{i=1}^{n}x!}\frac{{\beta }^{\alpha }{\lambda }^{\alpha -1}{e}^{-\beta t}}{\Gamma (\alpha )}d\lambda$$$$=(\frac{1}{n+\beta }{)}^{{\sum }_{i=1}^n{x}_i+\alpha }\frac{{\beta }^{\alpha }}{\Gamma (\alpha ){\coprod }_{i=1}^n(x!)}{\int }_0^{\infty }\frac{((n+\beta )\lambda {)}^{{\sum }_{i=1}^n{x}_i+\alpha -1}}{e^{(n+\beta )\lambda }}d(n+\beta )\lambda$$$$=(\frac{1}{n+\beta }{)}^{{\sum }_{i=1}^n{x}_i+\alpha }\frac{{\beta }^{\alpha }}{\Gamma (\alpha ){\coprod }_{i=1}^n(x!)}\Gamma (\sum _{i=1}^n{x}_i+\alpha )$$
  • 根据贝叶斯定理求解$\lambda$的后验分布：$$\pi (\lambda |x)=\frac{f(x|\lambda )\pi (\lambda )}{f(x)}$$$$=\frac{e^{-n\lambda }{\lambda }^{{\sum }_{i=1}^n{x}_i}}{{\coprod }_{i=1}^{n}x!}\frac{{\beta }^{\alpha }{\lambda }^{\alpha -1}{e}^{-\beta t}}{\Gamma (\alpha )}\frac{\Gamma (\alpha ){\coprod }_{i=1}^n(x!)(n+\beta {)}^{{\sum }_{i=1}^n{x}_i+\alpha }}{{\beta }^{\alpha }\Gamma ({\sum }_{i=1}^n{x}_i+\alpha )}$$$$=\frac{e^{-(n+\beta )\lambda }{\lambda }^{{\sum }_{i=1}^n{x}_i+\alpha -1}(n+\beta {)}^{{\sum }_{i=1}^n{x}_i+\alpha }}{\Gamma ({\sum }_{i=1}^n{x}_i+\alpha }$$
  • 上面的式子很复杂，但其实它是一个Gamma分布：$$\pi (\lambda |x)\sim \Gamma (\sum _{i=1}^n{x}_i+\alpha ,n+\beta )$$
  • 上面的求解过程还是太复杂，其实有更简便的方法。因为共轭先验分布是Gamma分布，所以后验分布肯定也是Gamma，我们可以直接凑出后验分布的形式，但不是很直观.
• 第二步：求在均方误差下$\lambda$的贝叶斯估计${\hat{\lambda }}_{bayes}$
  • 均方误差下的贝叶斯估计就是后验分布的期望，所以有： $${\hat{\lambda }}_{bayes}=\frac{{\sum }_{i=1}^n{x}_i+\alpha }{n+\beta }$$
• 总结： 可以看到先验分布中λ服从参数为$\alpha$和$\beta$的Gamma分布，在观察到一些数据后，$\lambda$仍然是服从Gamma分布的，只不过参数得到了修正，变成了${\sum }_{i=1}^n{x}_i+\alpha 和n+\beta$. 这就是贝叶斯估计的思想，先假设参数服从某个分布，可能会有偏差。有偏差不要紧，我们将观察到的数据（样本）带入贝叶斯估计的过程便可以修正这些偏差

参考链接

• https://blog.csdn.net/jinping_shi/article/details/53444100
• https://blog.csdn.net/zengxiantao1994/article/details/72889732