深度学习中的先验与后验问题

先验与后验

其实在论文中看到的prior、posterior 和 likelihood 是贝叶斯统计模型的几个核心要素。
prior 和 posterior 都是关于参数的分布。
1. prior 是我们所假设的参数本来的分布。
2. posterior 则是在观察到训练数据之后得到的条件分布。
3. likelihood 则完全不一样，一方面它是关于数据 的，另一方面它没有被归一化，所以也并不是一个合法的概率分布。

任意一个未知量 都可以看做一个随机变量，这个随机变量服从某种概率分布，也就是从某一个概率分布中随机抽取的一个变量，抽取出来的这个变量我们把它认做prior，它不是一个单纯的值，而是含有隐含信息，这个信息就是它服从某种概率分布。

posterior是对prior和likelihood的直观陈述形式，它们之间的关系：posterior=likelihood*prior.

故 posterior 也服从某种分布，这也是解释了文章开头为什么prior 和 posterior 都是关于参数的分布。

转载参考博客：参考博客连接（直接点击版本）
参考博文链接（复制粘贴版本）：https://blog.csdn.net/workerwu/article/details/8023045
感谢workerwu提供的帮助，比较简洁的说明了先验后验的问题。