贝叶斯公式中的先验、后验以及似然

贝叶斯公式

$$p(\theta |x)=\frac{p(x|\theta )p(\theta )}{p(x)}$$

其中
$p(\theta |x)$ 后验分布 posterior：$\theta$ 基于 $x$ 的分布
$p(\theta )$ 先验分布 prior：$\theta$ 自身的分布
$p(x|\theta )$ 似然 likelihood：$x$ 基于 $\theta$ 的分布
$p(x)$ evidence: 常数，不重要

如果把 $\theta$ 看做原因，$x$ 看做结果，那么
（1）后验分布 = 由结果估计原因的概率分布
（2）先验分布 = 原因自身的概率分布
（3）似然 = 根据原因估计结果的概率分布

因此，贝叶斯公式的重要意义就是在于，如果知道

1. 原因自身的概率分布
2. 结果基于原因的概率分布（这样的因果逻辑在我们看来是正常的）

就能求得
原因基于结果的概率分布（这个看起来因果颠倒，但这正式贝叶斯公式的作用，即从结果推断原因）