【EM算法】

简单的掷二枚硬币

假设现在有两枚硬币A和B，,随机抛掷后正面朝上概率分别为$a$，$b$。为了估计这两个概率，做实验。硬币正反用随机变量$x$表示，正面$x=1$,反面$x=0$

问题1：已知每次使用哪个硬币，求硬币A和硬币B的参数

A	A	A	B	B
正	正	反	正	反

硬币A和B的参数就是$p$，$q$

• 使用频率统计方法计算
  $a=\frac{2}{3}$
  $b=\frac{1}{2}$
• 使用极大似然方法求参数
  极大似然函数表示法$l(\theta ,D)$，这里参数$\theta =\left\{a,b\right\}$，用数学方式表示数据$D=\left\{x_1,x_2,x_3,x_4,x_5\right\}$
  投硬币的结果服从伯努利分布,第 $i$ 次使用硬币 $A$ 投掷结果概率表示为 $p_{iA}=a^{x_i}(1-a{)}^{1-x_i}$。同样第 $i$ 次使用硬币 $B$ 投掷结果概率表示为 $p_{iB}=b^{x_i}(1-b{)}^{1-x_i}$。同样是进行第i次实验，实验结果表示使用两个数学表达式好像有点冗余了，有啥办法表示成一个呢？先使用把参数求出来在考虑。
  因此根据上表其实验结果出现的概率为$$P(D|\theta )=P(X|\theta )=p_{iA}^3{p}_{iB}^2\text{\hspace{1em}(0)}$$
  上式展开后并将随机变量 $x$ 具体数值带入可得$$P(X|\theta )=a^2(1-a)b(1-b)\text{\hspace{1em}(1)}$$
  最大似然估计，分别对参数 $a$ ，$b$ 求偏导可得 $a=\frac{2}{3}$ , $b=\frac{1}{2}$
  同样是进行第i次实验，实验结果表示使用两个数学表达式好像有点冗余了，从使用 $x$ 表示投掷硬币结果联想。如果添加一个随机变量表示第 $i$ 次实验是使用 $A$ 还是 $B$ 就行了。假如使用 $Z_i$ 表示第 $i$ 次实验使用了什么硬币。规定使用硬币 $A$ 时 $Z_i=1$ , 使用硬币 $B$ 时 $Z_i=0$ , 是不可以把 $Z_i$ 理解为使用硬币 $A$ 的概率呢？只不过这个概率在这个场景下非 0 即 1 。那么第 $i$ 次实验结果可表示为$$p_i=z_i{a}^{x_i}(1-a{)}^{1-x_i}+(1-z_i)b^{x_i}(1-b{)}^{1-x_i}\text{\hspace{1em}(2)}$$
  因此上表可以拓展为

A	A	A	B	B
正	正	反	正	反
$z_1=1$	$z_2=1$	$z_3=1$	$z_4=0$	$z_5=0$

把公式 2 带入 0 式得到的结果和 1 是一样的

问题2：未知每次使用哪个硬币，求硬币A和硬币B的参数

未知	未知	未知	未知	未知
正	正	反	正	反
$z_1=?$	$z_2=?$	$z_3=?$	$z_4=?$	$z_5=?$

铺垫了这么一些，才真正引入到本文正题 $EM(Expection-Maximization)$算法
引入了 $Z$ 之后，在 $Z$未知的情况下 ,0 式为
$$P(D|\theta )=P(X|\theta )=\sum _{Z}P(X，Z|\theta )=\prod _{i=1}^5(z_i{a}^{x_i}(1-a{)}^{1-x_i}+(1-z_i)b^{x_i}(1-b{)}^{1-x_i})\text{\hspace{1em}(3)}$$
如果将$z_i$具体值带入可以得到上式 0
如果直接应用最大似然因为有 $z$的存在，求不来。那如果 $z$ 已知不就可以了么，这就用到了EM算法。E指的是隐变量 $z$ 的expectaion，用E的expectation代替真是的 $z$ 带入极大似然函数就可以求出来模型参数 $\theta$ 。因为 $\theta$ 已知，又可以反过来求出 $z$ 的expectation，从而迭代下去可能直至收敛到真实值。

• EM初探
  设定参数初始值$a=0.7,b=0.4$。当然，可以设定其他的，那样就可能不一定收敛到真实值。
  第一次实验结果为正，在假设 $a=0.7,b=0.4$ 的情况下，使用硬币 A 的概率为？ $\frac{0.7}{0.7+0.4}$ ，使用硬币 B 的概率为 ？$\frac{0.4}{0.7+0.4}$

  • 可以使用统计方法
    使用硬币 A 的概率为 $\frac{0.7}{0.7+0.4}$ ，使用硬币 B 的概率为 $\frac{0.4}{0.7+0.4}$
  • 其实这个统计方法来源于条件概率和贝叶斯公式
    根据条件概率和贝叶斯公式 $P(A|正)=\frac{P(A)P(正|A)}{P(正)}$， $P(B|正)=\frac{P(B)P(正|B)}{P(正)}$
    从而可以看出使用硬币 A 的概率要大于使用硬币 B的概率，粗糙点直接判定改次实验就是使用硬币 A了。同理将其他四组实验估计完可以将$z_i$填上，如下表

A	A	A	B	B
正	正	反	正	反
$z_1=1$	$z_2=1$	$z_3=1$	$z_4=0$	$z_5=0$

这不就转换为了问题1么。。。然后根据极大似然求出来$a=\frac{2}{3},b=\frac{1}{2}$，别忘了EM是迭代算法，最终结束条件是收敛未知。因此将参数$a=\frac{2}{3},b=\frac{1}{2}$带入再次估计使用硬币 A 的概率为？ $\frac{0.7}{0.7+0.4}$ ，使用硬币 B 的概率为 ？$\frac{0.4}{0.7+0.4}$ ，啊 。。。收敛了

• EM进阶
  在EM初探中，有一步是使用 A 的概率大于使用 B 的概率，就直接把 $z_i$ 写成1了，其实完全可以用一个小于 1 的概率来表示，通常我们把这个概率叫 Expectation，这就是EM中E的由来吧
  因此此时 $z_i=\frac{7}{11}$，带入上式 3，又一次回到了问题1。然后求出来下一迭代时刻的参数 $a$,$b$，这个步骤不就是Maximization么，这一边完成了一次EM，然后根据$a$,$b$，又可以求出来 $zi$。。。就迭代吧