克拉美罗下界 CRLB的计算

       克拉美罗下界 Cramer-Rao Lower Bound (CRLB)可以用于计算无偏估计中能够获得的最佳估计精度，因此经常用于计算理论能达到的最佳估计精度，和评估参数估计方法的性能（是否接近CRLB下界）。这里选择上传了几个讲解非常清楚的PPT：http://download.csdn.net/download/u013701860/10006266

总的来说，CRLB的计算为以下几个步骤：

1，构建N的观测量x[n]与估计参数θ的联合概率密度函数 p(X ; θ)=Π p(x[n] ; θ)，然后求对数，得到对数似然函数。

2，用对数似然函数对参数θ求二阶导数

3，如果结果依赖于x[n]，则求期望，否则跳过。这个期望就是费雪信息。

连续函数则为

注意这里的期望是仅仅是对每个x[n]求取的，同时该期望不是求这N个观测量的平均，而是理论期望。例如，如果x[n]为依赖于n的正太分布N(kn , σ2)，那么x[n]的期望就是kn。如果不知道期望，应该也可以就用x[n]近似，因为其期望也是其若干采样的平均。

4，求费雪信息的倒数即可得到CRLB下界

实际的CRLB可能跟参数θ本身有关，那么则需要先知道（预估）θ（仿真的时候一般知道实际参数值，实际实验应该只能先估计θ），再计算其预估精度CRLB。

另外，有的函数导数比较复杂，很难求导，这样可以用数值方法求取一阶二阶导数：

举个例子（自创）

求定位成像参数估计得最佳精度

该图案为相机拍摄到的单分子成像图案，可以用一个高斯函数近似其强度分布（点扩散函数PSF）。只考虑泊松分布的散粒噪声（shot noise）。

总共有5个参数：A（峰值强度），x0, y0 (高斯函数横向和纵向的位置），σ（PSF宽度），B（背景强度）。

推导过程如下（字写得太丑，请见谅）：

这里二阶导基本上只能用数值微分来求解。

后续的优化是用精确的PSF，而不是高斯的PSF，后续则完全一样。当然还可以考虑读出噪声。