误差椭圆

原文链接：https://blog.csdn.net/u010182633/article/details/45924061

介绍

在这篇文章中，我将展示如何绘制二维正态分布数据的误差椭圆，又名置信椭圆。误差椭圆代表高斯分布的等值轮廓线，并允许可视化一个2D置信区间。下图显示了一组二维正态分布数据样本的95％置信椭圆。这个置信椭圆定义的区域包含了95％的样本，这些样本可以从潜在高斯分布中得到。

在接下来的章节中，我们将讨论如何获得不同置信度（如99％置信区间）的置信椭圆，我们将展示如何用Matlab或C ++代码绘制这些椭圆。

轴对齐的置信椭圆

导出得到误差椭圆的一般方法之前，我们先看看特殊情况，椭圆的长轴平行X轴，如下图：

上图展示出了椭圆的角度由数据的协方差确定。在这种情况下，协方差为零，使得数据是不相关的，从而导致轴对齐误差椭圆。

此外，椭圆轴的大小取决于数据的方差。在我们的例子中，X轴方向的方差最大，Y轴方向的方差最小。

一般情况下，长轴为2a，短轴为2b，原点为中心的轴对齐椭圆的方程式定义如下：

在我们的例子中，轴的长度由数据的标准差定义，这样的话误差椭圆的方程式变为：

其中s定义椭圆的规模，可以是任意的数（例如，s=1）。现在的问题是如何选择s，使得所得到的椭圆规模代表我们所选择的置信水平（例如，95％的置信水平对应于s =5.991）。

我们的2D数据从零协方差的高斯分布中采样得到。这意味着x值和y值也是高斯分布。因此，等式（2）的左手侧实际上代表独立正态分布数据样本的平方和。根据所谓的卡方（Chi-Square）分布，高斯数据点平方的总和是已知的。卡方分布用“自由度”的形式定义，它表示未知量的数目来。在我们的例子中，有两个未知数，因此自由度是二。

因此，我们可以很容易地获取上述和的概率，通过计算卡方似然，s等于一个特定的值。事实上，由于我们感兴趣的是置信区间，我们正在寻找s小于或等于某个特定值的概率，这个特定值可以用累积卡方分布得到。由于统计人员都是懒惰的（这个翻译我也是醉了【好吧，其实就是我翻译的】原文为“As statisticians are lazy people”期待大家可以给出更好的翻译），我们通常无法尝试计算这个概率，而只是看一个概率表：https://people.richland.edu/james/lecture/m170/tbl-chi.html

例如，使用此概率表，我们可以很容易地发现，在2个自由度的情况下：

因此，95％置信区间对应于s=5.991。换言之，95％的数据将落入椭圆内：

类似地，99％的置信区间对应为s=9.210，90％置信区间对应于s=4.605。

图2显示的误差椭圆可以绘制成长轴长度等于，短轴长度。

任意置信椭圆

在数据是相关的情况下，例如存在协方差，所产生的误差椭圆不会是轴对齐的。在这种情况下，如果我们暂时定义一个新的坐标系，使得所述椭圆变为轴对齐，然后旋转所产生的椭圆，那么上面的结论依然有效。

换句话说，之前我们计算平行于x轴和y轴的方差，现在我们计算平行于置信椭圆长轴和短轴的方差，需要计算的方差方向由图1粉红和绿色箭头表示出来。

这些方向实际上是数据变化最多的方向，并用协方差矩阵定义。协方差矩阵可以看作是一个矩阵，该矩阵线性变换一些原始数据来获得当前观察到的数据。在之前特征向量和特征值的文章中，我们发现沿着这样一个线性变换的方向向量是变换矩阵的特征向量。事实上，图1中粉红色和绿色箭头所示的向量是数据协方差矩阵的特征向量，而向量的长度对应于特征值。

因此，特征值代表特征向量方向上数据的传播。换句话说，特征值代表特征向量方向上数据的方差。在轴对齐误差椭圆的情况下（即协方差等于零）特征值等于协方差矩阵的方差，特征向量等于x轴和y轴的定义。在任意相关数据的情况下，特征向量表示数据最大传播方向，而特征值定义这个传播有多大。

因此，95％置信椭圆可以类似地定义到轴对齐的情况，长轴长度为，短轴长度为，其中λ1和λ2表示协方差矩阵的特征值。

为了获得椭圆的方向，我们简单地计算最大特征向量的角度（以x轴为基准）：

其中v1是对应于最大特征值的协方差矩阵的特征向量。

基于所述长轴长度，短轴长度和长轴与x轴之间的角度α，绘制置信椭圆变得很容易了。图3展示了几个置信度误差椭圆：

源码

http://download.csdn.net/download/u010182633/8729819

总结

在这篇文章中，我们介绍了如何根据选择的置信度来获得二维正态分布数据的误差椭圆。对于可视化或分析数据以及另一篇关于介绍PCA的文章中，这是非常有用的。
文章链接：http://blog.csdn.net/u010182633/article/details/45918737