为什么用标准差而不是平均差来反映数据的离散程度？

（提问）为什么用标准差而不是平均差来反映数据的离散程度？

高中时初接触统计学时学到之所以使用

image

这个先平方和后开方的公式就是为了防止离差相加后的正负相消，当时就很疑惑为什么不能直接使用绝对值来计算。
后来发现其实统计学中的确存在“平均差”这个概念，就是使用如下绝对值的方法来计算的：

image

那我们为什么使用标准差而非平均差来反映离散程度呢？

之前问过很多人这个问题，但一直没有得到满意的解答。大部分的回答集中为以下两条：

1. 两者都能反映离散程度，只是平方和计算更简单
2. 方差可导，性质好，其平方的性质延伸出了许多之后的计算与定义

针对第一条：对于同一组数据，肯定有标准差[图片上传失败...(image-2d0f99-1592106267667)]

平均差，两者对离散程度的反映是不一样的。
针对第二条：解答太过空洞，且略带有事后诸葛的色彩。
我的专业只是需要对统计学简单的应用，所以对概念理解得可能不够好。希望能有专业人士给出更详细的解答，指出：

• 标准差相对于平均差的优势具体体现在哪里？

• 当初定义组内数据离散程度的时候又可能是因为考虑到了哪些因素才选择了平方和开方的方式？

谢谢。

（1）

做个搬运工吧

学过线性代数的大概都知道经典的最小二乘方法来做线性回归。问题描述是：给定平面上 N 个点，（这里不妨假设我们想用一条直线来拟合这些点——回归可以看作是拟合的特例，即允许误差的拟合），找出一条最佳描述了这些点的直线。

一个接踵而来的问题就是，我们如何定义最佳？我们设每个点的坐标为 (Xi, Yi) 。如果直线为 y = f(x) 。那么 (Xi, Yi) 跟直线对这个点的“预测”：(Xi, f(Xi)) 就相差了一个 ΔYi = |Yi – f(Xi)| 。最小二乘就是说寻找直线使得 (ΔY1)^2 + (ΔY2)^2 + .. （即误差的平方和）最小，至于为什么是误差的平方和而不是误差的绝对值和，统计学上也没有什么好的解释。然而贝叶斯方法却能对此提供一个完美的解释。

我们假设直线对于坐标 Xi 给出的预测 f(Xi) 是最靠谱的预测，所有纵坐标偏离 f(Xi) 的那些数据点都含有噪音，是噪音使得它们偏离了完美的一条直线，一个合理的假设就是偏离路线越远的概率越小，具体小多少，可以用一个正态分布曲线来模拟，这个分布曲线以直线对 Xi 给出的预测 f(Xi) 为中心，实际纵坐标为 Yi 的点 (Xi, Yi) 发生的概率就正比于 EXP[-(ΔYi)^2]。（EXP(..) 代表以常数 e 为底的多少次方）。

现在我们回到问题的贝叶斯方面，我们要想最大化的后验概率是：

P(h|D) ∝ P(h) * P(D|h)

又见贝叶斯！这里 h 就是指一条特定的直线，D 就是指这 N 个数据点。我们需要寻找一条直线 h 使得 P(h) * P(D|h) 最大。很显然，P(h) 这个先验概率是均匀的，因为哪条直线也不比另一条更优越。所以我们只需要看 P(D|h) 这一项，这一项是指这条直线生成这些数据点的概率，刚才说过了，生成数据点 (Xi, Yi) 的概率为 EXP[-(ΔYi)^2] 乘以一个常数。而 P(D|h) = P(d1|h) * P(d2|h) * .. 即假设各个数据点是独立生成的，所以可以把每个概率乘起来。于是生成 N 个数据点的概率为 EXP[-(ΔY1)^2] * EXP[-(ΔY2)^2] * EXP[-(ΔY3)^2] * .. = EXP{-[(ΔY1)^2 + (ΔY2)^2 + (ΔY3)^2 + ..]} 最大化这个概率就是要最小化 (ΔY1)^2 + (ΔY2)^2 + (ΔY3)^2 + .. 。 熟悉这个式子吗？

原文http://mindhacks.cn/2008/09/21/the-magical-bayesian-method/

（2）

在统计学中（尤其是心理统计和计量经济），其实最主要的目标是在一组数据中找出一个最能反映数据趋势（集中程度）的回归函数[图片上传失败...(image-3e6468-1592106536857)]

，包括求出相应的估计量，也就是要让残差（或方差，或平均差）最小，即求Min[图片上传中...(image-911fc1-1592106536857-3)]

或者Min[图片上传失败...(image-9ff680-1592106536857)]

；其次，你可以试一下求使得上述两个方程得最小值（极小值）时的，当然，用的也就是多元微积分的方法（高数学过的），求导过后可以求出估计量[图片上传失败...(image-9e9f56-1592106536857)]

和[图片上传失败...(image-219744-1592106536857)]

，也就得出了回归函数是不是？最后你会发现用第一个方差的方程（也就是标准差的平方了，一样的）是比较好算的，但是用第二个平均差的方程是很难算的，事实上其统计理论是非常复杂的。结论是，用标准差（方差）是比较好推导无偏性、一致性等的一般统计上要用到的统计性质。

作者：知乎用户
链接：https://www.zhihu.com/question/22266542/answer/45155380
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。