UA MATH563 概率论的数学基础 中心极限定理23 概率测度族的紧性
UA MATH563 概率论的数学基础 中心极限定理23 概率测度族的紧性
给定一个度量可测空间 ( Ω , F ) (\Omega,\mathcal{F}) (Ω,F)，度量为 d d d，我们可以在这个可测空间上定义概率测度，用 C \mathcal{C} C表示这个可测空间上所有可能的概率测度，接下来我们试图研究 C \mathcal{C} C的紧性。之所以要讨论概率测度族的紧性是因为我们前几讲讨论的是概率测度的收敛，我们希望概率测度的极限也是概率测度，特别是在中心极限定理中，我们希望极限分布也能是一个分布，因此我们需要紧的概率测度族。
例 概率测度的极限可能不是概率测度，比如 μ n = a δ n + ( 1 − a ) v \mu_n = a\delta_n+(1-a)v μn=aδn+(1−a)v，其中 v v v是概率测度，不妨假设 v = δ 0 v = \delta_0 v=δ0，则
F n ( x ) = { 1 − a , x < n 1 , x ≥ n → 1 − a F_n(x) = \begin{cases} 1-a, x
显然 F ( x ) = 1 − a F(x)=1-a F(x)=1−a不是一个cdf。我们称这样的概率测度它取极限后存在"mass loss"。
Helly定理
假设 F n F_n Fn是实数上的一列累积分布函数，则存在它的子列 F n k F_{n_k} Fnk使得
F n k → F F_{n_k} \to F Fnk→F
其中 F F F是非减、右连续、取值在 [ 0 , 1 ] [0,1] [0,1]上的函数，这样的收敛在老文献被称为vague convergence。
说明
尽管 F F F本身不是一个累积分布函数，但是根据 F F F我们可以导出一个Lebesgue-Stieltjes测度 μ F \mu_F μF，并基于 μ F \mu_F μF导出一个概率测度。
证明
∀ q ∈ Q \forall q \in \mathbb{Q} ∀q∈Q，存在 F n F_n Fn的子列收敛到 G ( q ) G(q) G(q)，定义
F ( x ) = inf { G ( q ) : q > x , q ∈ Q } F(x) = \inf\{G(q):q>x,q \in \mathbb{Q}\} F(x)=inf{ G(q):q>x,q∈Q}
验证 F F F是一个非减、右连续、取值在 [ 0 , 1 ] [0,1] [0,1]上的函数即可。
概率测度的紧性
称 { F n } \{F_n\} { Fn}或者 { μ n } \{\mu_n\} { μn}是紧的(tight)，如果 ∀ ϵ > 0 \forall \epsilon>0 ∀ϵ>0， ∃ K \exists K ∃K紧集， K ⊂ Ω K \subset \Omega K⊂Ω，使得
sup n μ n ( K C ) < ∞ \sup_n \mu_n(K^C)<\infty nsupμn(KC)<∞
也就是说存在一个概率1的紧集。
定理
假设 { F n } \{F_n\} { Fn}是一列分布，它的每个子列的极限都是分布的充要条件是 F n F_n Fn是紧的。
证明
⇐ \Leftarrow ⇐：如果 F n F_n Fn是紧的， F n k F_{n_k} Fnk是它的一个子列， F n k → F F_{n_k} \to F Fnk→F，我们需要说明 F F F也是分布。
根据Helly定理，存在一个子列 F n k l F_{n_{k_l}} Fnkl收敛到 G G G，因为 F n k → F F_{n_k} \to F Fnk→F，所以 F = G F=G F=G，于是 F F F也是非减、右连续、取值在 [ 0 , 1 ] [0,1] [0,1]上的函数。
因为 F n F_n Fn是紧的， ∀ ϵ > 0 , ∃ M > 0 \forall \epsilon>0,\exists M>0 ∀ϵ>0,∃M>0， sup n P ( ∣ X n ∣ > M ) < ϵ sup n ( F n ( − M ) + 1 − F n ( M ) ) < ϵ \sup_nP(|X_n| >M)<\epsilon \\ \sup_n (F_n(-M)+1-F_n(M))<\epsilon nsupP(∣Xn∣>M)<ϵnsup(Fn(−M)+1−Fn(M))<ϵ
不妨假设 M M M是一个连续点(分布函数的连续点是稠密的)，如果 x > M x>M x>M，则
F ( x ) ≥ F ( M ) = lim F n k ( M ) ≥ 1 − ϵ F(x) \ge F(M) = \lim F_{n_k}(M) \ge 1-\epsilon F(x)≥F(M)=limFnk(M)≥1−ϵ
于是 lim x → ∞ F ( x ) = 1 \lim_{x \to \infty} F(x) = 1 limx→∞F(x)=1，类似地可以说明 lim x → − ∞ F ( x ) = 0 \lim_{x \to -\infty}F(x) = 0 limx→−∞F(x)=0。
⇒ \Rightarrow ⇒:假设 F n F_n Fn不紧， ∃ ϵ > 0 \exists \epsilon>0 ∃ϵ>0， ∀ M > 0 \forall M>0 ∀M>0， sup n P ( ∣ X n ∣ > M ) > ϵ \sup_n P(|X_n|>M)>\epsilon supnP(∣Xn∣>M)>ϵ，也就是对于每一个 M M M，我们总是可以找到一个 F n M F_{n_M} FnM，使得
sup n ( F n M ( − M ) + 1 − F n M ( M ) ) > ϵ \sup_n (F_{n_M}(-M)+1-F_{n_M}(M))>\epsilon nsup(FnM(−M)+1−FnM(M))>ϵ
根据Helly定理，我们总是可以找到一个收敛的子列，基于它的极限可以构造一个L-S测度，我们记它的极限为 F F F，给定 l < M l
F ( − l ) + ( 1 − F ( l ) ) = lim ( F n M ( − M ) + 1 − F n M ( M ) ) > ϵ F(-l)+(1-F(l)) = \lim (F_{n_M}(-M)+1-F_{n_M}(M))>\epsilon F(−l)+(1−F(l))=lim(FnM(−M)+1−FnM(M))>ϵ
于是根据极限的保号性，
lim l F ( − l ) + ( 1 − F ( l ) ) > ϵ \lim_{l}F(-l)+(1-F(l)) >\epsilon llimF(−l)+(1−F(l))>ϵ
这与基于 F F F可以构造一个L-S测度矛盾。
在上面的定理中，我们证明紧性的方法是反证法，紧性不成立可以导出与Helly定理矛盾的结果，于是我们可以得到紧性。但反证法在实际问题的应用中比较麻烦，我们希望导出一些更“好用”的结果。
紧性的充分条件 sup n E ∣ X n ∣ α < ∞ , ∀ α > 0 \sup_n E|X_n|^{\alpha}<\infty,\forall \alpha>0 supnE∣Xn∣α<∞,∀α>0
说明
μ n ( [ − M , M ] C ) = P ( ∣ X n ∣ > M ) = P ( ∣ X n ∣ α > M α ) ≤ E ∣ X n ∣ α M α ≤ sup n E ∣ X n ∣ α M α \mu_n([-M,M]^C) = P(|X_n|>M) = P(|X_n|^{\alpha}>M^{\alpha}) \\ \le \frac{E|X_n|^{\alpha}}{M^{\alpha}} \le \frac{\sup_n E|X_n|^{\alpha}}{M^{\alpha}} μn([−M,M]C)=P(∣Xn∣>M)=P(∣Xn∣α>Mα)≤MαE∣Xn∣α≤MαsupnE∣Xn∣α
取 M α > c o n s t . / ϵ M^{\alpha}>const. / \epsilon Mα>const./ϵ即可。