度量空间（metric space）

参考文章：(GTM135)Advanced Linear Algebra

度量空间

定义

度量空间（metric space）是二元组$(M,d)$，其中$M$是非空集合，度量（metric）是$d:M\times M\to R$是实值函数，它有如下性质：

1. 正定性（positive definiteness）：$\forall x,y\in M,d(x,y)\ge 0$，并且$d(x,y)=0⟺x=y$
2. 对称性（symmetry）：$\forall x,y\in M,d(x,y)=d(y,x)$
3. 三角不等式（triangle inequality）：$\forall x,y,z\in M,d(x,y)\le d(x,z)+d(z,y)$

我们将$d(x,y)\in R$叫做两点间的距离（distance）。

注意与测度空间 (measure space) 和测度（measure）做区分：metric针对集合中的两个点，measure针对集合。

例子

1. 集合$R^n$中，定义欧几里得度量（Euclidean metric）：
   $$d(x,y)=\sqrt{(x_1-y_1{)}^2+\cdots +(x_n-y_n{)}^2}$$

2. 集合$C^n$中，定义幺正度量/酉度量（unitary metric）：
   $$d(x,y)=\sqrt{|x_1-y_1{|}^2+\cdots +|x_n-y_n{|}^2}$$

3. 集合$C[a,b]$由所有定义在区间$[a,b]$上的连续复值函数组成，定义上确界度量（sup metric）：
   $$d(f,g)=\underset{x\in [a,b]}{\sup }|f(x)-g(x)|$$

4. 离散度量空间$M$，定义离散度量（discrete metric）
   $$d(x,y)=\{\begin{array}{rlr}0,& & x=y\\ 1,& & x\ne y\end{array}$$

5. 对于$p\ge 1$，令集合$l^p$包含所有的复数序列$x=(x_n)$，它们满足
   $$\sum _{n=1}^{\infty }|x_n{|}^p<\infty$$
   定义$p-$范数（$p-norm$）：
   $$\Vert x{\Vert }_p={\left(\sum _{n=1}^{\infty }|x_n{|}^p\right)}^{1/p}$$
   于是度量可以为$d(x,y)=\Vert x-y{\Vert }_p$

6. 集合$l^{\infty }$包含所有的有界复数序列，定义度量：
   $$d(x,y)=\underset{n}{\sup }|x_n-y_n|$$

Holder’s inequality：令$p,q\ge 1,p+q=pq$，如果$x\in l^p,y\in l^q$，那么乘积序列$xy=(x_n{y}_n)\in l^1$，并且$\Vert xy{\Vert }_1\le \Vert x{\Vert }_p\Vert y{\Vert }_q$

Cauchy–Schwarz inequality：令$p=q=2$，于是有
$$\sum _{n=1}^{\infty }|x_n{y}_n|\le \sqrt{\sum _{n=1}^{\infty }|x_n{|}^2}\sqrt{\sum _{n=1}^{\infty }|y_n{|}^2}$$
Minkowski’s inequality：令$p\le 1$，如果$x,y\in l^p$，那么加和序列$x+y=(x_n+y_n)\in l^p$，并且$\Vert x+y{\Vert }_p\le \Vert x{\Vert }_p+\Vert y{\Vert }_p$

开集和闭集

令$(M,d)$是度量空间，$x_0\in M$，$r\in R$，定义：

1. 开球（open ball）：$B(x_0,r)=\{x\in M:d(x,x_0)<0\}$
2. 闭球（closed ball）：$\bar{B}(x_0,r)=\{x\in M:d(x,x_0)\le 0\}$
3. 球面（sphere）：$S(x_0,r)=\{x\in M:d(x,x_0)=0\}$

我们说子集$S\subseteq M$是开的（open），如果对于任意的$x\in S$，都存在一个$r>0$，使得$B(x,r)\subseteq S$。注意，空集是开的。我们说子集$T\subseteq M$是闭的（closed），如果他的补集$T^c$是开的。明显，开球是开集，闭球是闭集。

存在不开不闭的子集，比如$R$中的$[a,b),a<b$。存在即开又闭的子集，比如$R$上的空集$\varnothing$以及全空间$R$。

令$X$是非空集合，令$O$是对$X$子集的收集，叫做$X$的拓扑（topology），如果它有以下性质：

1. $\varnothing \in O$，$X\in O$
2. 如果$S,T\in O$，那么$S\cap T\in O$
3. 如果$\{S_i:i\in O\}$是$O$的有限个子集，那么${\cup }_{i\in K}{S}_i\in O$

我们将二元组$(X,O)$叫做拓扑空间（topological space）

令$M$是度量空间，那么对其中所有开集的收集$O$是一个关于$M$的拓扑，叫做由度量诱导（induced）的拓扑。

收敛

令度量空间$(M,d)$里的序列$(x_n)$收敛（converges）于$x\in M$，记做$(x_n)\to x$，如果满足
$$\underset{n\to \infty }{\lim }d(x_n,x)=0$$
或者说，$\forall ϵ>0,\exists N>0$，
$$n>N\Rightarrow x_n\in B(x,ϵ)$$
我们将$x$叫做$(x_n)$的极限（limit）

令$M$是度量空间，子集$S\subseteq M$是闭的$⟺$ $S$内的收敛的序列收敛于$S$内的点，即$(x_n)\to x$那么$ x \in S$

闭包

令$M$是度量空间，子集$S\subseteq M$的闭包（closure）是包含$S$的最小闭集，记做$cl(S)$。对于任意子集$S$，闭包一定存在，它是所有包含$S$的闭集的交集。

令$S\subseteq M$是非空集合，一个元素$x\in M$叫做极限点（limit point）或者聚点（accumulation point），如果以$x$为中心的开球与$S$的交集包含一个点$x^{\prime }\ne x$，将$S$的所有极限点的集合记做$l(S)$

令$S$是度量空间$M$的非空子集，那么：

1. $x\in l(S)⟺\exists (x_n)\subseteq S,\forall n,x_n\ne x,(x_n)\to x$
2. $S$是闭的$⟺l(S)\subseteq S$
3. $cl(S)=S\cup l(S)$
4. $x\in cl(S)⟺\exists (x_n)\subseteq S,(x_n)\to x$

稠密集

令$S$是度量空间$M$的子集，我们称它是在$M$中稠密的（dense），如果$cl(S)=M$，即稠密集的闭包是全空间。如果$M$包含可数的稠密集，那么我们称它是可分的（separable）。

易知，若$S$是$M$的稠密集，那么$\forall x\in M$，任意半径的开球与$S$相交于至少一个点，即$B(x,r)\cap S\ne \varnothing$

例子

任意度量空间$M$都是其自身的稠密集，不是所有度量空间都包含可数的稠密集：

1. $R^n$是可分的，其中$Q^n=(Z\times Z{)}^n$是可数的稠密集
2. $C^n$是可分的，其中$(Q\times Q{)}^n$可数的稠密集
3. 一个离散度量空间是可分的$⟺$它本身是可数的，因为它的稠密集只有本身
4. 空间$l^{\infty }$不可分。令$S=\{(x_n):x_i\in \{0,1\},\forall i\}$是一个子集，明显它的基数为$2^{{\aleph }_0}>{\aleph }_0$，并且若$x,y\in S,x\ne y$，那么$d(x,y)=1$。即，$l^{\infty }$中包含一个不可数的离散子集，从而不存在可数的稠密集。
5. 空间$l^p$可分。可以证明$S=\{(q_1,\cdots ,q_n,0,\cdots ):\forall n>0,\forall q_i\in Q\}$是稠密集：由于${\sum }_{n=1}^{\infty }|x_n{|}^p<\infty$，因此对于任意的$ϵ$，存在$N>0$，使得${\sum }_{n=N+1}^{\infty }|x_n{|}^p<ϵ/2$。同时$Q^n$是$R^n$的稠密集，从而存在$s=(q_1,\cdots ,q_N,0,\cdots )$，使得${\sum }_{n=1}^N|x_n-q_n{|}^p<ϵ/2$。于是，$d(x,s{)}^p=ϵ/2+ϵ/2=ϵ$，即$S$是稠密集。

连续

令$(M,d),(M^{\prime },d^{\prime })$是两个度量空间，我们说函数$f:M\to M^{\prime }$在点$x_0\in M$上是连续的（continuous），如果对于任意的$ϵ>0$，都存在$\delta >0$使得
$$d(x,x_0)<\delta \Rightarrow d^{\prime }(f(x),f(x_0))<ϵ$$
或者说，
$$f(B(x_0,\delta ))\subseteq B(f(x_0),ϵ)$$
如果函数$f$在任意的$x_0\in M$都连续，我们说$f$是连续的。

收敛与连续的关系：函数$f:M\to M^{\prime }$是连续的$⟺(x_n)\to x_0\in M\Rightarrow (f(x_n))\to f(x_0)\in M^{\prime }$

令$(M,d)$是度量空间，如果$(x_n)\to x,(y_n)\to y$，那么$d(x_n,y_n)\to d(x,y)$，即度量是连续函数。

完备性

令$(x_n)$是度量空间$M$里的序列，称它为柯西序列（Cauchy sequence），如果对于任意的$ϵ>0$都存在$N>0$，使得
$$n,m>N\Rightarrow d(x_n,x_m)<ϵ$$
令$(M,d)$是度量空间，称$M$是完备的（complete），如果$M$里任意的柯西序列都在$M$中收敛。称子集$S\subseteq M$是完备的$⟺$任意的柯西序列$(s_n)\in S$都收敛于$S$中元素。

令$(M,d)$是度量空间，

1. $M$的任意完备子空间都是闭的
2. 如果$M$是完备的，那么子空间$S$是完备的$⟺S$是闭的

例子

1. 实数集$R$和复数集$C$都是完备的

2. 欧几里得空间（Euclidean space）$R^n$是内积空间，其标准内积（standard inner product）定义为
   $$<(r_1,\cdots ,r_n),(s_1,\cdots ,s_n)>=r_1{s}_1+\cdots +r_n{s}_n$$
   由内积诱导的度量为$d(x,y)=\sqrt{<x-y,x-y>}$，$(R^n,d)$是完备的

3. 酉空间（Unitary space）$C^n$是内积空间，其标准内积（standard inner product）定义为
   $$<(r_1,\cdots ,r_n),(s_1,\cdots ,s_n)>=r_1{\bar{s}}_1+\cdots +r_n{\bar{s}}_n$$
   由内积诱导的度量为$d(x,y)=\sqrt{<x-y,x-y>}$，$(C^n,d)$它是完备的

4. 集合$C[a,b]$由所有定义在区间$[a,b]$上的连续复值函数组成，使用上确界度量$d(f,g)=\underset{x\in [a,b]}{\sup }|f(x)-g(x)|$，它是完备的

5. 度量空间$l^{\infty }$和$l^p$都是完备的

等距映射

令$(M,d),(M^{\prime },d^{\prime })$是两个度量空间，函数$f:M\to M^{\prime }$叫做等距映射（isometry），如果对于任意的$x,y\in M$都有
$$d^{\prime }(f(x),f(y))=d(x,y)$$
若$f$是双射，那么我们说$M,M^{\prime }$是等距同构（isometric），记做$M\approx M^{\prime }$

一个等距映射$f$，有如下性质

1. $f$是单射，因为$f(x)=f(y)⟺d^{\prime }(f(x),f(y))=0⟺x=y$
2. $f$是连续的，因为如果$(x_n)\to x\in M$，那么$d’(f(x_n),f(x))=d(x_n,x)\to 0$，即$(f(x_n))\to f(x)$
3. $f^{-1}:f(M)\to M$也是等距映射

完备化

令$(M,d)$是任意的度量空间，总是存在一个完备的度量空间$(M^{\prime },d^{\prime })$以及一个等距映射$\tau :M\to \tau M\subseteq M’$，使得$\tau M$是一个稠密集。这里$(M^{\prime },d^{\prime })$叫做$(M,d)$的一个完备化（completion）。另外，如果要求$\tau$是双射（即$|M|=|\tau M|$），那么$(M^{\prime },d^{\prime })$是唯一的。

1. $M$的柯西序列集合

令$CS(M)$包含所有的$M$里的柯西序列。

若$f,g\in CS(M)$，那么$d(f(n),f(m))\to 0$且$d(g(n),g(m))\to 0$，用两次三角不等式得到
$$|d(f(n),g(n))-d(f(m),g(m))|\le d(f(n),f(m))+d(g(n),g(m))\to 0$$
即序列$(d(f(n),g(n)))$是实数集上的柯西序列，从而极限存在且有限：
$$\underset{n\to \infty }{\lim }d(f(n),g(n))<\infty$$
在$CS(M)$上定义：
$$d^{\prime }(f,g):=\underset{n\to \infty }{\lim }d(f(n),g(n))$$
但这不是度量，因为对于$f\ne g$，依然可能有$d^{\prime }(f,g)=0$

2. 等价类

就如同利用素理想收集零因子那样使得商环成为整环，我们也利用等价类收集不满足度量性质的点，从而做出一个度量。

定义柯西序列的等价关系：$f\sim g⟺d^{\prime }(f,g)=0$

令$\overline{CS(M)}$包含$CS(M)$中所有的柯西序列等价类，对于$\bar{f},\bar{g}\in \overline{CS(M)}$，定义函数
$$d’(\bar{f},\bar{g}):=d^{\prime }(f,g)$$
其中$f\in \bar{f},g\in \bar{g}$

可以验证集合$\overline{CS(M)}$上的$d’$是良定义的（well-define），即
$$f’\sim f,g^{\prime }\sim g\Rightarrow d^{\prime }(f^{\prime },g^{\prime })=d^{\prime }(f,g)$$
另外，可以验证集合$\overline{CS(M)}$上的$d^{\prime }$符合度量需要的三条性质。因此，$(\overline{CS(M)},d^{\prime })$是一个度量空间，我们简记$M^{\prime }=\overline{CS(M)}$

3. 将$(M,d)$嵌入$(M^{\prime },d^{\prime })$

对于一个$x\in M$，令$[x]$是一个常柯西序列，即$[x](n)=x,\forall n$

定义映射
$$\begin{array}{rl}\tau :M& \to M^{\prime }\\ x& \mapsto \overline{[x]}\end{array}$$
由于$d’(\tau x,\tau y)=d^{\prime }(\overline{[x]},\overline{[y]})=d^{\prime }([x],[y])=d(x,y)$，因此它是等距映射。

对于任意的$\bar{f}\in M^{\prime }$，$f\in \bar{f}$是柯西序列，从而对于任意的$ϵ>0$，都存在$N>0$，使得$n,m\ge N\Rightarrow d(f(n),f(m))<ϵ$，故而有
$$d^{\prime }(\bar{f},\overline{[f(N)]})=d^{\prime }(f,[f[N]])\le ϵ$$
也就是说总存在常柯西序列$[f[N]]$，它所在的等价类距离$\bar{f}$任意近，因此$\tau M$是度量空间$M^{\prime }$的稠密集。

4. $(M^{\prime },d^{\prime })$是完备的

若令$[{\bar{f}}_k]$是$M^{\prime }$里的一个任意一个柯西序列，为了证明$M^{\prime }$是完备的，我们需要找到一个$M^{\prime }$内的元素$\bar{g}$，使得$d^{\prime }({\bar{f}}_k,\bar{g})\to 0$

由于$\tau M$是$M^{\prime }$的稠密集，因此存在$M$里的常柯西序列$[c_k]$，使得
$$d’({\bar{f}}_k,\overline{[c_k]})<1/k$$
我们令$g(k)=c_k$，那么$g$是$M$里的柯西序列：
$$\begin{array}{rl}d(g(k),g(j))& =d^{\prime }(\overline{[c_k]},\overline{[c_j]})\\ & \le d^{\prime }(\overline{[c_k]},{\bar{f}}_k)+d^{\prime }({\bar{f}}_k,{\bar{f}}_j)+d^{\prime }({\bar{f}}_j,\overline{[c_j]})\\ & \le 1/k+d^{\prime }({\bar{f}}_k,{\bar{f}}_j)+1/j\\ & \to 0\end{array}$$
明显的，
$$\begin{array}{rl}{d}^{\prime }({\bar{f}}_k,\bar{g})& \le d^{\prime }({\bar{f}}_k,\overline{[c_k]})+d^{\prime }(\bar{g},\overline{[c_k]})\\ & <\frac{1}{k}+d^{\prime }(g,[c_k])\\ & =\frac{1}{k}+\underset{n\to \infty }{\lim }d(c_n,c_k)\end{array}$$
由于$g=(c_k)$是柯西序列，因此对于任意的$ϵ>0$总存在$N>0$
$$k>N\Rightarrow \underset{n\to \infty }{\lim }d(g(n),g(k))\le ϵ$$
随着$k\to \infty$，我们有$d^{\prime }({\bar{f}}_k,\bar{g})<1/k+ϵ\to 0$，即${\bar{f}}_k\to \bar{g}$

因此，$M^{\prime }$内任意的柯西序列$[{\bar{f}}_k]$，都存在$M^{\prime }$内部的一个元素$\bar{g}$，使得序列收敛于它，从而$M^{\prime }$是完备的。

5. 唯一性

假设$(M^{\prime },d^{\prime }),(M^{\prime \prime },d^{\prime \prime })$都是$(M,d)$的完备化，且$\tau :M\to \tau M\subseteq M^{\prime }$和$\sigma :M\to \sigma M\subseteq M^{\prime \prime }$都是可逆的等距映射。

令$\rho =\sigma {\tau }^{-1}$是从$\tau M$到$\sigma M$的可逆等距映射，我们证明$\rho$可以扩展为从$M^{\prime }$到$M^{\prime \prime }$的可逆等距映射：

1. 由于$\tau M$是$M^{\prime }$的稠密集，因此任意的元素$x^{\prime }\in M^{\prime }$，都存在$\tau M$里的柯西序列$(a_n)\to x$
2. 由于$\rho$是等距映射，从而$(\rho (a_n))$是$\sigma M$里的柯西序列，那么$(\rho (a_n))\to y\in M^{\prime \prime }$

我们定义$\forall x\in M^{\prime },{\rho }^{\prime }(x)=y\in M^{\prime \prime }$，可以证明它是良定义的，它是$\rho$的扩展，它是等距映射，它是满射。从而${\rho }^{\prime }$是一个可逆的等距映射，最终证明了
$$M^{\prime }\approx M^{\prime \prime }$$

希尔伯特空间

令$V$是域$F=\mathbb{R}or\mathbb{C}$上的向量空间，内积（inner product）是一个函数$<\cdot ,\cdot >:V\times V\to F$，它满足以下性质

1. 正定性（positive definiteness）：$\forall v,<v,v>\ge 0$，且$<v,v>=0⟺v=0$
2. 如果$F=R$，对称性（symmetry）：$<v,u>=<u,v>$
3. 如果$F=C$，共轭对称性（conjugate symmetry）：$<v,u>=\overline{<u,v>}$
4. 第一分量的线性（Linearity in the first coordinate）：$<ru+sv,w>=r<u,w>+s<v,w>$

我们将$(V,<\cdot ,\cdot >)$叫做内积空间（real/complex inner product space），容易验证，

1. 对于实内积空间，内积是双线性的（bilinear）：$<w,ru+sv>=r<w,u>+s<w,v>$
2. 对于复内积空间，内积是共轭线性的（conjugate linear）：$<w,ru+sv>=\bar{r}<w,u>+\bar{s}<w,v>$

定义由内积诱导的范数（norm）为
$$\Vert v\Vert =\sqrt{<v,v>}$$
我们定义由内积诱导的度量为
$$d(u,v)=\Vert u-v\Vert$$
容易验证$d$是度量，从而任意的内积空间$V$都是度量空间，且内积是连续的

1. $(x_n)\to x,(y_n)\to y\Rightarrow <x_n,y_n>\to <x,y>$
2. $(x_n)\to x\Rightarrow \Vert x_n\Vert \to \Vert x\Vert$

内积空间之间的等距映射$\tau$是保持内积的，$<\tau u,\tau v>=<u,v>$

希尔伯特空间（Hilbert space）：一个完备的内积空间，它的测度由内积诱导。

类似的，任意内积空间$V$都可以完备化得到一个Hilbert空间$H$，等距映射为$\tau :V\to H$，且$\tau V$是$H$的稠密集。

性质：

1. 内积空间的完备子空间都是闭的
2. Hilbert空间的子空间，它是Hilbert空间$⟺$它是闭的
3. 内积空间的有限维子空间都是完备的和闭的