一文了解泛函分析

重要！本文并不严谨，只提供直觉上的认知。

什么是空间？

空间是拥有某种性质的集合。比如任何东西放在一起都可以成为集合，桌子，椅子，数，矩阵，函数，甚至空……如果集合内的元素满足某些性质，我们就可以把这个集合称为空间。

什么是线性空间？

通俗的说，就是一个集合$X$满足下面的条件。
可以在这个集合上定义两种运算，我们记为 “+”（加法）和“.”（数乘）

• 对于“+”运算：任意两个在X中的元素$a,b$, 根据加法定义，$a+b$ 也是$X$中的元素。且此加法运算满足：
• 对于“.”运算：满足任意$X$中的元素$x$, 任意的实数$\lambda$, $\lambda x$也是$X$中的元素
• 且加法和数乘运算满足以下性质：（其中$a,b,c$是$X$中的元素，$\lambda ,\mu$是实数，$\theta$是$X$中的零元素）
  1. $a+b=b+a$
  2. $a+(b+c)=(a+b)+c$
  3. 零元素$\theta$唯一，且对于每个元素$a$存在唯一负元素$-a\in X$，满足: $a+(-a)=\theta$
  4. $\lambda (\mu a)=(\lambda \mu )a$
  5. $1x=x,0x=\theta$
  6. $\lambda (x+y)=\lambda x+\lambda y$
  7. $(\lambda +\mu )x=\lambda x+\mu x$

容易验证以下是线性空间：

• 实数域 $R$
• $n\ast m$ 的矩阵构成的集合
• n维向量
• 有限次数的多项式方程，如$f(x)=a_n{x}^n+a_{n-1}{x}^{n-1}+...+a_0$
• 所有区间 $[a,b]$ 之间的连续实函数构成的集合，记为$C[a,b]$
• 所有区间 $[a,b]$ 之间的具有k阶导数的连续实函数构成的集合，记为$C^k[a,b]$

什么是线性同构？

通俗的说，两个线性空间中的元素能够建立起一一对应的关系，那么这两个线性空间是同构的。
可以用下面的方法检验两个线性空间是否同构：
设有两个线性空间$X,\tilde{X}$，我们对这两个空间中的元素建立如下关系，对于任意$x\in X$，均有唯一的 $\tilde{x}\in \tilde{X}$ 使得 $\phi (x)=\tilde{x}$, 对于任意$x,y\in X$ 及 任意实数 $\lambda$ 有：

$$\begin{gathered} \phi (x+y)=\phi (x)+\phi (y) \\ \phi (\lambda x)=\lambda \phi (x) \end{gathered}$$

什么是子空间？

一般来说我们研究的空间都存在维度，比如N维向量，子空间通俗理解就是降维。子空间本身也是一个线性空间，且其每一个元素都属于原空间。例如，在三维空间 $R_3$ 中，任何过原点的平面都是 $R_3$ 的二维子空间。那么显然一个空间的子空间必须包含原空间中的零元素 $\theta$.

什么是仿射流形？

仿射流形就是一个子空间，与原空间某一元素的叠加（平移）。仿射流形并不一定是线性空间，因为其不一定包含零元素。
在二维平面中与过原地的直线L平行的所有直线都是对应于L的仿射流形。
同理在三维空间中，所有平行于过原点平面L的平面都是对应于L的二维仿射流形。

什么是距离空间？

距离空间在线性空间的基础上增加了对距离概念的定义。有了距离概念，就可以对空间中的元素进行拓扑排序。可以去定义开集，闭集等需要用距离去定义的概念。
距离的定义需要满足下面的几个约束：
非空集合 $X$ 中有两个元素 $x,y$，任意一对 $x,y$ 都有一个实数作为距离与其对应，我们把这个实数记为 $d(x,y)$ ，它满足：

1. $d(x,y)\ge 0$, 且 $d(x,y)=0$当且仅当 $x=y$
2. $d(x,y)=d(y,x)$
3. $d(x,y)\le d(x,z)+d(z,y)$， $z$ 也是$X$ 中的一个元素。

如果在一个集合上能完成上述定义，那么我们称 $d(x,y)$是 $x$ 和 $y$ 的距离，称 $X$ 是以 $d$ 为距离的距离空间。

通常，我们定义n维向量空间 $R_n$ 中两个元素 $x=[{\xi }_i{]}_{i=1}^n$, $y=[{\eta }_i{]}_{i=1}^n$ 的距离定义为：
$$d_2(x,y)=[\sum _{i=1}^n|{\xi }_i-{\eta }_i{|}^2{]}^{1/2}$$

有了距离就可以定义极限，序列$a_n$的极限是 $a$, 就可以表示为：
$$li{m}_{n\to \infty }d(a_n,a)=0$$

什么是线性赋范空间？

范数就是将集合中的每一个元素都对应到实数轴上的一个数（不要求一一对应），用来表示元素之间的绝对大小，这种对应关系的运算用 $||\cdot ||$ 表示。当然，如同距离的定义范数的定义也需要满足一些约束：

设 $E$ 为线性空间，如果对于 $E$ 中任意一个元素 $x$ ,都对应一个实数，记为 $||x||$, 且满足：

1. $||x||\ge 0$, 当且仅当 $x=\theta$ 时, $||x||=0$;
2. $||\lambda x||=|\lambda |||x||$, $\lambda$ 为实数；
3. $||x+y||\le ||x||+||y||,x,y\in E$

n维向量的空间中，L2范数可以定义为：
$$||x|{|}_2=\{\sum _{i=1}^n|{\xi }_i{|}^2{\}}^{1/2}$$

定理：在任意有限维线性赋范空间中，任何范数都是等价的。
此处不给出证明，直观理解这句话的意思就是，任何范数的定义方式都不会改变两个元素的相对大小关系，只是在实数轴上做拉伸或收缩。

什么是巴拿赫空间？

完备的线性赋范空间就是巴拿赫空间。解释一下完备，我们定义了距离和范数之后就可以定义极限，有时候一个序列（柯西序列）的极限并不在这个集合当中，比如在集合 $(0,1)$ 中的序列 $\frac{1}{n},n=1,2,3,...$，n趋于无穷大时，这个序列的极限是0，但0并不在集合 $(0,1)$ 中，此时，我们特别地将0加入集合，使集合变为 $[0,1)$, 那么我们就完成了一个完备化操作。而巴拿赫空间就是指空间中所有柯西序列都收敛于该空间中的元素。

显然，N维向量空间是一个巴拿赫空间，

什么是内积空间？

内积是用来研究两个元素之间关系的，内积是空间中两个元素经过一定运算后所对应的一个实数，记作：$(x,y)$。如同距离和范数的定义，内积的定义也需要满足一些性质。
设 $E$ 为实线性空间，如果对于$E$中任意两个元素 $x$ 和 $y$ ,定义其内积为 $(x,y)$ ，它满足：

1. $(x,x)\ge 0$, 当且仅当 $x=\theta$ 时，$(x,x)=0$
2. $(x,y)=(y,x)$
3. $(\lambda x,y)=\lambda (x,y)$, $\lambda$ 为任意实数
4. $(x+y,z)=(x,z)+(y,z)$

N维向量空间$R_n$中任意两个矢量 $x=[{\xi }_1,{\xi }_2,...,{\xi }_n{]}^T$ 和 $y=[{\eta }_1,{\eta }_2,...,{\eta }_n{]}^T$的内积可定义为：
$$(x,y)=\sum _{i=1}^n{\xi }_i{\eta }_i=x^{T}y$$

什么是希尔伯特空间？

使用内积定义范数：
$$||x||=\sqrt{(x,x)}$$
在内积空间中，使用上述方式定义范数，且完备（见巴拿赫空间）的空间，称为希尔伯特空间。

N维向量空间是希尔伯特空间。

=============================================================
了解什么是空间之后，我们尝试描述空间之间的关系，引入“算子”。

什么是算子？

算子是联系两个空间中元素的一种运算。
定义：设 $X$ 和 $Y$ 是两个给定的线性赋范空间，集合 $\mathcal{D}\subset X$。若对于 $\mathcal{D}$ 中每一个元素 $x$, 均对应于 $Y$ 中一个确定的元素 $y$, 就说这种对应关系确定了一个算子，通常用大写字母记作$T,A,...$，记为$y=Tx$ 或 $y=T(x)$。$y$ 称为$x$ 的象，$x$ 称为 $y$ 的原象。集合 $\mathcal{D}$称为算子 $T$ 的定义域，记作 $\mathcal{D}(T)$，而集合：
$$\mathcal{R}(T)=\{y\in Y;y=Tx,x\in \mathcal{D}(T)\}$$
称为算子 $T$ 的值域。

显然，算子是函数概念的一种推广。

比如一个n维向量 $x=[x_1,x_2,...,x_n{]}^T$ 要转化为一个m维向量 $y=[y_1,y_2,...,y_m{]}^T$，可以通过乘以一个m*n维的矩阵$A$，进行转化：
$$y=Ax$$矩阵A就是算子。

什么是线性算子？

当一个算子 $T$ 满足：

1. $T(x+y)=T(x)+T(y)$, 对任意的 $x,y\in \mathcal{D}(T)$
2. $T(\alpha x)=\alpha T(x)$, 对任意的$x\in \mathcal{D}(T)$ 和任意的实数 $\alpha$

则称 $T$ 是一个线性算子。

什么是有界算子？

通俗的说，算子 $T$ 的象的范数不会是无穷大，则算子是有界的。
定义： 如果存在正常数$M$，使得对每一 $x\in \mathcal{D}(T)$，均有：
$$||Tx|{|}_Y\le M||x|{|}_X$$则称算子 $T:X\mapsto Y$ 是有界的。

什么是连续算子？

通俗的说，如果原象连续，经过算子 $T$ 转化后，象也连续，那么算子是连续的。
定义：设 $T:X\mapsto Y$ ， $T$ 在 $x_0\in X$ 的邻域内有定义，假如当 $||x_n-x_0||\to 0$
时 （$n\to \infty$）有 $||T{x}_n-T{x}_0||\to 0(n\to \infty )$, 则称算子 $T$ 在$x_0$处是连续的，如果 $T$ 在$\mathcal{D}(T)$的每一点处都连续，则称 $T$ 是连续算子。
定理：线性算子如果在某一点连续，则在定义域内处处连续。（证明略）

什么是算子的范数？

先给出定义再解释：
定义：设 $T:X\mapsto Y$为有界线性算子，则对于一切 $x\in \mathcal{D}(T)$，使得不等式$$||Tx|{|}_Y\le M||x|{|}_X$$成立的所有正数M的下确界，称为算子 $T$ 的范数。

如何理解？
范数可以理解为大小，一个元素的范数就是一个元素的大小，一个算子的范数就是这个算子最多能把元素放大多少倍。我们求一个算子的范数的时候，固定算子T，然后变换$x\in X$, 得到了所有对应的 $y\in Y(y=Tx)$, 我们计算每一对 $x,y$ 的范数的放大倍数：$$\frac{||y|{|}_Y}{||x|{|}_X}$$ 这个序列的最大值或者它的极限（比它大的），称为算子的范数。

定理：设 $T:X\mapsto Y$为有界线性算子，则 $$||T||=su{p}_{||x||=1}||Tx||=su{p}_{x\ne \theta }\frac{||Tx||}{||x||}=su{p}_{||x||\le 1}||Tx||$$ （证明略）

如何计算矩阵算子的范数？

m*n矩阵A是连接两个欧氏空间 $E_n,E_m$ 的有界线性算子。则它的范数为：
$$||A||=su{p}_{||x||=1}||Ax||=ma{x}_{||x||=1}\sqrt{x^T{A}^{T}Ax}=ma{x}_{||x||=1}\sqrt{\lambda x^{T}x}=\sqrt{{\lambda }_{max}}$$ 其中，${\lambda }_{max}$为矩阵$A^{T}A$的最大特征值。

什么是算子空间？

了解完单个算子，我们来考察连接 $X,Y$ 两个空间的有界线性算子的全体， 记作$\mathcal{L}(X,Y)$。由于上面已经定义了算子的范数，且满足范数的三条公理（证明略），所以这样的算子空间已经可以成为一个线性赋范空间。

定理：设 $X$ 为线性赋范空间，而 $Y$ 为巴拿赫空间，则$\mathcal{L}(X,Y)$ 是巴拿赫空间。（证明略）

什么是算子的收敛？

我们定义了算子的范数后，就容易定义算子的依范数收敛，具体如下：
设$\{T_n\}$ 是 $L(X,Y)$ 中的基本列， 即任意小的数 $ϵ>0$， 存在自然数 $N$ ，使得当$n>N$ 是对任何自然数 $p$ 有,$$||T_{n+p}-T_n||<ϵ$$

而另一种收敛，强收敛的定义如下：
设 $\{T_n\}\subset \mathcal{L}(X,Y),T\in \mathcal{L}(X,Y)$, 如果对于任一 $x\in X$， 均有$||T_{n}x-Tx||\to 0$, 则称算子序列 $T_n$ 强收敛于算子 $T$。

我们希望找到一个空间$X$到空间 $Y$ 的目标算子$T$，那么我们就希望通过一个算子序列 $T_n$ 来逼近算子T，这种逼近就是强收敛。

强收敛有一些性质，本文不介绍，请读者拓展阅读。

什么是泛函？

值域为数域（实数域或复数域）的算子称为泛函。
为了简单我们只研究实数域。
通俗的说，如果某个算子能将一个空间映射到实数轴上，那么这个算子就是一个泛函。
比如，定积分运算，将函数空间映射到实数域。
又比如，内积运算，将n维向量空间映射到实数域。

什么是有界线性泛函？

值域为数域（实数域或复数域）的有界线性算子称为有界线性泛函。

什么是共轭空间（对偶空间）？

定义在整个线性赋范空间 $X$ 上的所有有界线性泛函所构成的空间 $\mathcal{L}(X,R_1)$ 称为空间 $X$ 的共轭空间（对偶空间），记作 $X^{\ast }$。

下面介绍两个共轭空间：

1. n维欧氏空间 $E_n$ 的对偶空间
   现设 $x\in E_n，x=[{\xi }_1,{\xi }_2,...,{\xi }_n]T$，设 $f(x)={\sum }_{i=1}^n{\xi }_i{\eta }_i$, 其中每个 $f$ 对应一个 $[{\eta }_1,{\eta }_2,...{\eta }_n]$。由我们前面的关于线性同构的定义，可以知道 $f$ 所处的泛函空间与 $E_n$ 是线性同构的。所以$$E_n^{\ast }=E_n$$
2. 希尔伯特空间的对偶空间
   希尔伯特空间中，固定$y\in H$，选择内积作为泛函，即$f(x)=(y,x)$, $y$ 与希尔伯特空间$H$中的元素一一对应。即：$$H^{\ast }=H$$
   在希尔伯特空间中，这种泛函形式是唯一的。（黎斯表现定理）（证明略）

什么是超平面？

线性赋范空间$X$中有界线性泛函的几何意义：它确定了$X$中的一个闭超平面。超平面是由泛函来确定的。
以N维欧氏空间为例，$f(x)={\sum }_{i=1}^n{\xi }_i{\eta }_i$，$f(x)=d$ 确定了一个超平面。
在3维空间中，任何二维平面是超平面，而直线不是超平面。

什么是二次共轭空间？

空间 $X$ 的共轭空间是 $X^{\ast }$，这是一个巴拿赫空间（证明略），那么它的共轭空间，我们记作 $X^{\ast \ast }$，即二次共轭空间。

什么是弱收敛？

定义 ：设$X$是线性赋范空间，$\{x_n\}\subset X,x_0\in X$, 如果对于每一个$f\in X^{\ast }$, 均有$li{m}_{n\to \infty }f(x_n)=f(x_0)$, 则称序列 $x_n$ 弱收敛于 $x_0$, 并记为$x_n\stackrel{弱}{⟶}{x}_0$ 。
弱收敛是一种比依范数收敛弱的条件，即依范数收敛可以推出弱收敛，弱收敛不能推出依范数收敛。
定义：设$X$为线性赋范空间，$\{f_n\}\subset X^{\ast },f_0\in X^{\ast }$，如果对于每一个$x\in X$均有，$f_n(x)\to f_0(x)$，则称泛函序列$f_n$弱*收敛于泛函$f_0$，记为$f_n\stackrel{弱}{⟶}{f}_0$

细心的读者可以注意到泛函序列的弱收敛和算子序列的强收敛定义相同。

什么是共线？

如果$x\in X$ 及 $fin{X}^{\ast }$ 满足 $$f(x)=<x,f>=||f||||x||$$ 则称泛函$f$ 与元素$x$ 共线。

什么是正交？

如果$<x,f>=0$ ，则称元素$x\in X$ 与 $f\in X^{\ast }$是正交的。

什么是共轭算子？

通俗的说，线性赋范空间$X,Y$，$X\to Y$的算子为$A$，而$X,Y$对应的泛函空间分别为$X^{\ast },Y^{\ast }$，则$Y^{\ast }\to X^{\ast }$ 的算子$A^{\ast }$ 就是$A$的共轭算子。
且$$||A^{\ast }||=||A||$$
例如，$X$为n维欧氏空间，$Y$ 为m维欧氏空间，$A=\mathcal{L}(X,Y)$，则对应的$A^{\ast }$为$A$的转置

什么是自共轭算子？

考虑希尔伯特空间中的算子$A$，其共轭算子由下式确定：$$(Ax,y)=(x,A^{\ast }y)$$,如果$A^{\ast }=A$，则称A式自共轭算子（或自伴算子）
在上一个例子中，如果$A$是n*n阶对称矩阵，则$A$是自共轭算子.

下面进入非线性泛函

什么是一阶变分？

设$X$为线性赋范空间，$x_0\in X$, $f(x)$是在$x_0$及其邻域内有定义的泛函，一般非线性，如果对于任意的$h\in X$ 极限 $$\underset{t\to 0}{\lim }\frac{f(x_0+th)-f(x_0)}{t}$$存在，记为$\delta f(x_0;h)$, 则称之为泛函$f(x)$在$x_0$处关于增量h的一阶变分。

什么是加脱可微？

在一阶变分的定义中如果$\delta f(x_0;h)$是关于$h$的有界线性泛函，记为$f^{\prime }(x_0)$：$$\delta f(x_0;h)=<h,f^{\prime }(x_0)>$$，则称泛函$f$在$x_0$处是加脱可微的。

加脱微分推广了微积分中的方向导数和梯度的概念。

什么是费力许可微？

设$X,Y$是巴拿赫空间，算子$F:X\to Y$(一般F是非线性的)，如果存在有界线性算子$A\in \mathcal{L}(X,Y)$使得关系式：$$\underset{t\to 0}{\lim }\frac{F(x_0+th)-F(x_0)}{t}=Ah$$对于满足$||h||=1$ 的 $h\in X$ 一致地成立的，则称算子$F$ 在点$x_0$处是费力许可微的。
表达式：$$dF(x_0;h)=F^{\prime }(x_0)h$$称为算子$F$在店$x_0$处关于增量$h$的费力许微分。

费力许可微是全微分的推广形式。

什么是有限增量公式？

设算子$F:X\to Y$在点$x_0$的邻域$S$内连续可微，则在$S$内成立一下有限增量公式：$$F(x_0+h)-F(x_0)=({\int }_0^1{F}^{\prime }(x_0+th)dt)h,x_0+h\in S$$