量化投资 离散时间随机过程

量化投资 离散时间随机过程

状态空间 State Space

状态域和事件域

第一句话不知道怎么理解：

The uncertainty is about the realization of state of nature in a state space $\Omega$.

$\Omega$ ：状态空间，其子集叫做事件；

${\mathcal{F}}_t$ ：包括在 $t$ 时刻可观测到的所有事件；$\mathcal{F}(\omega {)}_t$ 是某个状态 $\omega$ 在状态空间 $\Omega$ 中实现时，在时间 $t$ 可观测到的事件集合；

性质 Properties：

1. ${\mathcal{F}}_t$ 构成了 $\Omega$ 上的 $\sigma$-代数；

百度百科：

在数学中，某个集合 $X$ 上的 $\sigma$ 代数（$\sigma$-algebra）又叫 $\sigma$ 域 ，是 $X$ 的所有子集的集合（也就是幂集）的一个子集。这个子集满足对于可数个集合的并集运算和补集运算的封闭性（因此对于交集运算也是封闭的）。 $\sigma$ 代数可以用来严格地定义所谓的“可测集”，是测度论的基础概念之一。

2. $\forall t$ ，$\Omega \in {\mathcal{F}}_t$ ；

为了确保概率论的完备性和一致性，我们希望能够考虑所有可能的情况。因此，我们假设整个状态空间 $\Omega$ 是可观测的，即我们可以观察到系统可能处于的任何状态。这意味着在任何给定的时间点 $t$，我们至少能观察到整个状态空间 $\Omega$，即 $\Omega \in {\mathcal{F}}_t$

3. $A\in {\mathcal{F}}_t$ $\to$ $A^c=\{\omega \in \Omega :\omega \notin A\}\in {\mathcal{F}}_t$ ；

这个关系的意义在于，如果我们可以观察到事件 $A$ 的发生情况，那么我们也可以观察到事件 $A$ 不发生的情况。事件 $A$ 和其对立事件 $A^c$ 是互补的，它们的可观测性是相互对应的。

这样的关系在概率论中很常见，它们确保了可观测事件集合的完备性和一致性。无论事件 $A$ 是否发生，我们总是可以观察到状态空间中的某些状态，因此对立事件 $A^c$ 也是可观测的。

4. $\{A_n{\}}_{n=1}^{\infty }\subset {\mathcal{F}}_t\to {\cup }_{n=1}^{\infty }{A}_n\in {\mathcal{F}}_t$ ；

这个关系的意义在于，如果一个事件序列中的每个事件都是可观测的，那么它们的并集事件也是可观测的。通过取事件序列的并集，我们仍然可以在时间 $t$ 观察到这个组合事件的发生情况。

这个性质在概率论中也非常重要，因为它允许我们考虑无穷个事件的情况。通过确保并集事件属于可观测事件集合，我们可以建立和推断无穷事件序列的可观测性。

5. $\forall \omega \in \Omega$ ，$\omega \in {\mathcal{F}}_t(\omega )$ ；

6. 对于某个时刻，所有的 ${\mathcal{F}}_t(\omega )$ 构成了 $\Omega$ 的一个划分，也就是对于 $\forall \omega ,{\omega }^{\prime }$ ，以下之一满足：

   • ${\mathcal{F}}_t(\omega )\cap {\mathcal{F}}_t({\omega }^{\prime })=\varnothing$ ；

   • ${\mathcal{F}}_t(\omega )={\mathcal{F}}_t({\omega }^{\prime })$；

7. information filtration $\mathcal{F}=\{{\mathcal{F}}_t{\}}_{t\in T}$ 是单调递增的。

单调递增就是说，$t$ 时刻对 $\Omega$ 的划分是 $t+1$ 时刻对 $\Omega$ 的划分的子划分；

• $t$ 时刻的划分就像是在 $t+1$ 时刻的划分的基础上再进行划分；
• $t+1$ 时刻的划分就好像在 $t$ 时刻的划分的基础上进行合并。

例：考虑一个简单的硬币投掷实验时，用这个例子来说明这些概念。

假设我们有一个正面朝上的硬币和一个反面朝上的硬币。我们将状态空间 $\Omega$ 定义为这两个硬币的可能组合：$\Omega =\{\text{正面硬币},\text{反面硬币}\}$。

现在，让我们考虑某个特定的时刻 $t$，并定义可观测事件集合 ${\mathcal{F}}_t$。在这个例子中，我们假设在时刻 $t$ 我们可以观察到的事件有：

• $A_1$: 正面硬币朝上
• $A_2$: 反面硬币朝上

因此，我们有 ${\mathcal{F}}_t=\{\varnothing ,A_1,A_2,A_1^c,A_2^c,\Omega \}$

现在，我们可以考虑特定状态下的可观测事件集合 ${\mathcal{F}}_t(\omega )$。对于每个状态 $\omega \in \Omega$，我们可以确定在该状态下观察到的事件。

• 当 $\omega =\text{正面硬币}$ 时，${\mathcal{F}}_t(\text{正面硬币})=\{A_1\}$。在这种情况下，我们只能观察到正面硬币朝上的事件 $A_1$。
• 当 $\omega =\text{反面硬币}$ 时，${\mathcal{F}}_t(\text{反面硬币})=\{A_2\}$。在这种情况下，我们只能观察到反面硬币朝上的事件 $A_2$。

在这个例子中，所有的 ${\mathcal{F}}_t(\omega )$ 构成了 $\Omega$ 的一个划分。其中，${\mathcal{F}}_t(\text{正面硬币})$ 和 ${\mathcal{F}}_t(\text{反面硬币})$ 是互斥的，它们的并集等于 $\Omega$。

概率测度

概率测度 $\mathbb{P}:\mathcal{F}\to [0,1]$ 是一个函数，满足以下性质：

1. $\mathbb{P}(\Omega )=1$ ；
2. 对于 $\forall A\in \mathcal{F}$ ，有 $\mathbb{P}(A^c)=1-\mathbb{P}(A)$ ；
3. 对于不相交的事件 $\{A_n{\}}_{n=1}^{\infty }\subset {\mathcal{F}}_t$ ，有 $\mathbb{P}(\{A_n{\}}_{n=1}^{\infty })=\sum _{n=1}^{\infty }\mathbb{P}(A_n)$ 。

随机变量 Random Variable

定义在概率空间 $(\Omega ,\mathcal{F},\mathbb{P})$ 上的随机变量 $X$ 是一个函数 $X:\Omega \to \mathbb{X}$ ，其中集合 $\mathbb{X}$ 定义在测度空间 $(\mathbb{X},\mathcal{B}(\mathbb{X}))$ 上；

测度空间 $(\mathbb{X},\mathcal{B}(\mathbb{X}))$ 是由一个集合 $\mathbb{X}$ 和一个 σ-代数 $\mathcal{B}(\mathbb{X})$ 组成的结构。

• 集合 $\mathbb{X}$ 是一个非空集合，它包含了我们感兴趣的元素或对象。
• σ-代数 $\mathcal{B}(\mathbb{X})$ 是 $\mathbb{X}$ 上的一个 σ-代数，它是由 $\mathbb{X}$ 的子集构成的集合，满足一些特定的性质。

我们之后只考虑 $\mathbb{X}$ 为欧几里得空间，$\mathcal{B}(\mathbb{X})$ 是包含该空间中所有开集的最小 σ-代数。

分布 CDF and PDF

CDF：（累积）分布函数，定义为：
$$F_X(x)=\mathbb{P}(\{\omega :X(\omega <x\}),\forall x\in \mathbb{X}$$
PDF：概率密度函数，若存在，则定义为：
$$\mathbb{P}(x\in X)={\int }_{X}f(x)dx$$
例：$n$ 维的服从正态分布随机向量，其概率密度函数为：
$$f(x)=\frac{1}{(2\pi {)}^{\frac{n}{2}}|\Sigma {|}^{\frac{1}{2}}}\exp \left\{-\frac{1}{2}(x-\mu {)}^T{\Sigma }^{-1}(x-\mu )\right\}$$
其中 $\mu$ 是 $n\times 1$ 的向量，$\Sigma$ 是 $n\times n$ 的正定矩阵。

例：如果 $X$ 是取值为 $\{x_1,x_2,\cdots ,x_n\}$ 的离散随机变量，则其 CDF $F(\cdot )$ 是一个阶梯函数，其概率密度函数为：
$$f(x)=\sum _{i=1}^n{p}_i\delta (x-x_i)$$
其中 $p_i=P(X=x_i)$ ，$\delta (x)$ 是 Dirac 函数。

Dirac函数（Dirac delta函数）是一种常用的广义函数，也被称为狄拉克 $\delta$ 函数或单位脉冲函数。在其他处为 0，在 0 处无穷大，但是积分为 1。Dirac函数具有以下性质：

1. 归一性：$\int \delta (x)dx$，表示在整个实数轴上对 Dirac 函数进行积分的结果是1；
2. 零除一性：对于任意实数 a ≠ 0，$\int \delta (ax)dt=\frac{1}{|a|}$ ；
3. 零除性：对于任意实数 $a\ne 0$ ，$\int f(x)\delta (ax)dt=\frac{f(0)}{|a|}$ ；
4. 位移性：$\int \delta (x-x_0)dx=1$ ；

$\delta (x)$ 满足以下性质，对于 $\mathbb{X}$ 上的任何连续函数 $g$ ，都有：
$${\int }_{X}g(x)\delta (x-y)dx=g(y),y\in X$$
证明：可以把 $\delta (x)$ 看作是在 $[0,\frac{1}{n}]$ 上取值为 $n$ ，其余处取值为 $0$ 的方形脉冲函数，且 $n\to \infty$ 。则：
$${\int }_{X}g(x){\delta }_n(x-y)dx=n{\int }_y^{y+\frac{1}{n}}g(x)dx=g(y)$$

期望和条件期望 Expectation and conditional expectation

期望：

1. 简单随机变量 $X$ 的期望定义为：

$${\mathbb{E}}_{\mathbb{P}}[X]=\sum _{i=1}^{\infty }\mathbb{P}(X=x_i)$$

2. 对于简单非负随机变量 $X$ ，其期望还可以写成：

$${\mathbb{E}}_{\mathbb{P}}[X]=\underset{Y\in {\mathbb{X}}_0\text{s.t.}Y\le X}{\sup }{\mathbb{E}}_{\mathbb{P}}[Y]$$

其中 ${\mathbb{X}}_0\subseteq \mathbb{X}$ 是 $X$ 的取值范围

3. 对于任意随机变量，其期望都可以表示成：

$${\mathbb{E}}_{\mathbb{P}}[X]={\mathbb{E}}_{\mathbb{P}}[X^{+}]-{\mathbb{E}}_{\mathbb{P}}[X^{-}]$$

其中 $X^{+}=\max \{X,0\}$ ，$X^{-}=\min \{X,0\}$ ；

4. 在事件 $A\in \mathcal{F}$ 条件之下的 $X$ 的条件期望为：

$${\mathbb{E}}_{\mathbb{P}}[X|A]={\mathbb{E}}_{\mathbb{P}(\cdot |A)}[X]$$

期望的性质：

1. 对于 $\forall X$ ，$|{\mathbb{E}}_{\mathbb{P}}[X]|\le {\mathbb{E}}_{\mathbb{P}}[|X|]$ ；
2. 对于任意 concave function $f:\mathbb{X}\to \mathbb{R}$ ，根据琴生不等式（Jensen’s inequality），有：

$${\mathbb{E}}_{\mathbb{P}}\left[f(X)\right]\le f({\mathbb{E}}_{\mathbb{P}}[X])$$

3. 令 $\mathcal{G}$ 和 $\mathcal{H}$ 为 $\mathcal{F}$ 的 $\sigma$-子代数，若 $\mathcal{G}\subset \mathcal{H}$ ，则有：

$${\mathbb{E}}_{\mathbb{P}}[{\mathbb{E}}_{\mathbb{P}}[X|\mathcal{H}]|\mathcal{G}]={\mathbb{E}}_{\mathbb{P}}[X|\mathcal{G}]$$

4. 件期望 ${\mathbb{E}}_{\mathbb{P}}(X|Y)$ 是关于随机变量 $Y$ 生成的 $\sigma$-代数 ${\mathcal{F}}^Y$ 可测的，而且可以用 $\mathcal{B}(\mathbb{X})$ 下可测量的 $Y$ 的函数 $f(\cdot )$ 来表示，有：

$${\mathbb{E}}_{\mathbb{P}}[X|Y]=f(Y)$$

独立性 Independence

独立性：随机变量 $X$ 和 $Y$ 是相互独立的，当对任意 ${\mathbb{X}}_0$ ，${\mathbb{Y}}_0\in \mathcal{B}(\mathbb{X})$ ，有：
$$\mathbb{P}(X\in {\mathbb{X}}_0,Y\in {\mathbb{Y}}_0)=\mathbb{P}(X\in {\mathbb{X}}_0)\mathbb{P}(Y\in {\mathbb{Y}}_0)$$
性质：若 $X$ 和 $Y$ 相互独立，则：

1. ${\mathbb{E}}_{\mathbb{P}}[X|Y]={\mathbb{E}}_{\mathbb{P}}[X]$ ；
2. ${\mathbb{E}}_{\mathbb{P}}[XY]={\mathbb{E}}_{\mathbb{P}}(X){\mathbb{E}}_{\mathbb{P}}(Y)$ ，即 $\mathrm{Cov}(X,Y)=0$ ；
3. 令 $f(x)$ 和 $g(y)$ 分别为 $X$ 和 $Y$ 的概率密度函数，$h(x,y)$ 为 $(X,Y)$ 的联合概率密度函数，则：

$$X\text{ and }Y\text{are independent}⟺h(x,y)=f(x)g(y)$$

特征方程 Characteristic Functions

特征方程：对于定义在 ${\mathbb{R}}^m$ 上的随机变量 $X$ ，其特征方程 $\Theta :{\mathcal{Z}}^m\to \mathcal{Z}$ 是其概率密度函数 $f(\cdot )$ 的 Laplace 变换，即：
$$\Theta (s)=\mathcal{L}\{f(x)\}(s)=\int {\mathrm{e}}^{-sx}f(x)dt$$

• 虽然是 Laplace 变换，但是特征方程往往不是定义在整个复平面上的，而是 ${\mathcal{Z}}^m$ 上的一个条状区域；
• 我们也可以用 Laplace 逆变换来从特征方程得到概率密度函数，对于一维的随机变量，有：

$$f(x)=\frac{1}{2\pi j}{\int }_{\delta -j\infty }^{\delta +j\infty }\Theta (s){\mathrm{e}}^{sx}ds={\mathcal{L}}^{-1}\left\{\Theta (s)\right\}(x)$$

其中 $j$ 是虚数单位；

给定一个函数 $f(t)$，其中 $t$ 表示时间，它的 Laplace 变换定义为：
$$F(s)=\mathcal{L}\{f(t)\}={\int }_0^{\infty }{\mathrm{e}}^{-st}f(t)dt$$
给定一个函数 $F(s)$，它的逆 Laplace 变换 $f(t)$ 定义为：
$$f(t)={\mathcal{L}}^{-1}\left\{F(s)\right\}=\frac{1}{2\pi i}\underset{T\to \infty }{\lim }{\int }_{\gamma -iT}^{\gamma +iT}{\mathrm{e}}^{st}F(s)ds$$

范数空间 Norm Space

向量空间：集合 $S$ 构成向量空间，若：

1. $\varnothing \in S$ ；
2. $X,Y\in S$ $\Rightarrow$ $X+Y\in S$ ；
3. $\alpha \in \mathbb{R}$ ，$X\in S$ $\Rightarrow$ $\alpha X\in S$ ；

范数空间：或称为范数向量空间 $S$ ，是在向量空间的基础上定义 范数 $||X||$， $X\in S$ ，满足：

1. $||X||\ge 0$ ，且 $||X||=0⟺X=\varnothing$ ；
2. $||\alpha X||=|\alpha |||X||$ ；
3. $||X+Y||\le ||X||+||Y||$ ；

${\mathcal{L}}^p$ 范数：对于 $1\le p\le \infty$ ，随机变量 $X$ 若满足 ${\mathbb{E}}_{\mathbb{P}}[|X{|}^p|\mathcal{F}]<\infty$ ，则称 $X$ 是 $p$ 阶可积的，或 ${\mathcal{L}}^p$-可积的。

这个条件表示在给定 $\mathcal{F}$ 的情况下，$X$ 的绝对值的 $p$ 次幂的条件期望存在且有界。也就是说，$X$ 的 $p$ 次幂在给定 $\mathcal{F}$ 的信息下具有有限的平均值。

所有定义在 $\mathbb{X}$ 上的 ${\mathcal{L}}^p$-可积的随机变量构成了范数空间 ${\mathcal{L}}^p$-范数：
$$||X|{|}_{{\mathcal{L}}^p}(\Omega ,\mathcal{F},\mathbb{P})\equiv ({\mathbb{E}}_{\mathbb{P}}[|X{|}^p|\mathcal{F}]{)}^{\frac{1}{p}}$$
线性函数：定义在范数空间 $(\mathbb{V},||\cdot |{|}_{\mathbb{V}})$ 上的线性函数 $f:\mathbb{V}\to \mathbb{R}$ 满足：
$$f(\alpha X+\beta y)=\alpha f(X)+\beta f(Y),\forall X,Y\in \mathbb{V},\alpha ,\beta \in \mathbb{R}$$
注意：线性函数 $f$ 是有界的，若存在一个正常数 $M$ 使得：
$$|f(X)|\le M||X|{|}_{\mathbb{V}},\forall x\in \mathbb{V}$$

Th 1：对于 $\forall p,q\ge 1$ 满足 $\frac{1}{p}+\frac{1}{q}=1$ ，$X\in {\mathcal{L}}^p(\Omega ,\mathcal{F},\mathbb{P})$ ，$Y\in {\mathcal{L}}^q(\Omega ,\mathcal{F},\mathbb{P})$ ，可以推出：
$$X\bullet Y\equiv X^{T}Y\in {\mathcal{L}}^1(\Omega ,\mathcal{F},\mathbb{P})$$
特别地：
$$||X\bullet Y|{|}_{{\mathcal{L}}^1}\le ||X|{|}_{{\mathcal{L}}^p}||Y|{|}_{{\mathcal{L}}^q}$$
推广下去，可以得到：
$${\mathcal{L}}^1(\Omega ,\mathcal{F},\mathbb{P})\supset {\mathcal{L}}^2(\Omega ,\mathcal{F},\mathbb{P})\supset \cdots \supset {\mathcal{L}}^{\infty }(\Omega ,\mathcal{F},\mathbb{P})$$
Th 2：令 $\Phi$ 是范数空间 $(\mathbb{V},||\cdot |{|}_{\mathbb{V}})$ 上的线性函数，则 $\Phi$ 是连续的当且仅当它是有界的。特别地，只要 $\Phi$ 在 $X=0$ 处连续，就有 $\Phi$ 在 $\mathbb{V}$ 上处处连续。

Rietz Representation Theorem：令 $f$ 是 ${\mathcal{L}}^p(\Omega ,\mathcal{F},\mathbb{P})$ 上的线性函数，并且 $p\ne \infty$ . 则 $f$ 是连续的当且仅当存在一个唯一的 $\zeta \in {\mathcal{L}}^q(\Omega ,\mathcal{F},\mathbb{P})$ ，且 $\frac{1}{p}+\frac{1}{q}=1$ ，使得对于 $\forall X\in {\mathcal{L}}^p$ ，都有 $f(X)={\mathbb{E}}_{\mathbb{P}}(\zeta X)$ ；

Hahn-Banach Theorem：令 $\mathbb{V}$ 是一个范数空间，$A$ 和 $B$ 是其两个凸子集。当下面两个条件之一满足，且 $A$ 不包含 $B$ 的内部点，则：存在一个 $\mathbb{V}$ 上的非零连续线性函数 $f$ 和一个常数 $c$ 使得对于 $\forall X\in A$ ，$\forall Y\in B$ ，有 $f(X)\ge c\ge f(Y)$ ：

• $\mathbb{V}$ 是有限维的范数空间；
• $\mathbb{V}$ 是无限维时，$B$ 中至少有一个内部点；

（这个有点像凸集分离定理）

收敛性 Convergence

定义：给定一系列取值在 $\mathbb{X}$ 上、定义在概率空间 $(\Omega ,\mathcal{F},\mathbb{P})$ 的随机变量序列 $\{X_n\}$ ，有以下收敛性：

1. 几乎必然收敛：$X_n\to X$ ，$\mathbb{P}-\text{a.s.}$ ，若：

$$\mathbb{P}(\{\omega :X_n(\omega )\to X(\omega )\})=1,\forall \omega \in \Omega$$

2. 依概率收敛：$\mathbb{P}\text{-}{\lim }_{n\to \infty }{X}_n=X$ ，或 $X_n\to X$ in probability，若：

$$\mathbb{P}(\{\omega :|X_n(\omega )-X(\omega )|>\epsilon \})\to 0,\forall \epsilon >0,\forall \omega \in \Omega$$

3. 弱收敛：$X_n\stackrel{\text{w}}{}X$ ，或$X_n\to X$ weakly，若：

$$\mathbb{E}[f(X_n)]\to \mathbb{E}[f(X)],\forall f\in C_B(\mathbb{X})$$

$C_B(\mathbb{X})$ 表示有界连续函数类（bounded continuous functions）

4. 依分布收敛：$X_n\stackrel{\text{dist}}{}X$ ，或$X_n\to X$ in distribution，若：

$$F_n(X)\to F(X),\forall X\in \mathbb{X}$$

5. 依范数收敛：$X_n\stackrel{{\mathcal{L}}^p}{}X$ （$p\ge 1$），或$X_n\to X$ in ${\mathcal{L}}^p$-norm，若：

$$||X_n-X|{|}_{{\mathcal{L}}^p}\to 0$$

Proposition 1：
$$X_n\to X,\mathbb{P}\text{-a.s.}\Rightarrow \mathbb{P}\text{-}\underset{n\to \infty }{\lim }{X}_n=X\Rightarrow X_n\stackrel{\text{w}}{}X⟺X_n\stackrel{\text{dist}}{}X$$

Almost Sure Convergence

Convergence in Probability

Weak Convergence

Convergence in Distribution

Convergence in Norm

Proposition 2：
$$X_n\stackrel{{\mathcal{L}}^p}{}X\Rightarrow \mathbb{P}\text{-}\underset{n\to \infty }{\lim }{X}_n=X$$
Proposition 3：令 $X_n\stackrel{\text{dist}}{}X$ 的特征函数为 $\{\Theta (\cdot ){\}}_{n=1}^{\infty }$ ，则：
$$\underset{n\to \infty }{\lim }{\Theta }_n(s)={\Theta }_{\infty }(s),\mathrm{Re}(s)=0$$
相反地，若 $\underset{n\to \infty }{\lim }{\Theta }_n(s)={\Theta }_{\infty }(s)$ 是 well defined，且 $\Theta (s)$ 沿虚轴 $\mathrm{Re}(s)=0$ 连续，则存在某个特征函数为 $\Theta (s)$ 的随机变量 $X$ ，使得 $X_n\stackrel{\text{dist}}{}X$ 。

$\mathrm{Re}(s)=0$ 表示 $s$ 的实部为零

（命题 3 的两种情况并不是当且仅当的关系，反过来推的时候要求 $\Theta (s)$ 是个连续函数）

Monotone Convergence Theorem：若 $0\le X_1\le \cdots \le X_n\le \cdots$ ，则：
$$X_n\to X,\mathbb{P}\text{-a.s.}\Rightarrow \mathbb{E}[X_n]\to \mathbb{E}[X]$$
Fatou’s Lemma：若 $X_n\ge X$ 且 $\mathbb{E}[X^{+}]<+\infty$ ，则：
$$\mathbb{E}[\underset{n\to \infty }{\mathrm{liminf}}{X}_n]\le \underset{n\to \infty }{\mathrm{liminf}}\mathbb{E}[X_n]$$
Dominated Convergence Theorem：若 $\mathbb{P}\text{-}{\lim }_{n\to \infty }{X}_n=X$ 且 $|X_n|\le Y\in {\mathcal{L}}^1$ ，则：

• $X\in {\mathcal{L}}^1$ ；
• $\mathbb{E}[X_n]\to \mathbb{E}[X]$ ；
• $X_n\stackrel{{\mathcal{L}}^1}{}X$ ；