一些可能很有用的矩阵知识

酉矩阵

• 一个服从正态分布的向量乘以一个酉矩阵，得到的向量仍然服从正态分布

酉矩阵是一个复数矩阵，满足其转置的共轭等于其逆矩阵。当一个向量通过一个酉矩阵进行线性变换时，它的模长保持不变，只是发生了旋转和缩放。这意味着如果原始向量服从正态分布，变换后的向量仍将服从相同的正态分布。

$proof:$

当一个向量服从正态分布时，其概率密度函数（PDF）可以表示为：$$f(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$$其中，$\mu$ 是均值，$\sigma$ 是标准差。现在，我们有一个酉矩阵U，将向量 $x$ 乘以U 得到$y:y=Ux$。
对于 y 的概率密度函数，首先，计算y 的均值 ${\mu }_y$: $${\mu }_y=E(y)=E(Ux)=UE(x)$$由于$x$ 服从正态分布且期望是$\mu$，则${\mu }_y=U{\mu }_x=U\mu$，然后，计算$y$的协方差矩阵${\Sigma }_y$：$${\Sigma }_y=E[(y-{\mu }_y)(y-{\mu }_y{)}^T]=E[(Ux-U\mu )(Ux-U\mu {)}^T]=UE[(x-\mu )(x-\mu {)}^T]U^T$$由于 $x$ 服从正态分布且协方差矩阵是 $\Sigma$，则${\Sigma }_y=U\Sigma U^T$，现在，我们可以得到 $y$的概率密度函数$f_y(y)$：
$$f_y(y)=\frac{1}{\sqrt{(2\pi {)}^n|{\Sigma }_y|}}{e}^{-\frac{1}{2}(y-{\mu }_y{)}^T{\Sigma }_y^{-1}(y-{\mu }_y)}$$将${\mu }_y$和${\Sigma }_y$带入可得：$$f_y(y)=\frac{1}{\sqrt{(2\pi {)}^n|\Sigma |}}{e}^{-\frac{1}{2}(y-U\mu {)}^T(U\Sigma U^T{)}^{-1}(y-U\mu )}$$由于酉矩阵 U 具有单位行列式（$\mid U\mid =1$）和单位逆矩阵（$U^{-1}=U^T$），上式可简化为：$$f_y(y)=\frac{1}{\sqrt{(2\pi {)}^n|\Sigma |}}{e}^{-\frac{1}{2}(y-U\mu {)}^T(U\mu {)}^{-1}(y-U\mu )}$$这与正态分布的概率密度函数形式相同，只是参数变为$\Sigma$和$U_{\mu }$。因此，$y$ 也服从正态分布，其均值为$U_{\mu }$，协方差矩阵为$\Sigma$。