动手学深度学习 - 11.1. 数学符号 (notation)

动手学深度学习 - 11.1. 数学符号 (notation)

动手学深度学习 - Dive into Deep Learning
Aston Zhang, Zachary C. Lipton, Mu Li, and Alexander J. Smola
https://zh.d2l.ai/

11.1.1. 数

• $x$：标量
• $\mathbf{x}$：向量
• $\mathbf{X}$：矩阵
• $\mathsf{X}$：张量

11.1.2. 集合

• $\mathcal{X}$：集合
• $\mathbb{R}$：实数集合
• ${\mathbb{R}}^n$：$n$ 维的实数向量集合
• ${\mathbb{R}}^{x\times y}$：$x$ 行 $y$ 列的实数矩阵集合

11.1.3. 操作符

• ${(\cdot )}^{\top }$：向量或矩阵的转置
• $\odot$：按元素相乘，即阿达马 (Hadamard) 积
• $|\mathcal{X}|$：集合 $\mathcal{X}$ 中元素个数
• $\Vert \cdot {\Vert }_p$：$L_p$ 范数
• $\Vert \cdot \Vert$：$L_2$ 范数
• $\sum$：连加
• $\prod$：连乘

Hadamard product：哈达玛积，基本积

11.1.4. 函数

• $f(\cdot )$：函数
• $\log (\cdot )$：自然对数函数
• $\exp (\cdot )$：指数函数

11.1.5. 导数和梯度

• $\frac{dy}{dx}$：$y$ 关于 $x$ 的导数
• $\frac{\partial y}{\partial x}$：$y$ 关于 $x$ 的偏导数
• ${\nabla }_{\cdot }y$：$y$ 关于 $\cdot$ 的梯度

11.1.6. 概率和统计

• $P(\cdot )$：概率分布
• $\cdot \sim P$：随机变量 $\cdot$ 的概率分布是 $P$
• $P(\cdot \mid \cdot )$：条件概率分布
• $E_{\cdot }\left(f(\cdot )\right)$：函数 $f(\cdot )$ 对 $\cdot$ 的数学期望

11.1.7. 复杂度

• $\mathcal{O}$：大 O 符号 (渐进符号)