零碎的知识点（九）：|| 。||是什么？

$\Vert \cdot {\Vert }_2^2$ 是向量或矩阵的 欧几里得范数（Euclidean norm） 的平方。

---

1. 什么是欧几里得范数？

对于向量 $\mathbf{v}=[v_1,v_2,\dots ,v_n{]}^T$，其欧几里得范数定义为： $$\Vert \mathbf{v}{\Vert }_2=\sqrt{v_1^2+v_2^2+\cdots +v_n^2}.$$

欧几里得范数也被称为 L2范数，表示向量在欧几里得空间中的长度（或模）。

• $\Vert \mathbf{v}{\Vert }_2^2$ 则是欧几里得范数的平方： $$\Vert \mathbf{v}{\Vert }_2^2=v_1^2+v_2^2+\cdots +v_n^2.$$

---

2. 举例

向量范数 假设 $\mathbf{v}=[3,4]$，则： $$\Vert \mathbf{v}{\Vert }_2=\sqrt{3^2+4^2}=\sqrt{9+16}=5.$$ $$\Vert \mathbf{v}{\Vert }_2^2=3^2+4^2=9+16=25.$$

---

3. 矩阵的范数

对于矩阵 $\mathbf{A}\in {\mathbb{R}}^{m\times n}$，其欧几里得范数通常定义为： $$\Vert \mathbf{A}{\Vert }_2=\sqrt{\sum _{i,j}{A}_{ij}^2}.$$

矩阵的范数也可以是 Frobenius 范数（欧几里得空间的矩阵扩展），计算方式类似于将矩阵展平成一个向量的欧几里得范数：$$\Vert \mathbf{A}{\Vert }_F=\sqrt{\sum _{i=1}^m\sum _{j=1}^n{A}_{ij}^2}.$$

平方形式为： $$\Vert \mathbf{A}{\Vert }_F^2=\sum _{i=1}^m\sum _{j=1}^n{A}_{ij}^2.$$

---

4. 在公式中的意义

在优化目标中，$\Vert \cdot {\Vert }_2^2$ 通常用于表示两个向量或矩阵之间的平方差（L2损失）。例如： $$\Vert {\mu }_{\theta }-{\mu }_q{\Vert }_2^2=({\mu }_{\theta }-{\mu }_q{)}^T({\mu }_{\theta }-{\mu }_q),$$ 这表示向量 ${\mu }_{\theta }$ 和 ${\mu }_q$ 在欧几里得空间中的平方距离，用于衡量它们的差异。

---

5. 总结

• $\Vert \mathbf{v}{\Vert }_2^2$ 是向量元素平方的和，表示平方距离。
• 在优化中，$\Vert \cdot {\Vert }_2^2$ 常用来表示平方误差，特别是在 L2 损失函数中。