深度学习之线性代数

标量

        简单操作

                c = a + b

                c = a * b

                c = sina

        长度

                |a| = a / -a

                |a + b| <=|a| + |b|

                |a * b| = |a||b|

向量

        简单操作

                c = a + b

                c = α * b (α为标量)

                c = sina

        长度

                

                ||a|| >= 0

                ||a + b|| <= ||a|| + ||b||

                ||a * b|| = ||a|| ||b||

        向量点乘

                

                正交（向量垂直）：

矩阵

        简单操作

                C = A + B

                C = α *B(α是标量)

                C = sinA

        长度(范数)

                常用Frobenius范数

                        

        矩阵乘法

                1、矩阵 * 向量

        向量1 * 矩阵A =（空间扭曲）= 向量2

                2、矩阵 * 矩阵

        特殊矩阵

                对称矩阵和反对称矩阵

                                             

                正定矩阵

                                              

                正交矩阵

                        1、所有行都是相互正交

                        2、所有行都是单位长度向量，每一行点乘自己都是1

                        3、

                置换矩阵(置换矩阵也是正交矩阵)

                        定义：每一行每一列只有一个元素为1，其余元素全为0

                       置换矩阵是可逆矩阵