机器学习之矩阵和线性代数

开宗明义:本系列基于小象学院机器学习课程,小白,会一点一点推导公式,一步一步爬到最高,嘿嘿嘿,旨在理解和交流,重在记录,望各位大牛指点!


机器学习之矩阵和线性代数


文章目录

  • 1、矩阵
    • 1.1 SVD
    • 1.2 矩阵的乘法/状态转移矩阵
    • 1.3 矩阵和向量组
  • 2、特征值与特征向量
    • 2.1 对称阵、正交阵、正定阵
  • 3、矩阵求导
    • 3.1 向量对向量求导
    • 3.2 标量对向量求导
    • 3.3 标量对矩阵求导


1、矩阵

1.1 SVD

机器学习之矩阵和线性代数_第1张图片
机器学习之矩阵和线性代数_第2张图片

1.2 矩阵的乘法/状态转移矩阵

线性代数:
机器学习之矩阵和线性代数_第3张图片
机器学习之矩阵和线性代数_第4张图片
机器学习之矩阵和线性代数_第5张图片
代数余子式:
机器学习之矩阵和线性代数_第6张图片
伴随矩阵:
机器学习之矩阵和线性代数_第7张图片
方阵的逆:
机器学习之矩阵和线性代数_第8张图片
范德蒙行列式:
机器学习之矩阵和线性代数_第9张图片

1.3 矩阵和向量组

矩阵的乘法:
机器学习之矩阵和线性代数_第10张图片
矩阵和向量的乘法:
机器学习之矩阵和线性代数_第11张图片
矩阵的秩:
机器学习之矩阵和线性代数_第12张图片
秩与线性方程组的解的关系:机器学习之矩阵和线性代数_第13张图片
推论:
机器学习之矩阵和线性代数_第14张图片
向量组等价:
机器学习之矩阵和线性代数_第15张图片
系数矩阵:
机器学习之矩阵和线性代数_第16张图片
机器学习之矩阵和线性代数_第17张图片

2、特征值与特征向量

2.1 对称阵、正交阵、正定阵

正交阵:
机器学习之矩阵和线性代数_第18张图片
特征值与特征向量:
机器学习之矩阵和线性代数_第19张图片
特征值的性质:
机器学习之矩阵和线性代数_第20张图片
机器学习之矩阵和线性代数_第21张图片
机器学习之矩阵和线性代数_第22张图片
机器学习之矩阵和线性代数_第23张图片
正定阵:
机器学习之矩阵和线性代数_第24张图片
机器学习之矩阵和线性代数_第25张图片
机器学习之矩阵和线性代数_第26张图片

3、矩阵求导

3.1 向量对向量求导

机器学习之矩阵和线性代数_第27张图片
机器学习之矩阵和线性代数_第28张图片

3.2 标量对向量求导

机器学习之矩阵和线性代数_第29张图片

3.3 标量对矩阵求导

机器学习之矩阵和线性代数_第30张图片

你可能感兴趣的:(机器学习,机器学习,矩阵和线性代数)