学习雅可比矩阵

学习雅可比矩阵

深度学习里向量分析,雅可比矩阵是一阶偏导数以一定方式排列的矩阵,又称Jacobian矩阵,它体现了一个可微方程与给出点的最有线性逼近。
假设F: Rn→Rm是一个从欧式n维空间转换到欧式m维空间的函数。这个函数F由m个实函数组成: y1(x1,…,xn), …, ym(x1,…,xn)。这些函数的偏导数(如果存在)可以组成一个m行n列的矩阵, 这就是所谓的雅可比矩阵:
学习雅可比矩阵_第1张图片
好比SVM模型中 : Y = WX + b
想要优化损失函数,需要对L求偏导,构建和上图类似的雅可比矩阵。
在这里插入图片描述
SVM的损失计算。
学习雅可比矩阵_第2张图片
emmm…

你可能感兴趣的:(深度学习)