李沐动手学深度学习-06矩阵计算

06矩阵计算

矩阵计算中最重要的就是矩阵的导数计算，这对于深度学习或者机器学习的训练与优化都是非常重要的依据

如果dy/dx，如果y是一个标量，而x是一个向量，那么就需要使用y的这个表达式，对x1,x2全部求一次导，然后变成一个向量；相反如果y是一个向量而x是一个标量的话，那么每一个y都需要对指定的x进行求导；如果x，y都是向量，那么就是每一个y都需要对每一个x进行求导。

拓展到矩阵可以看出，如果矩阵和向量进行求导运算，那么结果就会变成一个三维。

如果矩阵和矩阵进行进行求导运算的话那么就会变成以四维的结果。需要注意矩阵和向量之间的计算，以及矩阵和矩阵之间的计算，这两个部分在后面会使用的比较多，也是比较容易出现错误的地方。