矩阵微积分

学习矩阵微积分，同时加强记忆同时方便查阅，故写本文章。
详细内容参考：矩阵微积分-维基百科

向量求导

向量对标量求导：

定义：

对求导：

标量对向量求导：

定义：

对求导:
(与向量对标量不同的是，它是按排列的)

向量对向量求导

定义:

对求导:

矩阵求导

矩阵对标量求导：

定义：

对求导：

标量对矩阵求导：

定义：

对求导：
(与矩阵对标量求导不同的是，分子是按排列的,所得矩阵为n*m矩阵)

以下内容我也感到很困惑,以后搞明白了回来更新

矩阵对矩阵求导

在深度学习BP算法中：