对矩阵求导

假设Wx = q,要求dq/dW,或者dq/dx,
对向量或者矩阵求导,得到的结果跟向量或者矩阵形状一样
dq/dW = [1 1 1 1...](列向量,个数跟q的长度一样,若还会影响后面的J,换成dJ/dq)乘以x的转置(行向量)


对矩阵求导_第1张图片

dq/dx = W的转置乘以[1 1 1 1...](列向量,个数跟q的长度一样,若还会影响后面的J,换成dJ/dq)


对矩阵求导_第2张图片

总结规律,右边等式还是跟乘过来的位置差不多,只是W、x都要转置,再把另外一个换成跟q相同大小的。行向量乘以矩阵也是差不多。

你可能感兴趣的:(对矩阵求导)