向量求导公式

最近在看吴恩达的视频啊、LDA啊、PCA啊，觉得很有必要将向量求导公式复习一下，要不感觉算的时候怪怪的~

1. 矩阵Ｙ对标量ｘ求导：对每个元素求导后转置一下，M*N矩阵求导后变成N*M
   
2. 标量y对列向量X求导：求偏导，不转置，对N*1向量求导后还是N*1向量
   
3. 行向量Y’对列向量X求导：将Y的每一列对X求偏导，1*M向量对N*1向量求导后是N*M矩阵
   重要结论：
   
4. 列向量Y对行向量X’求导：行向量Y’对列向量X的导数，然后转置；M*1向量对1*N向量求导结果为M*N矩阵
   
5. 向量积对列向量X求导运算法则：
   
   
   重要结论：
   
6. 矩阵Y对列向量X求导：将Ｙ对Ｘ的每一个分量求偏导，构成一个超向量，注意该向量的每一个元素都是一个矩阵
7. 矩阵积对列向量求导法则：
   
   
   重要结论：
   
8. 标量y对矩阵X的导数：把y对每个X的元素求偏导，不用转置
   
   重要结论：
   
9. 矩阵Ｙ对矩阵Ｘ的导数：将Y的每个元素对X求导