[斯坦福大学2014机器学习教程笔记]第三章-矩阵乘法特征

    矩阵乘法运算非常实用，因为你可以大量运算打包，然后用一次矩阵的乘法运算。但是要注意如何使用这个方法。在这节中，我们将介绍一些矩阵乘法的特性。

• 实数的乘法或者说标量的乘法是可交换的。如：3×5=5×3。在这个乘法运算中顺序是不太重要的。但是，在矩阵中并不能交换顺序。
• 即 A×B ≠ B×A。

          下面看一个例子。

    显然，顺序不一样会导致结果不一样。所以，在通常情况下，如果要做一个矩阵运算，比如A×B，如果A是一个m×n的矩阵，B是一个n×m的矩阵，A×B会得到一个m×m的矩阵，而B×A会得到一个n×n的矩阵。所以顺序不一样可能会得到维度不一样的矩阵。

• 矩阵满足结合律。即(A×B)×C=A×(B×C)。
• 当处理实数或者是标量时，1可以看作一个乘法单位。意思是对于任何实数Z，1×Z=Z×1=Z。因此1是一个单位操作。在矩阵空间中，也有一个单位矩阵。通常记作I，有的时候也记作I_n×n。下面有些例子。

     我们不难发现，它们的特点是：沿对角线上都是1，其余都是0。顺便提一下，1×1单位矩阵就是数字1。

• 单位矩阵有一个特点：任何一个矩阵A，A×I=I×A=A。(I为单位矩阵)记得要保持维度一致。假如矩阵A是一个m×n的矩阵，对于A×I来说，那么这个时候I就是n×n的矩阵；对于I×A来说，那么这个时候I就是m×m的矩阵。
• 注意：我们前面提到AB≠BA,这是在绝大多数情况下的。但是当B是一个单位矩阵的时候，AB=BA是成立的。