【吴恩达机器学习笔记详解】第三章 机器学习数学基础（线代）

3.1 矩阵和向量

矩阵是指由数字组成的矩阵陈列，并且写在方括号内。如下图

实际上矩阵可以说是二维数组的另外一种说法。
矩阵的维度：行乘上列为矩阵的维度

下面再介绍向量
一个向量是一种特殊的矩阵，向量是只有一列的矩阵

如图所示，向量y是一个4×1的矩阵，也通常称它为4维，右下角代表着两种不同的向量元素表示方法，左边是以1开始的，右边是以0开始的，像数组一样，我们通常使用左边这个从1开始的来表示。
另外大写字母通常用来表示矩阵，小写字母通常用来表示向量。

3.2 加法和标量乘法

矩阵的加法
前提是必须是相同维度或者说相同大小的矩阵才可以相加，下面那个不同所以不能相加

标量乘法实际上也就是一个数和矩阵相乘

我们看到标量乘法实际上就是对矩阵里面的所有元素一一进行和数相乘，最后结果矩阵的维度不会发生变化。

这里只需要注意运算的顺序即可。

3.3 矩阵向量乘法

先介绍简单的情况，就是矩阵先和一个向量相乘，规则是矩阵的第一行先和向量相乘等到一个数，然后矩阵的第二行再和向量相乘得到第二个数，然后矩阵的第三行和向量相乘的第三个数。
实际上前面那个矩阵是3×2的，后面向量的维度是2×1的，最后得到的维度是3×1的，也就是一个3维向量

小技巧：就是看最后得到的矩阵结果的维度，在这里是一个3×2的乘上一个2×1的，我们可以看到中间挨着的3×2 2×1 中间这个2是一样的，然后最后结果矩阵就是把2忽略，得到两头的这个数 3×1的矩阵，其实这个方法还可以判断矩阵是不是可以进行相乘，中间这两个数一样就代表可以进行矩阵的相称，不同代表两个矩阵不能相乘。
（内标同可乘，外标确定型）



下面图是将我们现实的问题和矩阵相结合

我们把参数写成一个2维的向量，2×1的，为了可以进行计算，我们把数据故意加一列1111，这样可以保证前面的数据是4×2的，可以和后面的向量进行计算，这样计算出来就是预测的值，还可以简单的用代码实现。

3.4 矩阵乘法

和之前一样，矩阵的乘法就是第一个矩阵的第一行乘第二个矩阵的第一列得到一个数，放在11的位置，然后第一个矩阵的第二行乘第二个矩阵的第一列放在9的那个位置，然后第一个矩阵的第一行乘第二个矩阵的第一列放在10的位置，第一个矩阵的第二行乘第二个矩阵的第二列放在14的位置上面。

这个和上面那个例子一样，我们这里有四个房子的数据，四个房子的大小，我们想用这四个房子来进行预测，通过右边这三个假设函数来预测这四个房子的价格，为了可以简单计算我们用矩阵的方法来计算，构建矩阵来计算可以更加形象观察。

像下面所示，对于最后的结果我们可以看到蓝色的一列是怎么计算来的呢，是通过原来这四个数据通过第二个矩阵的第一列来计算得来的，也就是通过第一个假设函数算出来的，同样最后结果的第二列是第二个假设函数的结果，第三列也是一样，通过第三个假设函数得到的，也就是把这四个房子的数据分别放在三个假设函数中得出来最后这个，更加简单，代码实现也是更加简单。

3.5 矩阵乘法特征

这一节就是介绍矩阵不能遵循乘法交换律，因为交换了之后结果会改变

数可以有乘法结合律，矩阵同样也可以，A×B×C，可以先算后面的

对于单位矩阵来说我们一般认为它是n×n的，而且矩阵的对角线都是1，其余的都是0，对于任何一个矩阵它与单位矩阵相乘的时候是可以遵信交换律的。

3.6 逆和转置

对于一个m×m的矩阵（方阵）来说，如果它有它的逆矩阵，那么矩阵乘上这个矩阵的逆等于这个矩阵的逆乘上这个矩阵等于单位矩阵

对于没有逆矩阵的矩阵我们称它为奇异矩阵或者是退化矩阵。

下一个概念就是矩阵的转置

对于矩阵的转置，实际上就是行变成列，列变成行，原来是m×n的矩阵，转置之后变成了n×m的矩阵了，同样Bij＝Aji

注意：这里是老师的笔误，B12＝A21应该等于3