机器学习数学基础：线代（1）

入门机器学习前搞搞数学吧。。。。Mathematics for Machine Learning这本书不错，今年出的新书。

没有中文版欸。。。真难受，，，四百多页要看一年啊。。。

机器学习就是设计算法可以自动从数据中提取有用的信息。核心是自动，即机器学习关注的是可以应用到多种数据集的多用途的一套方法。三个核心概念是：数据，模型和学习。

因为机器学习运行在固定的数据上，所以数据是核心，机器学习的目标是：设计一套多用途的方法从数据中提取有用的样本。我们会设计个模型，通常与生成数据的过程有关，类似于我们得到的数据集（就是数据生成过程的简化）。例如，在回归设置中，模型就会被描述成函数来映射输入和真值输出。如果将数据考虑在内后，给模型在所给的任务中性能得到了提升，那就说这个模型在数据中学习到了。目标就是可以设计个nb的模型可以归纳还没见过的数据，好的模型可以用来预测现实中发生的，而不用执行现实的实验。学习就可以理解为，通过最优化模型的参数来从数据中自动寻找样本和结构。

机器学习基础和四个支柱，从下到上是，线性代数，解析几何，矩阵分解，向量计算，概率与分布，最优化，回归，降维，密度预测，分类

Linear Algebra

在遇到形式化直观概念时，一种通常的做法时构建对象（符号）的集合和操控这些对象的规则集合。这就叫代数。线性代数就是学习矢量和操作矢量的某些规则。总的来说，矢量就是一种特别的对象，可以相加，与标量相乘来产生同种类的其他对象。就抽象的数学观点来看，任何对象值啊要满足这两个特性就可以认为是标量（啊，是这样啊）。下面就是一些例子：

1. 几何矢量，，就是字母上加箭头，应该都知道。将矢量解释为几何矢量，有助于我们利用方向和大小来推理数学运算。
2. 多项式也是向量，两个多项式相加结果是另一个多项式，与标量相乘也是多项式（原文也说了很不寻常。。），这只是一个抽象的概念。
   
3. 音频信号，代表的也是一连串的数字。
4. R^n的元素（n维空间，n个实数的元组）是矢量，这比多项式还抽象，这个的好处是可以轻松对应实数的数组，很多程序语言都是支持数组操作的，这可以让我们的算法可以轻松包含矢量操作。
   

2.1 线性方程组

线性方程组在线代中很重要的，许多问题可以转换成线性方程组，然后使用线代提供的工具来解决他们。

2.2 矩阵

加法乘法：


对于乘法，计算 Cij 就要计算 A的第I 行于 B 的第J 列各元素乘积然后相加。也叫点积 A 点 B = C。。

另外只有 A的行数等于 B 的列数才可以相乘。 AB BA 不一定相等。

单位矩阵

矩阵的一些属性，，关联性，分布性，与单位矩阵的乘法

逆矩阵和转置矩阵

AB = In =BA B就叫 A 的逆。不是所有矩阵都叫逆矩阵，如果存在，A也称为 正则/可逆/非奇异，否则就是 奇异的/不可逆。逆矩阵是唯一的。相关求解待后话。。。

当且仅当 a11a22-a12-a22 != 0，逆矩阵存在，我们以后可以看到a 11 a 22 -a 12 a 21 是矩阵的行列式，可以使用这个来检测是否可逆。

转置矩阵

就是把行和列换一下，下面是一些属性

对称矩阵

就是与转置后的相等。
另外如果A可逆，它的转置也是可逆。。。对称矩阵都是方阵。对称矩阵的和是对称的，但是乘积不一定了。

2.2.3 与标量相乘

那两 啥啥 都是常数。。。。

2.2.4 线性方程组的简化表示

。。。虽然都是贴的图，，但凑合吧，，，你说花个三四百买个英文原版收藏怎么样。。。。。