机器学习数学基础

第一章、机器学习数学基础

1.1 线性代数

1.1.1 矩阵中的基本概念

1.1.2 矩阵的加法

• 把矩阵的对应位元素相加
• 矩阵的形状必须一致,即必须是同型矩阵

1.1.3 矩阵的乘法

数与矩阵相乘：数值与矩阵每一个元素相乘

矩阵与矩阵相乘：要求左矩阵的列数必须等于右矩阵的行数

1.1.4 矩阵的转置

• 行变列， 列变行
• A为m x n矩阵,转置之后为n x m矩阵

1.1.5 矩阵的运算法则

1.1.6 矩阵的逆

1.2 微积分

1.2.1 导数

• 导数反映的是函数y= f(x)在某一点处沿×轴正方向的变化率。
• 在x轴上某一点处，如果f’(x)>0，说明f(x)的函数值在x点沿x轴正方向是趋于增加的;如果f’(x)<0，说明f(x)的函数值在x点沿x轴正方向是趋于减少的。

1.2.2 偏导数

• 导数与偏导数本质是一致的，都是当自变量的变化量趋于0时，函数值的变化量与自变量变化量比值的极限
• 偏导数也就是函数在某一点上沿某个坐标轴正方向的的变化率
• 导数指的是一元函数中， 函数y=f(x)在某一点处沿 X轴正方向的变化率;而偏导数，指的是多元函数中，函数y=f(x1,x2,…,xn) 在某一点处沿某一坐标轴(x1,x2,…,xn)正方向的变化率

1.2.3 方向导数和梯度

1.2.4 凸函数和凹函数

1.3 概率与统计

1.3.1 常用统计变量

1.3.2 常见概率分布

1.3.3 重要概率公式