机器学习中常用的数学及概率统计中的一些概念

---

该博客主要整理一下在机器学习中会用到的数学相关的知识概念。数理统计和概率论之间的关系是什么呢?概率论是已知样本之间的分布规律，求事件发生的概率。数理统计是知道部分的概率发生条件去求取样本的分布规律。

一、高等数学

1.偏导

当函数 z=f(x,y) 在 (x0,y0)的两个偏导数 f’x(x0,y0) 与 f’y(x0,y0)都存在时，我们称 f(x,y) 在 (x0,y0)处可导。如果函数 f(x,y) 在域 D 的每一点均可导，那么称函数 f(x,y) 在域 D 可导。
此时，对应于域 D 的每一点 (x,y) ，必有一个对 x (对 y )的偏导数，因而在域 D 确定了一个新的二元函数，称为 f(x,y) 对 x (对 y )的偏导函数。简称偏导数。
按偏导数的定义，将多元函数关于一个自变量求偏导数时，就将其余的自变量看成常数，此时他的求导方法与一元函数