{机器学习}【学习笔记2018.09】

复现Kitsune: An Ensemble of Autoencoders for Online Network Intrusion Detection

---

随机数学基础：

mean 均值（期望）

residual 残差

计算方法为 

variance 方差

方差用来度量随机变量和其数学期望（即均值）之间的偏离程度

standard deviation 标准差

标准差是方差的算术平方根。标准差能反映一个数据集的离散程度。

covariance 协方差

可以通俗的理解为：两个变量在变化过程中是同方向变化？还是反方向变化？同向或反向程度如何？

你变大，同时我也变大，说明两个变量是同向变化的，这时协方差就是正的。

你变大，同时我变小，说明两个变量是反向变化的，这时协方差就是负的。

从数值来看，协方差的数值越大，两个变量同向程度也就越大。反之亦然

correlation coefficient 相关系数

所以，相关系数也可以看成协方差：一种剔除了两个变量量纲影响、标准化后的特殊协方差。

既然是一种特殊的协方差，那它：

1、也可以反映两个变量变化时是同向还是反向，如果同向变化就为正，反向变化就为负。

2、由于它是标准化后的协方差，因此更重要的特性来了：它消除了两个变量变化幅度的影响，而只是单纯反应两个变量每单位变化时的相似程度

---