数学原理

对数运算法则

由指数和对数的互相转化关系可得出:

1.两个正数的积的对数，等于同一底数的这两个数的对数的和，即

2.两个正数商的对数，等于同一底数的被除数的对数减去除数对数的差，即

3一个正数幂的对数，等于幂的底数的对数乘以幂的指数，即

4.若式中幂指数则有以下的正数的算术根的对数运算法则:一个正数的算术根的对数，等于被开方数的对数除以根指数，即

矩阵运算法则

概率公式

传统概率

设随机实验E的样本空间为Ω。若按照某种方法，对E的每一事件A赋于一个实数P(A)，且满足以下公理：

（1）非负性：P(A)≥0；
（2）规范性：P(Ω)=1；
（3）可列（完全）可加性：对于两两互不相容的可列无穷多个事件A1，A2，……，An，……，有

则称实数P(A)为事件A的概率

条件概率

一事件A在一事件B确定发生后会发生的概率称为B给之A的条件概率，其数值为

P(AB)为事件AB的联合概率，P(A|B)为条件概率，表示在B条件下A的概率，P(B)为事件B的概率。
上述乘法公式可推广到任意有穷多个事件时的情况：

全概率

公式表示若事件A1，A2，…，An构成一个完备事件组且都有正概率，则对任意一个事件B都有公式成立。

贝叶斯公式

公式中，事件Bi的概率为P(Bi)，事件Bi已发生条件下事件A的概率为P(A│Bi)，事件A发生条件下事件Bi的概率为P(Bi│A)

数理统计

样本均值

我们有n个样本，每个样本的观测值为Xi，那么样本均值指的是 1/n * ∑x(i)，求n个观测值的平均值

样本方差

这里的观测值减去的是均值！即 1/n * ∑x(i)

期望

已知其观测值f（x）及其概率P，求其观测值与概率乘积的累加和

大数定律规定，随着重复次数接近无穷大，数值的算术平均值几乎肯定地收敛于期望值

方差

观测值f(x)与其期望相减的差值的期望，即观测值与其期望的偏差

                                D(X) = E{[X - E(X)]^2} = E(X^2) - [E(X)]^2

标准差（或均方差）

协方差

对于二维的随机变量(X,Y)，协方差就是一个这样的数字特征。

Cov(X,Y) = E{[X - E(X)] [ Y - E[Y]]} = E(XY) – E(X)E(Y)

又当X,Y相互独立的时候E(XY) = E(X)E(Y).这意味着若E{[X-E(X)][Y-E[Y]]} ≠ 0 ,则X与Y是存在一定关系的。