机器学习系列4:期望到底是个啥?

一 说明

概率学、或统计学有许多概念无法直观想象,而我们这些搞AI的,必须将这些概念学成一种直觉,啥叫直觉,就是无需过大脑,直接想象成结论。这里引出一个概念---期望,本文对其专门讨论。

二、举个常识例子

这里不先给出定义,拿一个常识进行讨论。

【1】假如有一个骰子,有六面。如果丢出“1”来,给你一块钱,那么丢100次能获取多少钱?

答案是100/6块钱,这个答案你能接受吗?

如果接受上述事实,那么写成公式:

P=pN =\frac{1}{6}\times 100\;\;\;\;(1)

其中P是获利,p是抛出“1”的概率,N是抛出次数。 以上公式对与否?想一想。它合理吗,全面吗?。

对以上公式的改进:

P=pN*1+(1-p) N*0=\frac{1}{6}\times 100\times 1+\frac{5}{6}\times 100\times 0\;\;\;\;(2)

这才是完整的表达,其意思是:

抛N=100次骰子,带”1“的次数为pN,不带”1“的次数为(1-p)N,再乘上它们的收益u=1,和v=0后,这才是抛100次骰子的收益。

再次修改,更正确的公式是:

P(N)=pNv+(1-p)Nu \;\;\;\;(3)

【2】再做一个思想实验,你在街上搭个帐篷,让客户购票进入帐篷参加游戏,游戏内容是:抛100次骰子,抛出”1“,给一块,抛出非”1“,给0.1圆,问票价设定为多少才能不亏本?

由公式(3)有:

P(N)=pNv+(1-p)Nu \;\;\;\;(3) \\ P(100)=1/6*100*1+5/6*100*0.1=150/6=25

        也就是,门票定价为25块,你才能保证不亏本。而这个25不是你的期望,也不是任何人的期望,而是冥冥之中上帝的期望。

        以上推理中,100只是一个推理道具;这里把100拿掉:

P =p v+(1-p) u \;\;\;\;(3) \\ P =1/6* 1+5/6* 0.1=0.25

期望就是收益函数 的概率平均。画出图来

机器学习系列4:期望到底是个啥?_第1张图片

注意:这里的函数f是以集合为自变量的,也就是:f( drop==1 ) =1; drop==1表示丢出“1"这个事件,是个集合;同样,f( drop!=1 ) =0.1 也是一个事件集合,即丢出2到6这5个事件集合。

千万万千记住,这里f的自变量不是1-6这些数字,若这样理解就成了一锅粥;试问将1-6换成a-f的字母,问题没变,但是函数f就无法解释了。

三、给出期望的更正规的定义

1)对于离散函数f(收益函数),和一个几何概率空间,如图:

机器学习系列4:期望到底是个啥?_第2张图片

 那么:总收益就是期望;公式为:

E(f)=\sum_{i=1}^{n}f_ip_i

2)当f是连续函数,概率也是连续的,如图:

机器学习系列4:期望到底是个啥?_第3张图片

其中p是连续概率的密度函数,F是收益函数,那么总收益(期望)是:

E(F)=\int_{-\oe }^{\oe }Fp\;dx

至此,希望大家对期望有一个感觉上的认知。然而教材上的书似乎对期望描述与本文不一致,请看下文,我们继续探讨。

机器学习5:关于期望的深入讨论_

你可能感兴趣的:(基础理论,机器学习,概率论)