概率模型和公理课程笔记

样本空间（Sample Space）是所有可能出现结果的集合，记作 Ω ，集合中的元素必须两两互斥。

离散有穷的样本空间例子：扔两个四面形的骰子

连续的样本空间例子：点(x,y)， 0≤x,y≤1

事件（Event）是样本空间的子集。

公理

1. 非负性： P(A)≥0 .
2. 归一化： P(Ω)=1 .
3. 可加性：如果 A∩B=∅ ,那么 P(A∪B)=P(A)+P(B)

从公理中得出的推论

• P(A)≤1 .
• P(∅)=0 .
• P(A)+P(AC)=1
• 对于k个不相交的事件： P({s1,s2,...,sk})=P({s1})+...+P({sk})=P(s1)+...+P(sk)
• A∪Ac=Ω
• A∩Ac=∅

更复杂一些的公理推论

概率计算

离散均匀法则(Discrete Uniform Law)：

连续模型概率计算：

概率的计算步骤

• 找出样本空间
• 指定计算概率的法则
• 指出我们感兴趣的事件
• 计算

离散且无穷的样本空间

可列可加性公理：

如果 A1,A2,A3... 是无穷不相交的事件序列，那么 P(A1∪A2∪A3∪...)=P(A1)+P(A2)+P(A3)+...

现实世界、统计学和概率三者之间的关系

现实世界产生数据，统计和推理学用这些数据提供一个概率模型，一旦我们有了概率模型，我们可以用概率理论和分析工具去处理模型从而去预测现实世界。