水塘抽样（Reservoir Sampling）

水塘抽样（Reservoir Sampling）: 力扣398题目而来
参考链接: https://zhuanlan.zhihu.com/p/29178293
问题描述：当内存无法加载全部数据时，如何从包含未知大小的数据流中随机选取k个数据，并且要保证每个数据被抽取到的概率相等。

特殊且常用情况：k=1，假设数据量为N
第一个数$n_1$，我们选择保留，$p(n_1)=1$
第二个数$n_2$，我们以$\frac{1}{2}$的概率保留，那么$n_1$被保留（不被覆盖）的概率$p(n_1)=1\ast (1-\frac{1}{2})=\frac{1}{2}$，$n_2$被选中（覆盖前面的数）的概率$p(n_2)=\frac{1}{2}$
第三个数$n_3$，我们以$\frac{1}{3}$的概率保留，那么$n_1$被保留的概率为$p(n_1)=1\ast (1-\frac{1}{2})\ast (1-\frac{1}{3})=\frac{1}{3}$，$n_2$被保留概率为$p(n_2)=1\ast \frac{1}{2}\ast (1-\frac{1}{3})=\frac{1}{3}$，$n_3$被保留概率为$p(n_3)=\frac{1}{3}$
…
第i个数$n_i$，我们以$\frac{1}{i}$的概率保留，那么$n_1,n_2,...,n_{(}i-1)$被保留的概率也为$\frac{1}{i}$


一般情况，随机抽取k个样本，k>1
按照上述逻辑
对于前k个数字，我们选择保留$p(n_1)=p(n_2)=...=p(n_k)=1$

对于第k+1个数字，我们以$\frac{k}{k+1}$的概率保留，那么前k个数字中$n_r$被保留的概率为$上一轮p(n_r)被保留的概率\ast （n_{k+1}被丢弃的概率+n_{k+1}被保留\ast n_r此轮不被丢弃）$ = $1\ast (\frac{1}{k+1}+\frac{k}{k+1}\ast \frac{k-1}{k})=\frac{k}{k+1}$。

对于第k+2个数字，我们以$\frac{k}{k+2}的概率保留$，前k个数字$n_r$被保留的概率为$p(n_r)=\frac{k}{k+1}\ast (\frac{2}{k+2}+(\frac{k}{k+2}\ast \frac{k-1}{k}))=\frac{k}{k+2}$
…
对于第i个数字$n_i$，i>k，我们以$\frac{k}{i}$的概率保留，那么前k个数字中$n_r$被保留的概率$p(n_r)=\frac{k}{i-1}\ast (\frac{i-k}{i}+(\frac{k}{i}\ast \frac{k-1}{k}))=\frac{k}{i}$

python的简单实现

import random
def random_sample_k(nums, k):
	res = [0]*k  
	for i in range(k): # 初始化前k个数字
		res[i] = nums[i]
	for i in range(k, len(nums)):
		random_k = random.randrange(i)  # 在i中随机选择一个数字
		if random_k < k:  # 如果数字小于k，即实现 k/i 的概率来决定是否覆盖
			res[random_k] = nums[i]