【Chapter 6】概率算法例题

概率算法例题

由于最后一节课明确提到，概率算法这一部分会出一道上课讲过的原题，因此以blog的形式对上课讲过的例题进行记录，仅作复习之用。

问题描述

称一个序列为几乎有序是指：序列中至少90%的数据是有序的，即可删除其中不超过10%的数据使得剩下的序列有序。例如序列$\{1,2,3,4,5,10,6,7,8,9\}$是几乎有序的，而序列$\{1,2,5,3,4,10,6,7,8,9\}$中需要删除5和10才有序。仅80%数据有序，不满足几乎有序。现在需要设计算法检查一个序列是否几乎有序，输入为一个不包含重复元素的序列A，其输出如下：如果序列已经完全排序，总是返回True；如果序列没有90%排序，则以至少2/3的概率返回False。

子问题1

问题描述： 假设箱子中总共有$n$个球，其中至少10%的球是蓝色球，剩下的球是红色球。现在有放回地随机抽球，则需要抽取多少次才能以不少于$\frac{2}{3}$的概率抽到一个蓝色的球？

这个子问题可以说非常的关键，它直接对应于“如果序列没有90%排序，则以至少2/3的概率返回False”。

解法：
其解法也非常的简洁，假设至少需要抽取k次球，有：
$令p=0.1，假设抽取k次：$
$$\begin{array}{rl}1-(1-p{)}^k& \ge \frac{2}{3}\\ (1-p{)}^k& \le (1-p{)}^{{\log }_{1-p}\frac{1}{3}}\\ k& \ge {\log }_{0.9}\frac{1}{3}\end{array}$$
故至少抽取${\log }_{0.9}\frac{1}{3}$次，即可以不少于$\frac{2}{3}$的概率抽到一个蓝球。

子问题2

问题描述： 给定如下二分搜索算法Binary-Search的pseudo-code：

Binary_Search(A, key, left, right):
	if left == right:
		return left
	else:
		mid = (left+right+1)/2 //向上取整
		if key < A[mid]:
			return Binary_Search(A, key, left, mid-1)
		else:
			return Binary_Search(A, key, mid, right)

假设在序列A中查找的$key$值为$ke{y}_1$时算法返回下标$i$，查找$ke{y}_2$值时算法返回下标$j$，且A 并非完全有序 。证明以下结论：若$i<j,ke{y}_1\le ke{y}_2$。

解法：
尽管问题看起来可能非常的复杂（第一眼看来好像无从下手），但是它的证明过程却非常简单。

当$i<j$时，存在$A[mid]$使$ke{y}_1\le A[mid],ke{y}_2\ge A[mid]$，所以当$i<j$时，有$ke{y}_1\le ke{y}_2$，证毕。

最终的问题

问题描述： 现有如下概率算法IS_ALMOST_SORTED判断一个序列是否几乎有序：

IS_ALMOST_SORTED(A, n, k):
	for r=1 to k:
		i = RANDOM(1,n)	//第2行
		j = BINARY_SEARCH(A, A[i], 1, n)
		if i != j:
			return false //第5行
		else:
			return true

其中$RANDOM(1,n)$函数用于在闭区间$[1,n]$中独利均匀地随机选择一个数。试依次证明如下结论从而说明算法的正确性：

a. 如果序列已经完全排序，则算法总是返回True；

b. 定义算法第2行随机选择的下标$i$对应的元素$A[i]$为“好数”或“坏数”：若$i=Binary\_Search(A,A[i],1,n)$则称为“好数”，否则称为“坏数”。注意：“好数”和有序并不直接对应。需要证明的结论是： 若序列A并非90%排序，则至少10%的数为“坏数”（提示：反证法假设少于10%的数为“坏数”，剔除这些“坏数”后证明剩下的“好数”序列有序，从而导出矛盾）；

c. 若序列没有90%排序，则以至少$\frac{2}{3}$的概率返回False。

Reference：
这道问题的解答参考自https://blog.csdn.net/hxz_qlh/article/details/18419571。

解答：
a. 若序列已经完全排序，则不会执行到算法的第5行，一定返回True，证毕；

b. 反证法：假设少于10%的数为“坏数”，将这些“坏数”从序列中剔除，剩下90%的“好数”序列。任取序列中的两个数，都有$i<j$时，$A[i]<A[j]$，说明剩下的数都是有序的“好数”，这与序列A并非90%有序矛盾，故原命题成立。

c. 若A并非90%有序，则至少有10%的“坏数”。由$子问题1$可知，当$k\ge {\log }_{0.9}\frac{1}{3}$时，找到一个“坏数”的概率，即使得概率算法返回false的概率至少为$\frac{2}{3}$，证毕。