算法导论习题—摊还时间代价分析、栈实现队列、贪心算法近似比、集合覆盖问题

在执行的$n$个操作中，有至多$\lceil lgn\rceil$个操作的次序是$2$的幂，这些操作的次序（即代价）如下
$$1,2,4,8,\cdot \cdot \cdot ,2\lceil lgn\rceil$$
$n$个操作的总代价为
$$\begin{array}{rl}T& =\sum _{k=0}^{\lceil lgn\rceil }{2}^k+(n-\lceil lgn\rceil )\times 1\\ & =2^{\lceil lgn\rceil +1}-1+(n-\lceil lgn\rceil )\\ & \le 2^{\lg n+2}+n-lgn\\ & =3lgn+n\end{array}$$
因此每个操作的摊还代价是 $O(\frac{3\lg n+n}{n})=O(1)$的。

当操作次序是$2$的幂时，为其赋$4$的摊还代价，否则为其赋$2$的摊还代价，则每一个不为$2$ 的幂的操作均会提供$1$的信用以支付差额，对于一 个$n$个操作组成的操作序列，有
$$\begin{array}{rl}& 4\times \lceil \lg n\rceil +2\times (n-\lceil \lg n\rceil )\\ & =2\times \lceil \lg n\rceil +2n\\ & \le 3\lg n+n\\ & \le \sum _{k=0}^{\lceil lgn\rceil }{2}^k+(n-\lceil \lg n\rceil )\times 1\end{array}$$
每个操作的摊还代价都是常数，因此摊还代价都为$O(1)$。

定义势函数
$$\Phi Phi(D_i)=\{\begin{array}{rl}& 0,i=0\\ & 1,i=1\\ & \lg i+1,i=2^{\lfloor \lg i\rfloor }\\ & \lfloor \lg i\rfloor +k,i=2^{\lfloor \lg i\rfloor }+k\end{array}$$

则对任意的$i，\Phi (D_i)\ge 0$，且
$$\Phi (D_i)-\Phi (D_{i-1})=\{\begin{array}{rl}& 1-i,i=2^{\lfloor \lg i\rfloor }\\ & 1,i=2^{\lfloor \lg i\rfloor }+k\end{array}$$
所以：
$$\sum _{i=1}^n\hat{c}=\sum _{i=1}^{n}1=n$$
因此每个操作的摊还代价是$O(1)$。

使用两个栈实现队列，将两个栈记为左右栈。

$\text{ENQUEUE}$：直接对左栈进行$\text{push}$将元素入队

$\text{DEQUEUE}$：如果右栈非空，对右栈进行$\text{pop}$。如果右栈为空，做一个迭代：把左栈元素$\text{pop}$出来，$\text{push}$进右栈，直到左栈为空，再执行$\text{DEQUEUE}$。

$\text{FIND-MIN}$：在左右栈基础上再加一个辅助栈，用于记录最小值。每次有元素入左栈时，判断辅助栈为空或辅助栈的栈顶元素比入栈元素更大，则将该元素压入辅助栈中，否则将辅助栈的栈顶元素重复压入辅助栈。左栈需要弹出元素时，辅助栈需要同步弹出栈顶元素。取最小值时，直接将栈顶元素弹出，返回值即最小值。

摊还分析：

设$C_i$为第$i$个操作的代价（假定每个操作的代价为$1$）设每次操作的势能$\text{D(i)=2*}$左栈元素个数，设左栈元素个数为$k$。

$\text{ENQUEUE：Ci+D(i)-D(i-1)=1+2*(k+1-k)=3}$，$k+1$表示入队后的元素，所以入队摊还时间复杂度为$O(1)$

$\text{DEQUEUE}$：

1. 如果右栈非空,左栈有$k$个元素：$\text{Ci+D(i)-D(i-1)=1+2(k-k)=1}$
2. 如果右栈为空,左栈有$k$个元素：$\text{Ci+D(i)-D(i-1)=2k+1+2(0-k)=1}$，其中$2k$为左栈弹出元素数+右栈压入元素数，$1$表示出队一个元素，所以出队摊还时间复杂度为$O(1)$

$\text{FIND-MIN}$： 使用聚合法分析，取最小值实际上是对单个辅助栈的操作，考虑整个栈的$n$个操作，一个对象压入栈后，至多弹出一次，则对该栈的$n$个$\text{PUSH、POP、MULTIPOP}$的操作序列，代价至多是$O(n)$，一个操作的平均时间为$O(n)/n=1$，所以摊还复杂度为$O(1)$。

每次迭代添加包含未覆盖元素最多的集合, 直到满足全覆盖条件，时间复杂度为多项式时间$\Theta (k\lg n)$

假设全集$S$包含$n$个元素，最优覆盖包含$k$个子集合。那么我们使用的贪心算法最多会选择$k\ln n+1$个子集。
证明：

1. $u_j$：在贪心算法第$j$次迭代还没有被覆盖的元素个数

2. $OPT$：最优解

3. $k$个最优集合必定可覆盖住该$u_j$个元素，故最优集合中至少有一个集合包含至少$\frac{u_j}{k}$个元素

4. 使用贪心算法后，我们可以递推得到
   $$u_{j+1}\le u_j-\frac{u_j}{k}=u_j(1-\frac{1}{k})\le u_{j-1}(1-\frac{1}{k})(1-\frac{1}{k})\le \dots \le u_0(1-\frac{1}{k}{)}^{j+1}=n(1-\frac{1}{k}{)}^{j+1}$$
   所以$u_{j+1}\le n(1-\frac{1}{k}{)}^{j+1}$

5. $\underset{x\to +\infty }{\lim }(1+\frac{x}{n}{)}^n=e^x$，即存在这样一个式子$1-x<=e^{-x}$对所有的$x$都成立
   所以
   $$\begin{array}{rl}& u_j\le u_0(1-\frac{1}{k}{)}^j<u_0(e^{-\frac{1}{k}}{)}^j=n{e}^{-\frac{j}{k}}\\ & (1-\frac{1}{k}{)}^j=((1-\frac{1}{k}{)}^k{)}^{\frac{j}{k}}\le e^{-\frac{j}{k}}\\ & n\cdot e^{-\frac{j}{k}}\le 1\iff e^{-\frac{j}{k}}\le n^{-1}\iff -\frac{j}{k}\le -\ln n\iff j\ge k\ln n\end{array}$$
   当$j=k\ln n$，结果等于$1$，也就是说没有其他的元素剩下了，此时$(1-\frac{1}{k}{)}^{k\ln n}\le e^{-\ln n}$，$OPT\ge k\ge OPT\cdot (1-(1-\frac{1}{k}{)}^k)\ge 1-\frac{1}{e}$，所以近似比为$1-(1-\frac{1}{k}{)}^k\ge 1-\frac{1}{e}$，则对于一个含有$k\ln n+1$个子集的集合覆盖，$k\ln n+1\in \Theta (k\cdot \ln n)=\Theta (k\lg n)$。

​ 当我们选择一个集合之后，删除已经被覆盖的元素。然后我们选择每个单位成本最小的集合直到覆盖所有元素。本质上每次选择覆盖未覆盖元素最多的集合。

​ $C$：代表到目前为止涵盖的元素集

​ $\text{cost effectiveness , or α}$：每个新覆盖节点的平均成本

​ 伪代码：

Greedy Method:
	Initial C
	While C != U:
		Find the set Si whose cost effectiveness is the smallest
		then Set C = C∪Si 
        Let α= wi/|Si-C|
		For	each e∈Si-C : Set price(e) = α
    end While
	Output Selected sets

我们每次选取的都是$\frac{w_i}{S_i-C}$最小的集合$S_i$，即每次新添的集合$S_i$的新增覆盖率相对于$\text{cost}$值都是最大的，从而实现局部最优。
选择的集合按照先后顺序为$S_1,S_2,\dots ,S_m$

$n_i$ 是选择$S_i$时，其覆盖的新元素个数。

元素被覆盖的顺序$e_1,e_2,\dots ,e_n$ 。

设$S_j$第一次覆盖新元素$e_k$ 。

$C_1,...$是最优覆盖中的部分集合，覆盖了$e_k,\dots ,e_n，n_i^{\prime }$ 是其覆盖的对应元素个数。不仅仅是$e_k,\dots ,e_n$ 中的元素。

1. ${\sum }_i{n}_i^{\prime }\ge n-k+1,{\sum }_{i}cost(C_i)\le OPT$，因为$C_i,...$也可能覆盖了其他元素，是从最优覆盖中选择的部分集合。
2. $C_1,....$没有与$S_1,...S_{j-1}$重复的。假设某个$C_i$ 在$S_1,...S_{j-1}$中，则$e_k$之后的元素会被某个$S_i(i\in [1,j-1])$覆盖，矛盾。
3. $\frac{{\sum }_{i}cost(C_i)}{{\sum }_i{n}_i^{\prime }}\le \frac{OPT}{n-k+1}⟹$存在某个$\frac{cost(C_i)}{n_i\prime }\le \frac{OPT}{n-k+1}$。
4. 由贪心算法选出的$\frac{cost(S_j)}{n_j}\le \frac{cost(C_i)}{n_i\prime }$。
5. 对于每个$k$都存在满足$3$和$4$的$C_i$
6. 每个点被覆盖的代价$cost(e_k)\le \frac{cos{t}_{opt}(S)}{n-k+1}$，所以在整个贪心过程中的总代价为$\sum cost(e_k)\le (1+\frac{1}{2}+\frac{1}{3}+\cdot \cdot \cdot \frac{1}{n})\cdot cos{t}_{opt}=H_n\cdot cos{t}_{opt}$
7. ${\sum }_{k}cost(e_k)\le {\sum }_k\frac{cost(C_i)}{n_i\prime }\le {\sum }_k\frac{OPT}{n-k+1}\sim \ln n\cdot OPT$.

所以近似比为$\ln n$