【Chapter 4】Divide and Conquer（使用递归树求解递归式）

Divide and Conquer

由于最后一节课明确提出，最后的考试只考察“给定递归式，画出它的递归树并分析递归树的性质”这一部分的内容，因此以blog的形式专门对这部分内容进行记录，以作复习之用。

图片转载自网络

用递归树法求解递归式

在递归树中，每个结点表示一个单一子问题的代价，子问题对应某次递归函数的调用。我们将书中每层中的代价求和，得到每层的代价，然后将所有层的代价求和，得到所有层次的递归调用的总代价。

以递归式$T(n)=3T([n/4])+\Theta (n^2)$为例构造递归树，并分析递归树的性质：

因递归树得知，子问题的规模每一步减少为上一步的$\frac{1}{4}$，所以最终必然达到边界条件。设在第i层达到边界条件，即子问题的规模降到1，令$\frac{n}{4^i}=1$，解得$i={\log }_{4}n$。因此，递归树有${\log }_{4}n+1$层（深度为$0,1,2,...,{\log }_{4}n$，树高即为${\log }_{4}n+1$）

接下来确定每一层的代价。每层的节点数是上一层的3倍（因为$T(n)=3T([n/4])+\Theta (n^2)$，每一个主问题可以分解为三个子问题），因此最底层有$3^{{\log }_{4}n}=n^{{\log }_{4}3}$个节点，每个结点的代价为$T(1)$，因此最底层的总代价为$n^{{\log }_{4}3}T(1)=\Theta (n^{{\log }_{4}3})$。深度为$i$的结点的代价为$c(\frac{n}{4^i}{)}^2$，结点数为$3^i$，故深度为$i$的这一层的总代价为$3^{i}c(\frac{n}{4^i}{)}^2=(\frac{3}{16}{)}^{i}c{n}^2$。

现在求所有层次的代价之和，以确定整棵树的代价：
$T(n)=c{n}^2+\frac{3}{16}c{n}^2+(\frac{3}{16}{)}^{2}c{n}^2+...+(\frac{3}{16}{)}^{{\log }_{3}4-1}c{n}^2+\Theta (n^{{\log }_{4}3})$
化简之，得到：
$T(n)={\sum }_{i=0}^{{\log }_{4}n-1}(\frac{3}{16}{)}^{i}c{n}^2+\Theta (n^{lo{g}_{4}3})<{\sum }_{i=0}^{\infty }(\frac{3}{16}{)}^{i}c{n}^2+\Theta (n^{lo{g}_{4}3})=\frac{1}{1-\frac{3}{16}}c{n}^2+\Theta (n^{{\log }_{4}3})=\frac{16}{13}c{n}^2+\Theta (n^{{\log }_{4}3})=O(n^2)$

下面使用代入法进行验证。希望证明$T(n)\le d{n}^2$对某个常数$d>0$成立。与之前一样，使用常数$c>0$，有：
$T(n)\le 3T(\lfloor \frac{n}{4}\rfloor )+c{n}^2\le 3d{\lfloor \frac{n}{4}\rfloor }^2+c{n}^2\le 3d(\frac{n}{4}{)}^2+c{n}^2=\frac{3}{16}d{n}^2+c{n}^2\le d{n}^2$
当$d\ge (\frac{16}{13})c$时，最后一步推导成立。

总结一下如何根据上述递归式画出递归树，进而得到树的性质：

首先，递归调用顶层的代价为$c{n}^2$，即根节点的代价，根的三棵子树表示规模为$\frac{n}{4}$的子问题的代价。进而进行进一步的扩展，每棵子树可以继续展开为三个代价为当前子问题$\frac{1}{4}$的子问题。子问题的规模逐渐缩减为原来的$\frac{1}{4}$，最终必然会达到问题规模为$T(1)$的边界条件。假设在第$i$层到达边界，即第$i$层的代价为1，有$\frac{n}{4^i}=1$，解得$i={\log }_{4}n$，故而总的树高为${\log }_{4}n+1$。

其次，对于第$i$层，共有$3^i$个节点，每个节点是对应一个子问题，子问题的求解代价为$c(\frac{n}{4^i}{)}^2$，因此每一层的求解代价为$(\frac{3}{16}{)}^{2}c{n}^2$，算上最底层$i={\log }_{4}n$，它的代价为$T(1)$，结点个数为$3^{{\log }_{4}n}=n^{{\log }_{4}3}$，最后一层的代价为$n^{{\log }_{4}3}T(1)=\Theta (n^{{\log }_{4}3})$。

整棵树的代价为$每一层的代价+最后一层（边界）的代价$，其值为：
$T(n)=c{n}^2+\frac{3}{16}c{n}^2+(\frac{3}{16}{)}^{2}c{n}^2+...+(\frac{3}{16}{)}^{n^{{\log }_{4}3}-1}c{n}^2+\Theta (n^{{\log }_{4}3})$
可以使用放缩以及等比数列、幂级数的知识对上式进行化简，最终得到$T(n)=O(n^2)$。

一些算法导论课后题当中简单的例子

答案参考自：https://zhuanlan.zhihu.com/p/35850085

4.4-1

问题描述： 对递归式$T(n)=3T(\lfloor \frac{n}{2}\rfloor )+n$，利用递归树确定一个好的渐进上界，用代入法进行验证。

解答：

勘误：树高是${\log }_{2}n+1$；
使用代入法进行推测：
推测$T(n)\le c{n}^{lo{g}_{2}3}-dn$，有：
$$\begin{array}{rl}T(n)& =3T(\lfloor \frac{n}{2}\rfloor )+n\\ & \le 3\cdot (c(\frac{n}{2}{)}^{lo{g}_{2}3}-d\frac{n}{2})+n\\ & =c{n}^{{\log }_{2}3}+(1-\frac{3d}{2})n\\ & \le c{n}^{lo{g}_{2}3}-dn\end{array}$$
对最后一个不等式之前的$(1-\frac{3d}{2})n$进行拆解，得到$c{n}^{lo{g}_{2}3}-dn+(n-\frac{1}{2}dn)$，因此只需要保证$(n-\frac{1}{2}dn)\le 0$，就有上述不等式成立，即$d\ge 2$。

4.4-2

问题描述： 对递归式$T(n)=T(\frac{n}{2})+n^2$，利用递归树确定一个好的渐进上界，用代入法进行验证。

解答：

4.4-7

问题描述： 对递归式$T(n)=4T(\lfloor \frac{n}{2}\rfloor )+cn$，画出递归树，并给出其解的一个渐进紧确界。用代入法验证。

解答：

一些其它的例子

例1

问题描述： 画出$T(n)=3T(\frac{n}{4})+\Theta (n^2)$的递归树，分析递归树的性质（包括树的高度、叶子结点的数量、递归树的总代价等），利用递归树确定一个好的渐进上界，并使用代入法证明。

解答：

例2

问题描述： 画出$T(n)=2T(\frac{n}{2})+n^2$的递归树，分析递归树的性质（包括树的高度、叶子结点的数量、递归树的总代价等），利用递归树确定一个好的渐进上界，并使用代入法证明。

解答：