主项定理Master Method ——算法复习笔记

在分析根据递归方程分析算法的时间复杂度时，常见到如下形式的方程，
T(n) = a * T(n/b) + f(n)
a ³ 1，b > 1，f(n)一般是个简单函数

这时可以有2种方法，来计算时间复杂度。一是用递归树，逐层代入原式，最终形成一个级数，
然后用一个函数来表达，得到T(n)。

二是应用主项定理Master Method 。其实，主项定理也就是对递归树方法的一种归纳，形成了
固定的计算方式，并分三种情形来计算。

这三种情形主要是比较 n^log_ba 与 f(n)，为什么要比较这两个函数呢？

观察原式，可以看出，n^log_ba其实相当于用递归树方法解出的递归方程的右侧的第一项，
而f(n)则是递归方程的右侧的第二项，这样，主项定理实际上是在比较组成结果的两个函数项，
而且这种比较是按照数量级（或者说是变化幅度）来比较的，也就是说，如2n 与 28n是
数量级（变化幅度）相当的。

这样就有了三种不同的情形：

1. f(n) < n^log_b^a                

   也就是 f(n) = O(n^log_b^{a - e} ) ，e > 0为任意小的常数
   或者说，f(n) 比 n^log_ba变化的慢，慢n^e
   那么，T(n) Î Q (n^log_b^a)

2. f(n) > n^log_b^a          

   也就是 f(n) = W(n^log_b^{a +e} ) ，e > 0为任意小的常数
   或者说，f(n) 比 n^log_ba变化的快，快n^e
   那么， T(n) Î Q(f(n))

   可以简单地说，递归方程的右侧的两项，哪项变化的块，T(n)就属于哪项的数量级

3. f(n) = n^log_b^a

   也就是两项的数量级相当，就给这个数量级乘上一个lg n
   
   T(n) Î Q(n^log_b^a * lg n)

 

---

Examples（以下示例来源于网络）:

1. T(n) = 5T(n/2) + Q(n²)

   Case 1: If f(n) = O(n^log_b^{a - e} ) for some constant e > 0 then T(n) Î Q(n^log_b^a)

   Determine: a, b, f(n) and log_ba

   • a = 5

   • b = 2

   • f(n) = Q(n²)

   • log_b a = log₂ 5 ≈ 2.32

   Is f(n) Î O(n^{lg 5 - e}) for e > 0 ?

   Yes. f(n) = Q(n²) Î O(n^{lg 5 - e}) = O(n^{2.32 - e}) for e ≈ 0.32

   T(n) Î Q(n^log₂⁵)

---

2. T(n) = 2T(n/2) + n

Determine: a, b, f(n) and log_b(a)

• a = 2

• b = 2

• f(n) = n

• log_b a = log₂ 2 = lg 2 = 1

Case 3: If f(n) = Q(n^log_b^a ) then T(n) Î Q(n^log_b^a lg n)

f(n) = n Î Q(n^log₂²) = Q(n¹)

T(n) Î Q(n^log₂² lg n) = Q(n lg n)

---

3. T(n) = 5T(n/2) + Q(n³)

Determine: a, b, f(n) and log_b(a)

• a = 5

• b = 2

• f(n) = Q(n³)

• log_b a = log₂ 5 ≈ 2.32

Case 2: If f(n) = W(n^log_b^a+e ) for some constant e > 0

f(n) = Q(n³) Î W(n^log₂^5+e ) = W(n^2.32+e ) for e ≈0.68

and af(n/b) ≤ cf(n) for some constant c < 1 and all sufficiently large n

5(n/2)³≤ cn³

5n³/8 ≤ cn³

c = 5/8 < 1

then T(n) Î Q(n³)