数据结构与算法分析（第二章 算法分析）

一、引言

算法是为求解一个问题需要遵循的、被清楚地指定的简单指令的集合。

---

二、数学基础

全书将使用下列四个定义：

定义1：如果存在正常数$c$和$n_0$，使得当$N⩾n_0$时，$T\left(N\right)⩽cf\left(N\right)$，则记为$T\left(N\right)=O\left(f\left(N\right)\right)$。（大$O$记法）

定义2：如果存在正常数$c$和$n_0$，使得当$N⩾n_0$时，$T\left(N\right)⩾cg\left(N\right)$，则记为$T\left(N\right)=\Omega \left(g\left(N\right)\right)$。（$\Omega 读成$“omega”）

定义3：当且仅当$T\left(N\right)=O\left(h\left(N\right)\right)$且$T\left(N\right)=\Omega \left(h\left(N\right)\right)$，$T\left(N\right)=\Theta \left(h\left(N\right)\right)$。（$\Theta$读成"theta"）

定义4：如果$T\left(N\right)=O\left(p\left(N\right)\right)$且$T\left(N\right)\ne \Theta \left(p\left(N\right)\right)$，则$T\left(N\right)=o\left(p\left(N\right)\right)$。（小$o$记法）

另外，还有几个重要的结论：

法则1：如果$T_1\left(N\right)=O\left(f\left(N\right)\right)$且$T_2\left(N\right)=O\left(g\left(N\right)\right)$，那么
(a) $T_1\left(N\right)+T_2\left(N\right)=max\left(O\left(f\left(N\right)\right),O\left(g\left(N\right)\right)\right)$，
(b) $T_1\left(N\right)\ast T_2\left(N\right)=O\left(f\left(N\right)\ast g\left(N\right)\right)$。
法则2：如果$T(N)$是一个$k$次多项式，则$T\left(N\right)=\Theta \left(N^k\right)$。
法则3：对任意常数$k$，log^{k}N=O\left ( N \right )。
法则4：也就是洛必达法则。若$\underset{n\to \infty }{\lim }f\left(N\right)=\infty$且$\underset{n\to \infty }{\lim }g\left(N\right)=\infty$，则$\underset{n\to \infty }{\lim }f\left(N\right)/g\left(N\right)=\underset{n\to \infty }{\lim }{f}^{{}^{\prime }}\left(N\right)/g^{{}^{\prime }}\left(N\right)$，而$f^{{}^{\prime }}\left(N\right)$和$g^{{}^{\prime }}\left(N\right)$分别是$f\left(N\right)$和$g\left(N\right)$的导数。
该极限可以有四种可能的值：
极限是0：这意味着$f\left(N\right)=o\left(g\left(N\right)\right)$
极限是$c\ne 0$：这意味着$f\left(N\right)=\Theta \left(g\left(N\right)\right)$
极限是$\infty$：$g\left(N\right)=o\left(f\left(N\right)\right)$
极限摆动：二者无关

---

三、模型

计算模型：一台标准的计算机，在机器中指令被顺序地执行。

---

四、需要分析的问题

要分析的最重要的资源一般说来就是运行时间。

---

五、运行时间的计算

具体介绍一下运行时间中的对数问题。
（1）对分查找
给定一个整数$X$和整数$A_0,A_1,...,A_{N-1}$，后者已经预先排序并在内存中，求使得$A_i=X$的下标$i$，如果$X$不在数据中，则返回$i=-1$。

int BinarySearch(const ElementType A[], ElementType x, int N)
{
     
	int Low, Mid, High;
	Low = 0; High = N - 1；
	while( Low <= High)
	{
     
		Mid = ( Low + High) / 2;
		if (A[Mid] < x)
			Low = Mid + 1;
		else if (A[Mid] > x)
			High = Mid - 1;
		else
			return Mid;
	}
	return -1;
}

（2）欧几里得算法
计算最大公因数，两个整数的最大的公因数（$Gcd$）是同时整除二者的最大整数。

unsigned int Gcd(unsigned int M, unsigned int N)
{
     
	unsigned int Rem;
	while (N > 0)
	{
     
		Rem = M % N;
		M = N;
		N = Rem;
	}
	return M;
}

定理： 如果$M>N$，则$MmodN<M/2$ 。

（3）幂运算
处理一个整数的幂。

long int Pow(long int X, unsigned int N)
{
     
	if(0 == N)
		return 1;
	if(1 == N)
		return X;
	if(IsEven(N))
		return Pow(X * X, N / 2);
	else
		return Pow(X * X, N / 2) * X;
}

---

六、总结

本章对如何分析程序的复杂性给出一些提示。但遗憾的是，它并不是完善的分析指南。

---