数据结构笔记整理(二)
算法
1.1 算法定义
算法是解决特定问题求解步骤的描述，在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作
为了解决某个或某类问题，需要把指令表示成一定的操作序列，操作序列包括一组操作，每一个操作都完成特定的功能，这就是算法了。
1.2 算法的特性
输入输出
----- 算法具有0个或多个输入；算法至少有一个或多个输出。
有穷性
----- 指算法在执行有限的步骤之后，自动结束而不会出现无限循环，并且每一个步骤在可接受的时间内完成。
确定性
----- 算法的每一步骤都有确定的含义，不会出现二义性。
可行性
----- 算法的每一步都必须是可行的，也就是说，每一步都能通过执行有限次完成。
1.3 算法设计的要求
正确性
正确性：算法的正确性是指算法至少应该具有输入、输出和加工处理无歧义性，能正确反映问题的需求，能够得到问题的正确答案。
算法的“正确”在用法上有很大差别，大体分为四个层次：
- 算法程序没有
语法错误(基本要求) - 算法程序对于
合法的输入数据能够产生满足要求的输出结果 - 算法程序对于
非法的输入数据能够得出满足规格说明的结果(衡量算法是否正确的标准) - 算法程序对于
精心选择、甚至刁难的测试数据都有满足要求的输出结果(最难)
可读性
可读性：算法设计的另一目的是为了便于阅读、理解和交流
健壮性
健壮性：当输入数据不合法时，算法也能做出相关处理，而不是产生异常或莫名其妙的结果。
时间效率高和存储量低
设计算法应该尽量满足时间效率高和存储量低的需求
好的算法，应该具有正确性、可读性、健壮性、高效率和低存储量的特征。
1.4 算法效率的衡量方法
效率大多指的是算法的执行时间
事后统计方法(不予采纳)
通过设计好的测试程序和数据，利用计算机计时器对不同算法编制的程序的运行时间进行比较，从而确定算法效率的高低。
存在很大缺陷：
- 必须依据算法事先编制好的程序，这需要花费大量的时间和精力。
- 时间的比较依赖计算机硬件和软件等环境因素，有时会掩盖算法本身的优劣。
- 算法的测试数据设计困难，并且程序的运行时间往往还与测试数据的规模有很大关系，效率高的算法在小的测试数据面前往往得不到体现。
事前分析估计
在计算机程序编制前，依据统计方法对算法进行估算。
一个高级程序语言编写的程序在计算机上运行消耗的时间取决于下列因素：
- 算法采用的策略、方法(算法好坏的根本)。
- 编译产生的代码质量(需要由软件来支持)。
- 问题的输入规模。
- 机器执行指令的速度(看硬件性能)。
一个程序的运行时间，依赖于算法的好坏和问题的输入规模。所谓问题输入规模是指输入量的多少。
在分析程序的运行时间时，最重要的是把程序看成是独立于程序设计语言的算法或一系列步骤。
1.5 函数的渐进增长
函数的渐进增长：给定两个函数f(n)和g(n)，如何存在一个整数N，使得对于所有的n>N，f(n)总是比g(n)大，那么，我们说f(n)的增长渐进快于g(n)。
n指的是输入规模。
判断一个算法效率时，函数中的常数和其他次要项常常可以忽略，而更应该关注主项(最高阶项)的阶数。
1.6 算法时间复杂度
算法时间负责度定义
在进行算法分析时，语句的总执行次数T(n)是关于问题规模n的函数，进而分析T(n)随n的变化情况并确定T(n)的数量级。算法的时间复杂度，也就是算法的时间度量，记作：T(n)=O(f(n))。它表示随问题规模n的增大，算法执行时间的增长率和f(n)的增长率相同，称作算法的渐进时间复杂度，简称为时间复杂度。其中f(n)是问题规模n的某个函数。
一般情况下，随着n的增大，T(n)增长最慢的算法为最优算法。
推导大O阶方法
- 用常数1取代运行时间中的所有加法常数
- 在修改后的运行次数函数中，只保留最高阶项
- 如果最高阶项存在且不是1，则去除与这个项相乘的常数
得到的结果就是大O阶
常数阶：
具有O(1)的时间复杂度的叫常数阶。
int sum=0, n=100; // 执行一次
sum = (1+n)*n/2; // 执行一次
printf("%d",sum); // 执行一次
算法的运行次数函数是f(n)=3,根据大O阶方法得到这个算法的时间复杂度为O(1)。
注意：这个常数不管是多少，都记作O(1)。
线性阶
关键是分析循环结构的运行情况
int i;
for(i=0;i<n;i++){
// 时间复杂度为O(1)的程序步骤序列
}
对数阶
int count = 1;
while(count < n){
count = count * 2;
// 时间复杂度为O(1)的程序步骤序列
}
由于count每次乘以2之后，就距离n更近了一分，也就是说有多少个2相乘后大于n就会退出循环。这个循环的时间复杂度为O(log n)。
平方阶
int i, j;
for(i=0;i<n;i++){
for (j=0;j<n;j++){
// 时间复杂度为O(1)的程序步骤序列
}
}
内部循环时间复杂度为O(n)，再循环n次，所以这段代码的时间复杂度为O(n2)。
如果外循环的次数改为了m，那么这段代码的时间复杂度为O(m*n)。
int i, j;
for(i=0;i<n;i++){
for (j=i;j<n;j++){
// 时间复杂度为O(1)的程序步骤序列
}
}
当i=0时，内循环执行了n次；
当i=1时，内循环执行了(n-1)次；
…
所以总的执行次数为：
n+(n-1)+(n-2)+…+1 = 1/2(n2+n)
按照大O阶推导方法，得到这段代码的时间复杂度为O(n2)。
常见的时间复杂度
| 执行次数函数 | 阶 | 非正式术语 |
|---|---|---|
| 12 | O(1) | 常数阶 |
| 2n+3 | O(n) | 线性阶 |
| 3n2+2n+1 | O(n2) | 平方阶 |
| 5log2b+20 | O(logn) | 对数阶 |
| 2n+3nlog2n+19 | O(nlogn) | nlogn阶 |
| 6n3+2n2=3n+4 | O(n3) | 立方阶 |
| 2n | O(2n) | 指数阶 |
| 常用的时间复杂度所耗费的时间从小到大依次是 |
|---|
| O(1) |
对于O(n3)，O(2n)，O(n!)，O(nn)，除非是很小的n值，否则哪怕n只是100，都是噩梦般的运行时间，所以这种不切实际的算法时间复杂度，一般不去讨论它们。
最坏情况与平均情况
最坏情况运行时间是一种保证，那就是运行时间将不会再坏了。在应用中，这是一种最重要的需求，通常，除非特别指定，我们提到的运行时间都是最坏情况的运行时间。
平均运行时间是所有情况中最有意义的，因为它是期望的运行时间。
一般在没有特殊说明的情况下，都是指最坏时间复杂度。
算法空间复杂度
算法的空间复杂度通过计算算法所需的存储空间实现，算法空间负责度的计算公式记作：S(n) = O(f(n))，其中，n为问题的规模，f(n)为语句关于n所占存储空间的函数。
一般情况下，一个程序在机器上运行时，除了需要存储程序本身的指令、常数、变量和输入数据外，还需要存储对数据操作的存储单元。若输入数据所占空间只取决于问题本身，和算法无关，这样只需要分析该算法在实现时所需的辅助单元即可。若算法执行时多虚的辅助空间相对于输入数据量而言是个常数，则称此算法为原地工作，空间复杂度为O(1)。
通常，使用“时间复杂度”指运行时间的需求，“空间复杂度”指空间需求。当不限定词地使用“复杂度”时，都是指“时间复杂度”。