《大话数据结构》笔记之 第二章 算法

一、算法定义

算法：算法是解决特定问题求解步骤的描述，在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作。

二、算法的特性

1、输入输出：算法具有零个或多个输入；至少有一个或多个输出。

2、有穷性：指算法在执行有限的步骤之后，自动结束而不会出现无限循环，并且每一个步骤在可接受的时间内完成。

3、确定性：算法的每一步骤都具有确定的含义，不会出现二义性。

4、可行性：算法的每一步都必须是可行的，也就是说，每一步都能够通过执行有限次数完成。

三、算法设计的要求

1、正确性：算法的正确性是指算法至少应该具有输入、输出和加工处理无歧义性、能正确反映问题的需求、能够得到问题的正确答案。算法的正确性在大部分情况下都不可能用程序来证明，而是用数学方法证明的，一般情况下，把“算法程序对于非法的输入数据能够得出满足规格说明的结果”作为一个算法是否正确的标准。

2、可读性：算法设计的另一目的是为了便于阅读、理解和交流。

3、健壮性：当输入数据不合法时，算法也能做出相关处理，而不是产生异常或莫名奇妙的结果。

4、时间效率高和存储量低：时间效率指的是算法的执行时间；存储量指的是算法在执行过程中需要的最大存储空间。

四、算法效率的度量方法

1、事后统计方法：通过设计好的测试程序和数据，利用计算机计时器对不同算法编制的程序的运行时间进行比较，从而确定算法效率的高低。缺陷如下：

                               1）必须依据算法事先编制好程序，而编制出来后有可能发现根本是很糟糕的。

                               2）时间的比较依赖计算机硬件和软件等环境因素，有时会掩盖算法本身的优劣。

                               3）算法的测试数据设计困难，且程序的运行时间往往还与测试数据的规模有很大的关系。

2、事前分析估算方法：在计算机程序编制前，依据统计方法对算法进行估算。

      2.1 抛开与计算机硬件、软件有关的因素，一个程序的运行时间，依赖于算法的好坏和问题的输入规模（输入量的多少）。

      2.2 测定运行时间最可靠的方法是计算对运行时间有消耗的基本操作的执行次数，运行时间与这个计数成正比。

      2.3 在分析一个算法的运行时间时，基本操作的数量必须表示成输入规模的函数。

五、函数的渐进增长

1、如下图所示，随着n的增加，算法A比算法B越来越好。函数的渐进增长：给定两个函数f(n)和g(n)，如果存在一个整数N，使得对于所有的n>N ，f(n)总是比g(n)大，那么，我们说f(n)的增长渐进快于g(n)。

   如上图可以发现，随着n的增大，后面的+3还是+1其实不影响最终的算法变化的，所以，可以忽略这些加法常数。

2、如下图所示可以发现与最高次项相乘的常数也并不重要。

3、如下所示，通过观察发现，最高次项的指数大的，函数随着n的增长，结果也会变得增长特别快。

4、如下图所示，可以得到结论：判断一个算法的效率时，函数中的常数和其他次要项常常可以忽略，而更应该关注主项（最高阶项）的阶数。

5、事前估算方法的理论依据：某个算法，随着n的增大，它会越来越优于另一算法，或者越来越差于另一算法。

六、算法时间复杂度

6.1 算法时间复杂度定义

      在进行算法分析时，语句总的执行次数T(n)是关于问题规模n的函数，进而分析T(n)随n的变化情况并确定T(n)的数量级。算法的时间复杂度，也就是算法的时间度量，记作：T(n)=O(f(n))，表示随问题规模n的增大，算法执行时间的增长率和f(n)的增长率相同，称作算法的渐进时间复杂度，简称为时间复杂度。其中f(n)是问题规模n的某个函数。

      用大写O()来体现算法时间复杂度的记法，称之为大O记法。

6.2 推导大O阶方法

      1、用常数1取代运行时间中的所有加法常数。

      2、在修改后的运行次数函数中，只保留最高阶项。

      3、如果最高阶项存在且不是1，则去除与这个项相乘的常数。最后得到的结果就是大O阶。

6.3 循环的时间复杂度等于循环体的复杂度乘以该循环运行的次数。

6.4 对于分支结构而言，无论是真还是假，执行次数都是恒定的，不会随着n的变大而发生变化，所以单纯的分支结构（不包含在循环结构中）其时间复杂度是O(1)。

七、最坏情况与平均情况

1、最坏情况运行时间是一种保证，那就是运行时间将不会再坏了，在应用中，这是一种最重要的需求，通常，除非特别指定，我们提到的运行时间都是最坏情况的运行时间。

2、平均运行时间是所有情况中最有意义的，因为它是期望的运行时间。

3、对算法的分析，一种方法是计算所有情况的平均值，这种时间复杂度的计算方法称为平均时间复杂度；另一种方法是计算最坏情况下的时间复杂度，这种方法称为最坏时间复杂度。一般在没有特殊说明的情况下，都是指最坏时间复杂度。

八、算法空间复杂度

1、算法的空间复杂度通过计算算法所需的存储空间实现，算法空间复杂度的计算公式记作：S(n)=O(f(n))，其中n为问题的规模，f(n)为语句关于n所占存储空间的函数。

2、若输入数据所占空间只取决于问题本身，和算法无关，这样只需要分析该算法在实现时所需的辅助单元即可。若算法执行时所需的辅组空间相对于输入数据量而言只是个常数，则称此算法为原地工作，空间复杂度为O(1)。

3、通常，使用“时间复杂度”来指运行时间的需求，使用“空间复杂度”指空间需求；当使用“复杂度”时，通常都是指时间复杂度。