深圳大学算法实验一——排序算法性能分析

深圳大学算法实验一

一、实验目的与要求

1. 掌握九种排序算法原理

2. 掌握不同排序算法时间效率的经验分析方法，验证理论分析与经验分析的一致性。

3. 对多种排序算法提出改进方案

4. 综合比较各种排序算法

5. 解决大规模数据排序问题

6. 排序实验经验总结

二、实验内容与方法

1.理解算法原理，编写程序实现多种排序算法

(1)冒泡排序

        冒泡排序（Bubble Sort）也是一种简单直观的排序算法。它重复地走访过要排序的数列，一次比较两个元素，如果他们的顺序错误就把他们交换过来。走访数列的工作是重复地进行直到没有再需要交换，也就是说该数列已经排序完成。这个算法的名字由来是因为越小的元素会经由交换慢慢"浮"到数列的顶端。

        在数据完全有序的时候冒泡排序展现出最优时间复杂度，为。正常情况下，几乎总是。

        伪代码如下：

(2)选择排序

        首先在未排序序列中找到最小（大）元素，存放到排序序列的起始位置。再从剩余未排序元素中继续寻找最小（大）元素，然后放到已排序序列的末尾。重复第二步，直到所有元素均排序完毕。

        选择排序的时间复杂度为，是一种原地排序算法，空间复杂度为O(1)。

        伪代码如下：

(3)插入排序

        插入排序是一种最简单直观的排序算法，它的工作原理是通过构建有序序列，对于未排序数据，在已排序序列中从后向前扫描，找到相应位置并插入。

        插入排序的时间复杂度为，是一种原地排序算法，空间复杂度为O(1)。

        伪代码如下：

(4)希尔排序

        希尔排序，也称递减增量排序算法，是插入排序的一种更高效的改进版本。但希尔排序是非稳定排序算法。

        希尔排序是基于插入排序性质提出改进方法的：插入排序在对几乎已经排好序的数据操作时，效率高，即可以达到线性排序的效率；但插入排序一般来说是低效的，因为插入排序每次只能将数据移动一位，很难快速使序列基本有序。

        希尔排序的基本思想是：先将整个待排序的记录序列分割成为若干子序列分别进行直接插入排序，待整个序列中的记录"基本有序"时，再对全体记录进行依次直接插入排序。

        希尔排序是原地排序，空间复杂度为O(1)。希尔排序的时间复杂度众说纷纭，难以确定。大致认为希尔排序的时间复杂度为，其中k为1.3~2之间的数。本实验认为希尔排序时间复杂度为。

        伪代码如下：

(5)归并排序

        归并排序是一种分治思想在排序算法中的典型应用。它的实现步骤大致如下：

        步骤1，申请空间，使其大小为两个已经排序序列之和，该空间用来存放合并后的序列；

        步骤2，设定两个指针，最初位置分别为两个已经排序序列的起始位置；

        步骤3，比较两个指针所指向的元素，选择相对小的元素放入到合并空间，并移动指针到下一位置；

        重复步骤 3 直到某一指针达到序列尾，然后将另一序列剩下的所有元素直接复制到合并序列尾。它的程序实现有两种方法，分别为自上而下的递归，和自下而上的迭代。

        伪代码如下：

(6)快速排序

        快速排序，顾名思义，最大的特点就是速度快。这种算法的平均时间复杂度为。在原始数据完全有序的最坏状况下，快速排序退化为简单排序，时间复杂度暴增至，但这种状况并不常见，所以说快速排序在绝大多数情况下都有着极为优秀的效率。事实上，快速排序通常明显比其他相同时间复杂度的排序算法更快，因为它的内部循环可以在大部分的架构上很有效率地被实现出来，复杂度中隐含的常数因子很小。  

        算法实现步骤如下：

        步骤一，从数列中挑出一个元素，称为 "基准"；

        步骤二，重新排序数列，把比基准值小的元素放在基准元素之前，把比基准值大的元素放在基准元素之后。为分区（partition）操作；

        步骤三，递归地把小于基准值元素的子数列和大于基准值元素的子数列排序。

        伪代码如下：

(7)基数排序

        基数排序通过分配-收集的操作对多关键字的数据进行排序。一种常见的情况是将待比较的整数按照位数进行切分，分配到不同的序列中，然后再重新收集。这是一种非比较性的排序算法，因此它可以突破比较排序算法时间复杂度的限制，时间复杂度进一步提升到的线性级别。需要注意的是，基数排序的分配-收集操作需要占用大量空间，因此数据规模很大时使用基数排序会导致内存爆栈退出。 

        伪代码如下：

 (8)堆排序

        堆排序是利用堆这种数据结构所设计的一种排序算法。堆是一个二叉树结构，并满足子结点的键值总是小于(或者大于)父节点。堆排序可以说是一种利用堆的概念来排序的选择排序。构建堆分为两种方法：

        大顶堆：每个节点的值都大于或等于其子节点的值，在堆排序算法中用于升序排列；

        小顶堆：每个节点的值都小于或等于其子节点的值，在堆排序算法中用于降序排列；

        堆排序的平均时间复杂度为。这是一种原地排序，空间复杂度为O(1)。并且，堆排序不是稳定排序。

        堆排序首先创建一个堆，把它调整为大顶堆(或小顶堆)。然后把堆顶数据与无序序列尾的数据交换，排好一个元素。然后调整堆使其重新成为大顶堆(或小顶堆)。不断重复这一步骤，完成排序。

        伪代码如下：

(9)计数排序

        计数排序的步骤如下：

        步骤一，找出待排序的数组中最大和最小的元素；

        步骤二，统计数组中每个值为i的元素出现的次数，存入数组C的第i项；

        步骤三，对所有的计数累加；

        步骤四，根据计数数组反向填充目标数组。

        由于用来计数的数组C的长度取决于待排序数组中数据的范围，这使得使用计数排序来排序范围很大的数据，需要消耗大量空间。

        计数排序不是比较排序，排序的速度快于任何比较排序算法。它的时间复杂度为线性的O(n+k)，空间复杂度为O(k)，其中k为待排序元素大小的极差。

        伪代码如下：

2. 以待排序数组的大小n为输入规模，固定n，随机产生20组测试样本，统计不同排序算法在20个样本上的平均运行时间。

3. 分别以n=10, n=100, n=1000, n=10000, n=100000，n=1000000，重复2的实验。

4. 得出不同排序算法在20个随机样本的平均运行时间与输入规模n的关系。绘制表格和log折线图，将实际值和理论值进行比较，并提出理论时间与实测时间不一致的解释。

5.提出改进算法，对以上的一些排序算法提出优化方案

6.比较各种排序算法，分析算法各种情况下的时间复杂度、空间复杂度和稳定性等数据，绘制表格和折线图对比多种排序算法的综合性能。

7. 问题描述：现在有1万亿的数据，请选择合适的排序算法与数据结构，在有限的时间内完成进行排序。综合多方资料，提出解决大规模数据排序问题的方法。这里介绍一种采用多路归并的思想解决大规模数据排序问题的方法，步骤如下：

        一，将大数据文件切分为小数据文件；

        二，对小数据文件进行内部排序；

        三，对排序好的小文件进行多路归并排序，重新写回硬盘。

        对小数据文件进行排序可以选择快速排序、堆排序、基数排序、计数排序等排序方法进行排序。接下来思考外部排序实现方法。

        若归并趟数为s次，那么对n个记录的文件进行外排时，内部归并过程中进行的总的比较次数为s(n-1)(k-1)。参考公开资料，此时可以使用败者树实现归并排序。

        败者树是树形选择排序的一种变形， 主要会用于外部多路归并排序。在大部分情况下我们接触到的都是胜者树, 即每个非终端节点均表示其左、右孩子节点中的胜者。反之， 如果在双亲节点中记下刚进行完的这场比赛中的败者，而让胜者去参加更高一层的比赛，便可得到一棵败者树。

        由于实现k-路归并的败者树的深度为⌈log2^n⌉ + 1，则在k个记录中选择最小关键字仅需进行⌈log2^n⌉次比较。败者树的初始化也容易实现，只要先令所有的非终端节点指向一个含最小关键字的叶子节点，然后从各个叶子节点出发调整非终端节点为新的败者即可。

8.就算法解决问题的角度对本实验进行经验总结。

三、实验步骤与过程

1.实现算法并测试运行数据

        通过C++语言实现多种排序方式以及改进，分别对这些排序算法进行测试。记录数据与绘制对数图表如下。本实验选取的理论值基准均为数据规模为1000000时的测试数据。

(1)冒泡排序

数据规模	10	100	1000	10000	100000	1000000
冒泡排序	0.0005	0.00105	0.00458	0.4713	46.2717	4569.76
冒泡排序对数	-3.301029996	-2.978810701	-2.339134522	-0.3267	1.665315	3.659893
理论值	0.00000046	0.000046	0.0046	0.46	45.6976	4569.76
理论值对数	-6.337242168	-4.337242168	-2.337242168	-0.33724	1.659893	3.659893

         冒泡排序、选择排序和插入排序这三种时间复杂度为的算法，理论曲线计算方法为：取基准时间(数据规模为1000000时算法用时)，数据规模为n时，理论时间相对基准时间变化倍。即数据规模每扩大(缩小)10倍，理论用时相对变化100倍。

        可以看到在数据规模较小时，冒泡排序的实测值和理论值相差较大。理由可能是，在数据规模较小时，冒泡排序进行大量比较和交换消耗大量时间。以及算法运行过快，clock()函数难以准确测量时间。即使按照附录所提示的重复一百次计时的方法，计时误差和硬件耗时依旧无法忽略。

        接下来对冒泡排序提出改进策略。我们可以尝试设置一个工具变量，来计算每一趟冒泡排序有没有交换数据，如果一趟冒泡排序没有交换数据，则数据已经有序。然而我们会发现，在数据规模较大时，很难出现能够提前多轮完成全部排序的情况，因此这种判断并不能让算法显著变快，反而因为频繁的判断使算法时间消耗更大了。

数据规模	10	100	1000	10000	100000	1000000
冒泡排序	0.0005	0.00105	0.00458	0.4713	46.2717	4569.76
冒泡改进	0.0005	0.00019	0.00477	0.46685	46.1932	4607.25

        可能这样的改进不够。我们可以再添加一个变量，记录每次冒泡最后一次交换的位置。下次冒泡的终点到达最后一次交换的位置即可停止。

        但实际测试发现这种改进方式仍然不理想。因为数据规模较大时，很难提前几轮排好序让一整趟排序都不需要交换，也很难在一趟排序排到底之前提早很多结束。与此同时，多次判断标志变量和检测最后一次交换发生的位置，同样需要消耗大量时间。这使得这种改进方式的效果不说出类拔萃，也可以说惨不忍睹。改进之后的算法甚至比简单的冒泡排序算法更慢了。

        因此提出另一种改进算法——鸡尾酒排序。

        鸡尾酒排序，即双向冒泡排序，鸡尾酒排序等于是冒泡排序的轻微变形。不同的地方在于从低到高然后从高到低，而冒泡排序则仅从低到高去比较序列里的每个元素。他可以得到比冒泡排序稍微好一点的效能，原因是冒泡排序只从一个方向进行比对(由低到高)，每次循环只移动一个项目。所以鸡尾酒排序能更好地应对一些数据不那么均匀的情况。

        以下展示冒泡排序、冒泡排序改进1(添加标志位判断本趟排序是否发生交换)、冒泡排序改进2(添加记录变量记录本趟排序最后一次发生交换的位置)、双向冒泡(鸡尾酒排序)的算法耗时。

数据规模	10	100	1000	10000	100000	1000000
冒泡排序	0.0005	0.00105	0.00458	0.4713	46.2717	4569.76
冒泡对数	-3.30103	-2.9788	-2.33913	-0.3267	1.6653155	3.659893
冒泡改进1	0.00005	0.00019	0.00477	0.46685	46.1932	4607.25
改进1对数	-3.30103	-3.7212	-2.32148	-0.33082	1.664578	3.663442
冒泡改进2	0.00005	0.0001	0.00479	0.4746	46.6264	4612.87
改进2对数	-4.30103	-4	-2.31966	-0.32367	1.6686319	3.663971
双向冒泡	0.00005	0.0001	0.0038	0.3735	37.0814	3918.89
双向冒泡对数	-4.30103	-4	-2.42022	-0.42771	1.5691561	3.593163

        对数图如下：

         可以发现，双向冒泡排序是有效优化，它的运行时间普遍短于冒泡排序。然而，双向冒泡排序的时间复杂度仍为，与其他排序算法相比不占优势。 

(2)选择排序

数据规模	10	100	1000	10000	100000	1000000
选择排序	0.0004	0.0013	0.00205	0.0915	9.6635	921.265
选择排序对数	-3.397940009	-2.886056648	-2.688246139	-1.03858	0.985134	2.964385
理论值	0.00000009	0.0000092	0.000921	0.0921	9.21265	921.265
理论值对数	-7.045757491	-5.036212173	-3.03574037	-1.03574	0.964385	2.964385

         可以看到在数据规模较小时，选择排序的实测值和理论值相差较大。理由大致与冒泡排序的情况相似，在数据规模较小时，选择排序执行大量比较操作消耗时间。同时，数据规模太小，算法运行过快，clock()函数难以准确测量时间，计时误差和硬件耗时依旧无法忽略。

        接下来对选择排序提出改进策略。

        如果算法每次把全部数据都搜索一遍，只排好一个数据就太浪费了。因此可以每次搜索同时查找数据中的最大最小项，分别把它们放在待排序数组的两端。这样可以提升一定的效率，但是时间复杂度仍然是级别的。 

数据规模	10	100	1000	10000	100000	1000000
选择排序	0.0004	0.0013	0.00205	0.0915	9.6635	921.265
选择排序对数	-3.397940009	-2.886056648	-2.688246139	-1.03858	0.985134	2.964385
理论值	0.00000009	0.0000092	0.000921	0.0921	9.21265	921.265
理论值对数	-7.045757491	-5.036212173	-3.03574037	-1.03574	0.964385	2.964385
选择改进	0.00013	0.00025	0.00055	0.0555	5.66275	565.583
改进选择对数	-3.886056648	-3.602059991	-3.259637311	-1.25571	0.753027	2.752496

         可见，这种改进策略有效地提升了算法运行效率。

(3)插入排序

数据规模	10	100	1000	10000	100000	1000000
插入排序	0.0004	0.0015	0.00305	0.11115	10.1205	1059.13
插入排序对数	-3.397940009	-2.823908741	-2.515700161	-0.95409	1.005202	3.024949
理论值	0.0000001	0.0000106	0.001059	0.1059	10.59	1059.13
理论值对数	-7	-4.974694135	-2.97510404	-0.9751	1.024896	3.024949

         由于插入排序同样需要进行大量比较操作，因此数据规模较小时实测曲线与理论曲线仍有较大差异。可以注意到几种简单排序在数据规模较大时，实测值和理论值拟合得很好。

        接下来对插入排序提出改进策略——折半插入。

        插入排序的一个步骤，就是要查找已经排好序的元素的大小，然后将待排序数据插入合适的位置。根据学过的查找算法，我们发现使用折半查找比顺序查找更快。因此我们提出插入排序的改进算法，利用折半查找确定待排序数据在有序部分的位置。

数据规模	10	100	1000	10000	100000	1000000
插入排序	0.0004	0.0015	0.00305	0.11115	10.1205	1059.13
插入排序对数	-3.3979	-2.8239	-2.5157	-0.9541	1.0052	3.0249
理论值	0.0000001	0.0000106	0.001059	0.1059	10.59	1059.13
理论值对数	-7	-4.9747	-2.9751	-0.9751	1.0249	3.0249
改进插入	0.0004	0.0013	0.00185	0.0789	6.6959	736.441
改进插入对数	-3.3979	-2.8861	-2.7328	-1.1029	0.8258	2.8671

        因此，可以认为折半插入算法是一种有效的改进方法。然而，无论如何改进简单排序算法，它们的时间复杂度始终是，在面对大规模的数据时依旧十分无力。优化过的简单排序算法，排序一百万个整数，仍然需要十几分钟，面临更大规模的数据时显然不堪用。因此，我们需要其他更好的排序算法。 

(4)希尔排序

        希尔排序的时间复杂度突破了。下面是希尔排序运行数据实测表及对数折线图。 

数据规模	10	100	1000	10000	100000	1000000	10000000
希尔排序	0.00053	0.0021	0.00604	0.01395	0.0556	0.6744	13.0176
希尔排序对数	-3.2757	-2.6777	-2.2189	-1.8554	-1.2549	-0.1710	1.1145
理论值	0.0000002	0.000004	0.000084	0.00169	0.0338	0.6744	13.4556
理论值对数	-6.69897	-5.3979	-4.0757	-2.7721	-1.4711	-0.1711	1.1289

        希尔排序理论时间计算方法：取基准时间(数据规模为1000000时算法用时)，数据规模为n时，理论时间相对基准时间变化倍。即数据规模每扩大(缩小)10倍，理论用时相对变化19.952倍。

        我们注意到数据规模较小时希尔排序耗时和理论曲线不符合。原因大致有大量交换耗时，切分数组耗时以及计时误差。

        接下来对希尔排序提出改进策略——移位法。

        数据交换消耗时间较大。为了进一步优化算法我们想到可以减少交换数据的次数。我们可以在每趟希尔排序时，单纯地逐个移动数据元素的位置，然后把待排序数据放置到它应该在的空位中。

        我们注意到某些算法运行速度过快，以至于无法准确计量算法用时。同时，鉴于从希尔排序开始，时间复杂度低于级别，足以在较短时间内完成比一百万更大规模数据的排序。因此，从希尔排序开始，我们将会测试一千万的数据规模作为补充，期待能够更好地测试这些算法在更大规模数据下的表现。 

数据规模	10	100	1000	10000	100000	1000000	10000000
希尔排序	0.00053	0.0021	0.00604	0.01395	0.0556	0.6744	13.0176
希尔排序对数	-3.2757	-2.6777	-2.2189	-1.8554	-1.2549	-0.1710	1.1145
希尔改进	瞬间	0.00001	0.0001	0.0022	0.03325	0.4669	8.3394
改进希尔	--	-5	-4	-2.65758	-1.47821	-0.33078	0.921135

        可以看到，希尔排序移位法可以有效地节省耗时。这是一项合理的优化方法。

(5)归并排序

        以下是使用递归实现的归并排序的数据表和对数折线图。

数据规模	10	100	1000	10000	100000	1000000	10000000
分治归并	3.4E-06	2.6E-05	0.0003	0.008	0.1246	1.30895	14.376
分治归并对数	-5.46852	-4.585	-3.52288	-2.0969	-0.90448	0.116923	1.1576381
理论值	2.19E-06	4.4E-05	0.000656	0.00873	0.109079	1.30895	15.275447
理论值对数	-5.66014	-4.3591	-3.18302	-2.0592	-0.96226	0.116923	1.1839939

        归并排序、堆排序、快速排序理论时间计算方法：取基准时间(数据规模为1000000时算法用时)，数据规模为n时，理论时间相对基准时间变化倍。

        可见，分治归并实测值和理论值符合得较好。

        接下来对分治归并提出改进策略——放弃递归。

        非递归每次操作步长倍增，是对递归树的自底向上的层次遍历，而非对递归树的自顶向下的先序遍历。递归和非递归的实现方法排序结果是一样的。但是相比于递归，非递归的二路归并排序时间和空间的开销大大减少。

数据规模	10	100	1000	10000	100000	1000000	10000000
分治归并	3.4E-06	2.6E-05	0.0003	0.008	0.1246	1.30895	14.376
分治归并对数	-5.46852	-4.585	-3.52288	-2.0969	-0.90448	0.116923	1.1576381
理论值	2.19E-06	4.4E-05	0.000656	0.00873	0.109079	1.30895	15.275447
理论值对数	-5.66014	-4.3591	-3.18302	-2.0592	-0.96226	0.116923	1.1839939
二路归并	3.6E-06	3.2E-05	0.0008	0.006	0.08055	0.8062	10.147
二路归并对数	-5.4437	-4.4949	-3.09691	-2.2218	-1.09393	-0.09356	1.0063377

        可见，在大规模数据排序的问题中，非递归的实现方式快于递归实现方式。因为节省了递归操作带来的额外时间空间消耗。在数据规模较小时，两种实现方式耗时相近。递归实现由于代码简单而取得优势。

(6)堆排序

        堆排序性能数据如下：

数据规模	10	100	1000	10000	100000	1000000	10000000
堆排序	0.00017	0.00105	0.0016	0.0024	0.0407	0.4247	7.299
堆排序对数	-3.76955	-2.978811	-2.79588	-2.61979	-1.39041	-0.37192	0.863263
理论值	7.1E-07	1.419E-05	0.0002129	0.002831	0.035392	0.4247	4.956249
理论值对数	-6.14898	-4.847952	-3.671861	-2.54801	-1.4511	-0.37192	0.695153

        堆排序的实测曲线和理论曲线在数据规模较小时相差较大。理由可能有硬件耗时、计时误差以及数据规模小时建堆消耗的时间空间无法忽略。

(7)快速排序

数据规模	10	100	1000	10000	100000	1000000	10000000
快速排序	瞬间	瞬间	0.000095	0.00145	0.0178	0.20835	2.5513
快速排序对数			-4.022276	-2.83863	-1.74958	-0.68121	0.406762
理论值	3.48E-07	6.962E-06	0.0001044	0.001389	0.017363	0.20835	2.431445
理论值对数	-6.45827	-5.157241	-3.981149	-2.8573	-1.76039	-0.68121	0.385864

        另外，快速排序在原始序列有序的最坏情况下，时间复杂度退化到级别。 

数据规模	10	100	1000	10000	100000
快速排序	瞬间	瞬间	0.000095	0.00145	0.0178
冒泡排序	0.0005	0.00105	0.00458	0.4713	46.2717
顺序快排	瞬间	瞬间	0.0011	0.8665	崩溃

        由简单的测试即可证明，在最坏条件下快速排序的表现令人一言难尽，甚至在耗时上不如冒泡排序等简单排序。在处理数据规模稍大的数据时直接爆栈溢出。简单排序不需要占用额外空间，而最坏情况下的快速排序大量递归占用非常多时间空间。

(8)基数排序

        基数排序和计数排序都是时间复杂度为线性的排序算法。理论曲线计算方法为数据规模变化十倍，理论耗时变化十倍。

        数据规模较小时实际开销超过理论预期的原因：分配-收集操作需要占用大量时间空间，因此数据规模小的时候耗时无法忽略。

(9)计数排序

数据规模	10	100	1000	10000	100000	1000000	10000000
计数排序	瞬间	2.9E-05	0.000309	0.00219	0.02755	0.24435	2.122
计数排序对数		-4.5376	-3.51004	-2.6605	-1.55988	-0.61199	0.326745
理论值	2.44E-06	2.4E-05	0.000244	0.00244	0.024435	0.24435	2.4435
理论值对数	-5.61199	-4.612	-3.61199	-2.612	-1.61199	-0.61199	0.3880123

        可以看见计数排序实测曲线和理论曲线拟合得很好。

        下面提出计数排序改进方法。

        我们注意到简单计数排序计数容器占用空间很大，这会占用大量的内存空间。并且算法也会浪费大量的时间来搜索并没有记录的容器位置。因此我们可以进行优化，在排序前先计算出待排序数据大小的极差，针对性地开辟计数容器空间，起到节省空间的作用。

数据规模	10	100	1000	10000	100000	1000000	10000000
计数排序	瞬间	2.9E-05	0.000309	0.00219	0.02755	0.24435	2.122
计数排序对数		-4.5376	-3.51004	-2.6605	-1.55988	-0.61199	0.326745
理论值	2.44E-06	2.4E-05	0.000244	0.00244	0.024435	0.24435	2.4435
理论值对数	-5.61199	-4.612	-3.61199	-2.612	-1.61199	-0.61199	0.3880123
改进计数	瞬间	2.8E-05	0.000319	0.00194	0.015	0.18866	1.33775
改进计数对数		-4.5528	-3.49621	-2.7113	-1.82391	-0.72432	0.126375

        改进计数排序算法时间上的优化肉眼可见。通过计算待排序元素极差来针对性开辟计数空间，可以高效节省时间和空间的消耗。

2. 排序算法对比分析

        比较各种排序算法，分析算法各种情况下的时间复杂度、空间复杂度和稳定性等数据，绘制表格和折线图对比多种排序算法的综合性能。

         根据图像，我将排序算法分为三类。

        第一类，简单排序。即冒泡、选择和插入排序。这几种排序方法的优点在于简单直观，代码好写，并且在数据规模较小时运算速度有些微优势。缺点在于，当数据规模增大时，简单排序的耗时会很快增加到令人难以忍受的程度。因此，这三种排序算法适用于数据规模小的情况。推荐插入排序和选择排序。

        第二类，希尔排序、归并排序和堆排序。这三种排序的时间复杂度优于.可以应对较多情况。 

        第三类，快速排序、基数排序和计数排序。基数排序和计数排序时间复杂度到达线性级别。而快速排序复杂度中隐含的常数因子很小，是复杂度级别中最快的一种排序方法。这三种排序方法速度极快，然而空间占用较高(归并排序也有空间占用的问题)，并且对待排序数据有要求(快排数据不能是顺序的，基数排序需要数据有基数，基数排序需要数据可以计数)。在数据规模特别大时，需要考虑空间复杂度的问题。

3.大规模数据排序方法

        具体方法已经在(二、)中给出。

        可采用多路归并的思想解决大规模数据排序问题，步骤如下：

        一，将大数据文件切分为小数据文件；

        二，对小数据文件进行内部排序；

        三，对排序好的小文件进行多路归并排序，重新写回硬盘。

        对小数据文件进行排序可以选择快速排序、堆排序、基数排序、计数排序等排序方法进行排序。接下来思考外部排序实现方法。

        若归并趟数为s次，那么对n个记录的文件进行外排时，内部归并过程中进行的总的比较次数为s(n-1)(k-1)。参考公开资料，此时可以使用败者树实现归并排序。

四、实验结论或体会

实验结论：

        对问题一，在处理小规模数据排序问题时，插入排序和选择排序是较好的选择，冒泡排序也是可选的算法。在数据规模较大时，应该选择希尔排序、堆排序、归并排序、快速排序、基数排序或基数排序。并且，数据规模大时，若采用归并排序、快速排序、基数排序或计数排序，需要考虑空间复杂度的问题。

        对问题二，求解大规模数据排序问题，主要采用多路归并的思想。归并的具体算法可以用败者树实现。

实验体会：

        很多算法的时间复杂度表达式看起来都是一样的，但实际运行起来会差别很大。尤其是冒泡排序和选择排序插入排序相比，同样的复杂度下，选择排序和插入排序就要比冒泡排序快数倍。并且同样的时间复杂度表达式下，快速排序就比归并排序和堆排序要更快。这是算法内隐含的常数因子的不同导致的。 

        我们需要应对不同情况使用不同的排序算法。待排序数据的规模，极差，类型和基础有序度，都是我们选择排序算法时需要考虑的东西。

五、思考

        完成这个实验我耗费了不少时间，参考了不少网络资料，也遇到了很多错误和问题。比如说，数据规模小时，对运行速度很快的算法没法进行计时。无论是网络资料还是老师提供的方法都难以将计时精确到毫秒以下。这也是本实验中很多实验数据最低到“0.000……”的原因。此外，我把基数排序时间复杂度搞错了，一开始以为它是的复杂度，后来想起来是O(n)级别的复杂度。用错误的复杂度表达式计算出了错误的理论曲线，导致ppt展示时的图表和对数折线图是错误的。这个问题在后来得以解决，实验提交到BB的word版实验报告和PPT上的数据是正确的。 

        总的来说，通过完成这个实验，我代码编写的能力提升了，对排序算法的掌握也增加了。花时间编写代码，完成实验，制作PPT和word版实验报告，并且用PPT向同学展示自己的实验成果，都是需要付出努力并且能够有所收获的。希望我能通过算法设计与分析这门课，收获更多知识，培养自己求解问题的能力。

        此外，在运行代码时尽量确保电脑状态一致！应让你的机器在运行算法时保持充电状态，或至少控制电池处在相同模式。同时尽量关闭其他软件并且控制打开的软件差不多相同。不同的电量、电池模式和其他软件对电脑资tm源的占用可能导致算法运行时间不同。

六、全部代码

#include 
#define SIZE 10000002 //2147483646
using namespace std;
void display(vector  a,int n) {
	int i;
	for(i=0; i a,int n) { //冒泡排序
	for(int i=0; ia[j+1])
				swap(a[j],a[j+1]);
}
void up1BubbleSort(vector  a,int n) { //设置标志，如果已经全部排好就停止，不做无用功
	int flag,i,j;
	for(i=0; ia[j+1]) {
				swap(a[j],a[j+1]);
				flag=1;
			}
		if(flag==0)
			return;
	}
}
void up2BubbleSort(vector  a,int n) { //设置标志位，第i趟交换最后一个位置的下标，只需要循环到这个下标的位置即可 含有插入/选择排序的思想
	int flag,temp,len=n-1;
	for(int i=0; ia[j+1]) {
				swap(a[j],a[j+1]);
				flag=1;
				temp=j;
			}
		len=temp;
		if(flag==0)
			return;
	}
}
void up3BubbleSort(vector  a,int n) { //双向冒泡
	int low, high, flag, i;
	low = 0;
	high = n - 1;
	while(low < high) {
		flag=0;
		for(i=low; i a[i+1]) { //找到剩下中最大的
				swap(a[i], a[i+1]);
				flag = 1;    //标志， 有数据交换
			}
		}
		if(!flag)
			break;
		high--;
		for(i=high; i>low; i-- ) { //反向冒泡
			if(a[i] < a[i-1])   //找到剩下中最小的
				swap(a[i],a[i-1]);
		}
		low++;
	}
}
void ChooseSort(vector  a,int n) { //选择排序
	int i,j,k,min;
	for(i=1; ia[j]) {
				min=a[j];
				k=j;
			}
		swap(a[i],a[k]);
	}
}
void upChooseSort(vector  a,int n) { //选择排序 同时选出最大最小
	int i=0,j,k,min_pos,max_pos;
	int arr[100002];
	for(i=0; iarr[max_pos])
				max_pos=j;
		}
		swap(arr[max_pos],arr[n-1-i]);//最大放在最右
		if(min_pos==n-1-i)
			min_pos=max_pos;
		swap(arr[min_pos],arr[i]);//最小放在最左
		i++;
	}
	return;
}
void InsertSort(vector  a,int n) { //插入排序
	for(int i=1; i=0&&temp a,int n) { //折半插入排序
	int temp;
	for(int i=1; i=left) {
			int mid=(left+right)/2;
			if(a[mid]>temp)
				right=mid-1;
			else
				left=mid+1;
		}
		for(int j=i-1; j>right; j--)
			a[j+1]=a[j];
		a[right+1]=temp;
	}
}
void ShellSort(vector  &a,int n) { //希尔排序
	int gap=n/2;
	while(gap>=1) {
		for(int i=gap; i=gap&&a[j]>a[j-gap]; j-=gap) //降序希尔排序
				swap(a[j],a[j-gap]);
		gap/=2;
	}
}
void upShellSort(vector  &a,int n) { //希尔排序移位法
	for(int gap=n/2; gap>0; gap/=2) {
		for(int i=gap; i<=n; ++i) {
			int j=i;
			int temp=a[i];
			if(a[j]=0 &&temp &a, int l, int r) { //递归快速排序
	if(l<0 || r>=a.size() || l>=r) return;
	int key=a[l], i=l, j=r;
	while(i=key) j--;
		swap(a[i], a[j]);
		while(i a,int low,int high) { //快速排序分块，确定某元素位置
	int pivotkey=a[low];
	while(low=pivotkey)
			high--;
		a[low]=a[high];
		while(low a,int low,int high,int n) { //升序快速排序
	int pivotloc=low,pivotkey;
	if(low &a, int c_start, int end) {//调整为小顶堆
	int dad = c_start;
	int son = dad * 2 + 1;//分别指向父节点和字结点
	while (son <= end) { //判断是否存在子节点
		if (son + 1 <= end && a[son] > a[son + 1]) //将最小的子节点调整到父节点
			son++;
		if (a[dad] < a[son]) // 结点有序无序调整
			return;
		else { //完成筛选，将小元素上移
			swap(a[dad], a[son]);
			dad = son;
			son = dad * 2 + 1;//完成本结点筛选，更新指针下标
		}
	}
}
void HeapSort(vector  a, int n) {//降序堆排序
	for (int i = n / 2 - 1; i >= 0; i--)
		minheap(a, i, n - 1);
	for (int i = n - 1; i > 0; i--) {//把第一个元素和最后一个元素交换，然后重新调整为小顶堆
		swap(a[0], a[i]);
		minheap(a, 0, i - 1);
	}
}
void MergeSort(vector  a,int n) {//降序归并排序
	int temp[999];//用于归并的临时空间
	int i,j,k,t=1;
	while(tn)
				break;
			while (ra[r])
					temp[pos++]=a[l++];//归并结果存放在临时数组
				else
					temp[pos++]=a[r++];
			}
			while (l<=mid)
				temp[pos++]=a[l++];
			while (r &a,int l,int r) { //分治归并
	int mid;
	if(l<0 || r>=a.size() || l==r)
		return;
	mid=(l+r)/2;
	partitionMergeSort(a,l,mid);
	partitionMergeSort(a,mid+1,r);//分治
	inplace_merge(a.begin()+l,a.begin()+mid+1,a.begin()+r+1); //归并
}
void wayMergeSort(vector  &a,int n) { //二路归并
	int step=1;//步长
	int l,mid,r;
	while(step a,int n) {//升序基数排序
	int upper=9;//可能的数据上限
	int i,j,k;
	for(i=0; iupper)
			upper=upper*10+9;//upper=99,999,9999……
	}
	vector > numberlist;//分配数据的链表，用容器实现
	for(i=0; i<10; i++) {
		vector  temp;
		numberlist.push_back(temp);//把当前位0-9位数链表头指针加入链表,用容器实现
	}
	int sur=10;//取余Surplus,用来取出数据的对应位数的数字，sur=10时即取个位
	while(sur<10*upper) {//判断循环次数
		for(i=0; i a,int n) {
	vector  temp,count;
	int i;
	for(i=0; i 0; i--)
		a[--count[temp[i - 1]]] = temp[i - 1];
}
void upCountSort(vector  a,int n) {
	int i,loc=0;
	int max0=a[0],min0=a[0];
	for(i=1; imax0)
			max0=a[i];
		if(a[i]=0;index--){
		temp[count[a[index]-min0]-1]=a[index];
		count[a[index]-min0]--;
	}
	for(i=0;i a(SIZE);
	vector  original_data(SIZE);
	cout<<"请输入待排序数组大小和测试组数:"<>n>>times;//输入待排序数组大小和测试组数
	clock_t c_start,c_end;
	double sort_T=0,bubble_T=0,bubble1_T=0,bubble2_T=0,bubble3_T=0,choose_T=0,choose1_T=0,insert_T=0,insert1_T=0,radix_T=0,shell_T=0,shell1_T=0,heap_T=0,recquick_T=0,waymerge_T=0,partitionmerge_T=0,count_T=0,upcount_T=0;
	for(int j=0; j