时间复杂度和空间复杂度

一、什么是时间复杂度和空间复杂度？

        1、算法效率

        说到时间复杂度和空间复杂度，那么就不得不提及一下算法效率这个概念了，那么什么是算法效率呢？

        算法效率分析分为两种：第一种是时间效率，第二种是空间效率。时间效率被称为时间复杂度，而空间效率被称作空间复杂度。时间复杂度主要衡量的是一个算法的运行速度，而空间复杂度主要衡量一个算法所需要的额外空间，在计算机发展的早期，计算机的存储容量很小。所以对空间复杂度很是在乎。但是经过计算机行业的迅速发展，计算机的存储容量已经达到了很高的程度。所以我们如今已经不需要再特别关注一个算法的空间复杂度。

         2、时间复杂度的概念

时间复杂度的定义：在计算机科学中，算法的时间复杂度是一个函数，它定量描述了该算法的运行时间。一个算法执行所耗费的时间，从理论上说，是不能算出来的，只有你把你的程序放在机器上跑起来，才能知道。但是我们需要每个算法都上机测试吗？是可以都上机测试，但是这很麻烦，所以才有了时间复杂度这个分析方式。一个算法所花费的时间与其中语句的执行次数成正比例，算法中的基本操作的执行次数，为算法的时间复杂度。

         3、空间复杂度的概念

空间复杂度是对一个算法在运行过程中临时占用存储空间大小的量度。空间复杂度不是程序占用了多少bytes的空间，因为这个也没太大意义，所以空间复杂度算的是变量的个数。空间复杂度计算规则基本跟实践复杂度类似，也使用大O渐进表示法。

 二、如何计算常见算法的时间复杂度？

        实际中我们计算时间复杂度时，我们其实并不一定要计算精确的执行次数，而只需要大概执行次数，那么这里我们使用大O的渐进表示法。

 大O符号（Big O notation）：是用于描述函数渐进行为的数学符号。

        那么如何用大O渐进法来表示时间复杂度呢?

推导大O阶方法：

1、用常数1取代运行时间中的所有加法常数。
2、在修改后的运行次数函数中，只保留最高阶项。
3、如果最高阶项存在且不是1，则去除与这个项目相乘的常数。得到的结果就是大O阶。

         如果光看这些推导方法，可能会觉得有些晦涩难懂，那么我们接下来结合实际的代码来理解一下如何计算时间复杂度。

// 请计算一下Func1基本操作执行了多少次？
void Func1(int N)
{
 int count = 0;
 for (int i = 0; i < N ; ++ i)
 {
 for (int j = 0; j < N ; ++ j)
 {
 ++count;
 }
 }
 for (int k = 0; k < 2 * N ; ++ k)
 {
 ++count;
 }
 int M = 10;
 while (M--)
 {
 ++count;
 }
 printf("%d\n", count);
}

        要计算一段代码的时间复杂度就要先计算这段代码的执行次数，那么我们先来观察上面这段代码，不难推断出这段代码的执行次数是：F(N) = N * N + 2 * N  + 10   ，那么如何用大O渐进表达法来表示呢？

        在大O渐进表达式中，我们只保留最高阶项，那么在此题中，也就是N的二次项，并且在表达式中，我们用常数1来取代运行时间中的所有加法常数，由此我们可以得出这段代码的时间复杂度表示为：  O(N^2)

        通过上面我们会发现大O的渐进表示法去掉了那些对结果影响不大的项，简洁明了的表示出了执行次数。

        另外有些算法的时间复杂度存在最好、平均和最坏情况：

最坏情况：任意输入规模的最大运行次数 ( 上界 )

平均情况：任意输入规模的期望运行次数

最好情况：任意输入规模的最小运行次数 ( 下界 )

        那么当我们遇到这种情况的时候，在实际中一般关注的是算法的最坏运行情况。

例如：

// 计算BubbleSort的时间复杂度？
void BubbleSort(int* a, int n)
{
     assert(a);
     for (size_t end = n; end > 0; --end)
     {
         int exchange = 0;
         for (size_t i = 1; i < end; ++i)
         {
             if (a[i-1] > a[i])
             {
                 Swap(&a[i-1], &a[i]);
                 exchange = 1;
             }
         }
         if (exchange == 0)
             break;
     }
}

        在这段代码中，执行最好N次，最坏执行了(N*(N+1)/2次，通过推导大O阶方法+时间复杂度 一般看最坏，时间复杂度为 O(N^2)。

三、复杂度对比

        这张图中，横坐标表示数量，纵坐标表示次数，从这张图我们可以发现时间复杂度为O（1）的代码的时间复杂度是最优的 

四、常见空间复杂度的计算

        空间复杂度是对一个算法在运行过程中临时占用存储空间大小的量度 。空间复杂度不是程序占用 了多少bytes的空间，因为这个也没太大意义，所以空间复杂度算的是变量的个数。空间复杂度计算规则基本跟实践复杂度类似，也使用大O渐进表示法

// 计算BubbleSort的空间复杂度？
void BubbleSort(int* a, int n)
{
     assert(a);
     for (size_t end = n; end > 0; --end)
     {
         int exchange = 0;
         for (size_t i = 1; i < end; ++i)
         {
             if (a[i-1] > a[i])
             {
                 Swap(&a[i-1], &a[i]);
                 exchange = 1;
             }
         }
         if (exchange == 0)
             break;
     }
}

                 使用了常数个额外空间，所以空间复杂度为 O(1)      

   

// 计算Fibonacci的空间复杂度？
long long* Fibonacci(size_t n)
{
     if(n==0)
          return NULL;
     long long * fibArray = (long long *)malloc((n+1) * sizeof(long long));
     fibArray[0] = 0;
     fibArray[1] = 1;
     for (int i = 2; i <= n ; ++i)
     {
           fibArray[i ] = fibArray[ i - 1] + fibArray [i - 2];
     }
     return fibArray ;
}

                动态开辟了N个空间，空间复杂度为 O(N)

// 计算阶乘递归Factorial的空间复杂度？
long long Factorial(size_t N)
{
     return N < 2 ? N : Factorial(N-1)*N;
}

        递归调用了N次，开辟了N个栈帧，每个栈帧使用了常数个空间。空间复杂度为O(N)