0基础学数据结构之时间复杂度空间复杂度

1.算法效率

1.1如何衡量一个算法的好坏

如何衡量一个算法的好坏呢？ 比如对于下列的斐波那契数列：

long long Fib(int n)
{
    if(n < 3)
     {
         return 1;
     }
    else
    {
       return Fib(n - 1) + Fib(n - 2);
    }

斐波那契数列的递归实现方式非常简洁，但简洁一定好吗?那该如何衡量其好与坏呢?接下来我们就会介绍衡量的标准。

1.2算法的复杂度

算法在编写成可执行程序后，运行时需要耗费时间资源和空间(内存)资源 。因此衡量一个算法的好坏，一般 是从时间和空间两个维度来衡量的，即时间复杂度和空间复杂度。

时间复杂 主要衡量一个算法的运行快慢，空间复杂度主要衡量一个算法运行所需要的额外空间。
（在计算机发展的早期，计算机的存储容量很小。所以对空间复杂度很是在乎。但是经过计算机行业的迅速发展，计算机的存储容量已经达到了很高的程度。所以我们如今已经不需要再特别关注一个算法的空间复杂度。）

2.时间复杂度

2.1时间复杂度的概念

在计算机科学中，算法的时间复杂度是一个函数(数学意义上的函数），算法的基本操作的执行次数，为算法的时间复杂度。

即：找到某条基本语句与问题规模N之间的数学表达式，就是算出了该算法的时间复杂度。
下面我们来举个例子。

//请计算一下Func1中++count共执行了几次
void Func1(int N)
{
     int count = 0;
for (int i = 0; i < N ; ++ i)
{
     for (int j = 0; j < N ; ++ j)
     {
         ++count;
     }
}

for (int k = 0; k < 2 * N ; ++ k)
{
     ++count;
}
int M = 10;
   while (M--)
  {
    ++count;
  }
  printf("%d\n", count);
}

很明显第一层嵌套的for循环次数为N*N第二个for循环次数为2*Nwhile循环次数为10
所以Func1执行的基本次数可以表示为F(N) = N² + 2*N + 10
由这个表达式我们可以发现当N很大很大时,F(N) = N * N的值接近于F(N) = N * N + 2*N + 10,顾实际中我们计算时间复杂度时，我们其实并不一定要计算精确的执行次数，而只需要大概执行次数，那么这里我们使用大O的渐进表示法。

2.2大O的渐进表示法

大O符号(Big O notation):是用于描述函数渐进行为的数学符号。
推导大O阶方法：
1、用常数1取代运行时间中的所有加法常数。
2、在修改后的运行次数函数中，只保留最高阶项。
3、如果最高阶项存在且不是1，则去除与这个项目相乘的常数。得到的结果就是大O阶。
那么在上面例子中使用大O的渐进表示法以后，Func1的时间复杂度为：O(N²)

通过上面我们会发现大O的渐进表示法去掉了那些对结果影响不大的项，简洁明了的表示出了执行次数 另外有些算法的时间复杂度存在最好、平均和最坏情况:
最好情况：任意输入规模的最小运行次数(下界)
平均情况：任意输入规模的期望运行次数
最坏情况：任意输入规模的最大运行次数(上界)
例如：在一个长度为N数组中搜索一个数据x
最好情况:1次找到
最坏情况:N次找到
平均情况:N/2次找到
在实际中一般情况关注的是算法的最坏运行情况，所以数组中搜索数据时间复杂度为O(N)

2.3 常见时间复杂度 计算举例

这一部分我们简单举几个例子来帮助大家更好的运用大O的渐进表示法。

实例1:

//计算func2的时间复杂度
void Func2(int N)
{
    int count = 0;
    for (int k = 0; k < 100; ++ k)
    {
++count; }
    printf("%d\n", count);
}

很明显for循环执行的次数为100次根据大O渐进表示法第一条所以时间复杂度为O(1)
实例2

// 计算BubbleSort的时间复杂度? 
void BubbleSort(int* a, int n) 
{
    assert(a);
    for (size_t end = n; end > 0; --end)
    {
        int exchange = 0;
        for (size_t i = 1; i < end; ++i)
        {
             if (a[i-1] > a[i])
             {
                 Swap(&a[i-1], &a[i]);
                 exchange = 1;
             }
        } 
        if (exchange == 0)
              break;
     }
}  

根据冒泡排序的思想(不知道的老铁可以去查找一下这里就不过多赘述了），这里的实际时间复杂度为N-1+N-2+N-3+…+2+1
再根据等差数列求和公式为N*(N-1)/2最后再根据大O渐进表示法的2，3两条推出时间复杂度为O(N²)
实例3

// 计算BinarySearch的时间复杂度?
int BinarySearch(int* a, int n, int x)
{
    assert(a);
    int begin = 0;
    int end = n-1;
// [begin, end]:begin和end是左闭右闭区间，因此有=号 
    while (begin <= end)
    {
        int mid = begin + ((end-begin)>>1);
        if (a[mid] < x)
         begin = mid+1;
        else if (a[mid] > x)
            begin = mid+1;
        else
            end = mid-1;
            return mid;
    }
    return -1;
}

以上代码是二分查找的实现过程，根据二分查找的实现原理其实际时间复杂度最坏情况为

N/2/2/2…/2 = 1
假设查找X次
N = 2^X
两边同时取对数
为 ${\log }_{2}N$
在这里我们写成O($\log N$) ps：logN在算法分析中表示是底数为2，对数为N，有些地方会写成lgN。

3.空间复杂度

空间复杂度也是一个数学表达式，是对一个算法在运行过程中临时占用存储空间大小的量度 。
空间复杂度不是程序占用了多少bytes的空间，因为这个也没太大意义，所以空间复杂度算的是变量的个数。空间复杂度计算规则基本跟实践复杂度类似，也使用大O渐进表示法。
注意:函数运行时所需要的栈空间(存储参数、局部变量、一些寄存器信息等)在编译期间已经确定好了，因此空间复杂度主要通过函数在运行时候显式申请的额外空间来确定。
下面我们也来举几个例子帮助大家理解
实例1

// 计算BubbleSort的空间复杂度? 
void BubbleSort(int* a, int n) 
{
    assert(a);
    for (size_t end = n; end > 0; --end)
    {
        int exchange = 0;
        for (size_t i = 1; i < end; ++i)
        {
             if (a[i-1] > a[i])
             {
                 Swap(&a[i-1], &a[i]);
                 exchange = 1;
             }
        } 
        if (exchange == 0)
              break;
     }
}  

在这里使用了常数个额外空间，所以空间复杂度为O(1)。
实例2

// 计算阶乘递归Fac的空间复杂度? long long Fac(size_t N)
{
    if(N == 0)
        return 1;
    return Fac(N-1)*N;
}

实例2递归调用了N次，开辟了N个栈帧，每个栈帧使用了常数个空间。空间复杂度为O(N)

4.常见复杂度对比