算法入门 - 基础知识

算法定义

算法是解决特定问题求解步骤的描述 , 在计算机中表现为指令的有限序列 ,
并且每条指令表示一个或多个操作

算法的特性

算法具有五个基本特性 : 输入 输出 有穷性 确定性 可行性

输入输出

输入输出特性比较容易理解

算法具有零个或多个输入 对于绝大多数算法来说 输入参数是有必要的 但是对于打印 “hello world” 这样的代码不需要输入任何参数

算法至少有一个或多个输出 算法是一定需要输出的 输出的形式可以是打印输出 也可以使返回一个或多个值

有穷性

算法在执行有限的步骤之后 , 自动结束而不会出现无限循环 ,并且每一个步骤在可接受的时间内完成 。

这里的有穷概念不是纯数学意义断点 而是应用在实际当中合理的、可接受的 。
比如一个算法计算机需要计算几十年 ,一定会结束 那么它在数学意义上是有穷了 但算法的意义也就不大了

确定性

算方法的每一步骤都具有确定的含义 , 不会出现二义性 。
算法在一定条件下, 只有一条执行路劲, 相同的输入只能有唯一的输出结果。
算法的每个步骤被精确定义而无歧义

可行性

算方法的每一步都是必须可行的,也就是说 , 每一步都能够通过执行有限次数完成

算法设计的要求

正确性

算法的正确性是指算法应该具有输入、输出和加工处理无歧义性 , 能正确反应问题的需求 , 能够得到问题的正确答案

  1. 算法程序没有语法错误
  2. 算法程序对于合法的输入数据能够产生满足要求的输出结果
  3. 算法程序对于非法的输入数据能够得出满足规格说明的结果
  4. 算法程序对于精心选择的,甚至刁难的测试数据都有满足要求的输出结果
可读性

算法设计的另一目的是为了便于阅读、理解和交流

可读性高有助于人们理解算法, 晦涩难懂的算法往往隐含错误,不易被发现,并且难于调试和修改

健壮性

当输入数据不合法时 , 算法也能做出相关处理,而不是产生异常或者莫名其妙的结果

一个好的算法还应该能对输入的数据不合法的情况做适当的处理 。
比如输入的时间或者距离不应该是负数等

时间效率高 和 存储量低

时间效率高是指算法的执行时间 对于同一个问题, 如果有多个算法能够解决 , 执行时间短的算法效率高
储存量需要指的是 算法在执行过程中需要的最大存储空间 , 主要指算法程序运行时所占的内存或外部存储空间

算法效率的度量方法

事后统计方法

这种方法主要是通过设计好的测试程序和数据, 利用计算机计时器对不同算方法编制的程序运行时间进行比较,从而确定算法效率的高低

缺陷 :

  1. 必须一句算法事先编制好程序
  2. 时间的比较依赖计算机及硬件和软件等环境因素,有时会掩盖算法本身的优劣
  3. 算法的测试数据设计困难 , 并且程序运行的时间往往还与测试数据的规模有很大关系
事前分析估算方法

在计算机程序编制前, 依据统计方法对算法进行估算

一个用更高级语言编写的程序在计算机上运行时所消耗的时间取决于下列因素

  1. 算方法采用的策略、方法
  2. 编译产生的代码质量
  3. 问题的输入规模
  4. 机器执行指令的速度
    第一点当然是算法好坏的根本
    第二点要由软件支持
    第四点要看硬件的性能

那么 抛开这些因素
一个程序的运行时间, 依赖于算方的好坏和问题的规模 。
所谓问题的规模是指输入量的多少
也就是 计算对运行时间有消耗的基本操作的执行次数
运行时间与这个计数成正比

我们来看两个求和算法 求 1+2+3+...+100 的和

第一种
int i , sum = 0 , n = 100 // 执行一次
for( i = 1 ; i <= n ; i++) { //执行 n+1 次
sum = sum + i //执行n次
}

第二种
int sum = 0 , n = 100 // 执行一次
sum = (1 + n) * n / 2 // 执行一次

很明显第二种算法要优于第一种算法 且随着n越来越大 优势越明显

函数的渐进增长

某个算法 , 随着n的增大, 它会越来越优于另一算法或差于另一算法

算法时间复杂度

在进行算法分析时 , 语句总的执行次数T(n) 是关于问题规模n的函数 ,进而法分析 T(n) 随n的变化情况并确定T(n) 的数量级。 算法的时间复杂度u额就是算法的时间度量, 记作 T(n) = O(f(n)) 。 它表示随问题规模n的增大 , 算法执行时间的增长率和 f(n) 的增长率相同弄 , 称作算法的渐进时间复杂度 , 简称为时间复杂度 。
其中 f(n) 是问题规模n的某个函数

这样用大写0() 来体现算法时间复杂度的记法 ,我们称之为 大0记法
一般情况下 随着n的增大 T(n) 增长最慢的算法为最优算法
我们的三个求和算法的时间复杂度分别为 O(n) , O(1) , O(n²)
我们分别给它取了非官方名称 O(1) -- 常数阶 O(n) -- 线性阶 O(n²) -- 平方阶

推导大O阶方法

  1. 用常数1取代运行时间中的所有加法常数
  2. 在修改后的运行次数函数中, 只保留最高阶项
  3. 如果最高阶项存在且其系数不是1 , 则去除与这个项相乘的系数
    得到的结果就是大O阶
常数阶

int sum = 0 , n = 100 //执行一次
sum = ( 1 + n ) * n / 2 //执行一次
O(2) 带入推导步骤1 把常数换成1 得到 O(1)
没有最高阶项
最终结果 O(1)

如果把算法换成
int sum = 0 , n = 100 //执行一次
sum = ( 1 + n ) * n / 2 //执行一次
sum = ( 1 + n ) * n / 2 //执行一次
sum = ( 1 + n ) * n / 2 //执行一次
sum = ( 1 + n ) * n / 2 //执行一次
sum = ( 1 + n ) * n / 2 //执行一次
sum = ( 1 + n ) * n / 2 //执行一次

没有任何影响
O(7) 带入推导步骤1 把常数换成1 得到 O(1)
没有最高阶项
最终结果 O(1)

这种与问题大小无关 , 执行时间恒定的算法 我们称之为具有O(1)的时间复杂度 又叫 常数阶
注意 不管这个常数是多少 我们都记作O(1)

线性阶

线性阶的循环结构会复杂很多 。 要确定某个算法的阶次 , 我们常常需要确定某个特定语句或某个语句集运行的次数。 因此, 我们要分析算法的复杂度,关键就是要分析循环结构的运行情况

下面这段代码 ,循环的时间复杂度为O(n) , 因为循环体中的代码需要执行n次

int i
for (i = 0 ; i // 时间复杂度为 O(1)的程序步骤序列
}

对数阶

int count = 1
while ( count < n ){
count = count * 2
}

由于每次count乘以2 之后 , 就距离n更近了一分。
也就是说 , 有多少个2相乘后大于n 则会退出循环
由2^x = n 得到 x = log2n
所以这个循环的时间复杂度为O(logn)

平方阶

int i , j
for ( i = 0 ; i < n ; i++ ){
for( j = 0 ; j < n ; j++ ){
// 时间复杂度为O(1)的程序步骤序列
}
}

时间复杂度为O(n²)

如果外循环次数改成了 m
时间复杂度为O(nm)

下面一个例子
int i , j
for ( i = 0 ; i < n ; i++ ){
for( j = i ; j < n ; j++ ){
// 时间复杂度为O(1)的程序步骤序列
}
}

当 i = 0 时内循环执行n次
i = 1 内循环执行 n-1 次
....
i= n -1 内循环执行了1次
总执行次数为 n + (n-1) + (n-2)+ ...+ 1 = n(n+1)/2 = n²/2 + n/2

套入推导公式
第一条 没有加法常数
第二条只保留最高阶 n²/2
第三条 除以相乘的系数 1/2 得到 n²
最终时间复杂度为 O(n²)

空间复杂度

算法的空间复杂度通过计算算法所需的存储空间实现,算法空间复杂度的计算公式记作
S(n) = O(f(n))
其中 n为问题的规模 , f(n)为语句关于n所占存储空间的函数

通常我们都使用 时间复杂度来指运行时间的需求 使用空间复杂度指空间需求
当使用 复杂度时 一般指时间复杂度

常见的时间复杂度所耗时间大小排列

O(1) < O(logn) < O(n) < O(n*logn) < O(n²) < O(n³) < O(2^n) < O(n!) < O(n^n)

你可能感兴趣的:(算法入门 - 基础知识)