算法概述及复杂理论

算法设计与分析

---

算法概述及复杂理论

问题

• 目标（比如找男女朋友的目标就是找个白雪公主）
• 约束条件（身高，颜值等）和解空间
• 可行解/最优解/近似解
• 问题实例和问题规模

1、可计算问题/不可计算问题
计算机研究可计算问题
2、困难问题（时间度量）
3、P、NP、NPC

算法的概念

解决问题的一个方法或过程，是一个由若干个算法指令组成的有穷序列。

算法的特点

1、输入和输出
2、确定性
3、可行性
4、有穷性

算法的描述

1、伪代码
2、流程图
3、自然语言的描述

算法的正确性

对任意一个输入，算法都能够得到一个正确的输出。
软件测试非常重要。
如果是实例一个一个的测试，因为问题的复杂度，实例可能很多很多。所以测试算法正确性的方法很重要。

• 循环不变量
  与程序变量有关的一个语句，它在循环刚开始前，以及在循环的每个迭代执行后为真，特别是在循环结束后，任然为真。
• 插入排序的循环不变量
  比如说在选取数组A中的最大值，算法为：

MAX=A[0]，
for（int i=0;iMAX)
    {
        MAX=A[i];
    }
}

每次循环中MAX都是A[0]-A[i]中的最大值，这就是循环不变量，总是为真。

• 利用循环不变量证明算法的正确性
  寻找到循环不变量，即某个特征Lj，然后证明循环不变量为真Lj（j=1,2,3,4..n），然后利用类似数学归纳法的证明方法
  1、初始步：在循环的迭代开始前，L1为真；
  2、归纳步：如果在循环的第j个迭代前，Lj-1为真，则在循环的第j+i个迭代前，Lj为真；
  3、终止步：当循环终止时，Ln为真。
  插入排序算法的正确性证明

算法的效率

• 算法的效率指：求解已个问题所需要的时间和空间
• 时间资源和空间资源（时间资源比较重要）
• 计算模型(Turing机、以及RAM(随机存储器）等
• 算法时间资源的估计（算法执行基本运算的数目或者步数）

度量一个算法运行时间的三种方式：

• 最好时间复杂度
• 最坏时间复杂度
• 平均时间复杂度

最坏情形时任何规模的问题实例运行时间上的上界，没有更坏了。
算法效率的比较
插入排序与归并排序的比较
插入排序算法o(2n2) 归并排序算法o(50nlgn)
若同时对100万个数据进行比较
则插入排序算法需要时间比归并排序算法需要时间相差很多，即使是插入排序算法的配置好很多的时候，仍然比不上。所以算法很有必要研究！！

算法的时间复杂度取决于主要项；
算法的效率主要取决与算法本身。

问题的下界

问题下界：任何一种算法解决一个问题所需要的必须的最小运行时间。
如排序问题的时间下界为nlogn，时间复杂度为nlogn都是排序算法的最有算法。
最优算法指的不是某个实例的最优算法，而是平均的概念