------ 本文是学习算法的笔记,《数据结构与算法之美》,极客时间的课程 ------
今天,从地图软件的路径规划问题讲起,带你看看常用的最短路径算法(Shortest Path Algorithm)。
像 Google 地图。百度地图、高德地图这样的地图软件,应该会经常使用吧?如果从家开到公司,你只需要输入起始地址、结束地址,地图就会给你规划一条最优路线。这里的最优,有很多种定义,比如最短路线、最少用时路线、最少红灯路线等等。作为一名软件开发工程师,你是否想过,地图软件的最优路线是如何计算出来的吗?底层依赖了什么算法?
我们刚提到的最优问题包含三个:最短路线、最少用时和最少红灯。我们先解决最简单的,最短路线。
解决软件开发中的实际问题,最重要的一点是建模,也就是将复杂的场景抽象成具体的数据结构。针对这个问题,我们该如何抽象成数据结构呢?
我们之前也提到过,图这咱结构的表达能力很强,显然,把地图抽象成图最合适不过了。我们把每个岔路口看作一个顶点,岔路口与岔路口之间的路看作一条边,路的长度就是边的权重。如果路是单行道,我们就在两个顶点之间画一条有向边;如果路是双行道,我们就在两顶点之间画两条方向不同的边。这样,整个地图就被抽象成一个有向有权图。
具体的代码实现,我放在下面了。于是,我们要求解的问题就转化为,在一个有向有权图中,求两个顶点的最短路径。
public class Graph{ // 有向权图的邻接表表示
private LinkedList adj[]; // 邻接表
private int v; // 顶点个数
public Graph(int v) {
this.v = v;
this.adj = new LinkedList[v];
for (int i = 0; i < v; i++) {
this.adj[i] = new LinkedList<>();
}
}
public void addEdge(int s, int t, int w) { // 添加一条边
this.adj[s].add(new Edge(s, t, w));
}
private class Edge{
public int sid; // 边的起始顶点编号
public int tid; // 边的终止顶点编号
public int w; // 权重
public Edge(int sid, int tid, int w ) {
this.sid = sid;
this.tid = tid;
this.w = w;
}
}
private class Vertex{
public int id; // 顶点编号ID
public int dist; // 从起始顶点到这个顶点的距离
public Vertex(int id, int dist) {
this.id = id;
this.dist = dist;
}
}
}
想要解决这个问题,有一个非常经典的算法,最短路径算法,更加准确地说,是单源最短路径算法(一个顶点到一个顶点)。提到最短路径算法,最出名的莫过于Dijkstra算法了。所以,我们现在来看,Dijkstra算法是怎么工作的。咱们直接看代码。
// 因为java提供的优先队列,没有暴露更新数据的接口,所以我们需要重新实现一个
private class PriorityQueue{ // 根据 vertex, dist 构建小顶堆
private Vertex[] nodes;
private int count;
public PriorityQueue(int v) {
this.nodes = new Vertex[v+1];
this.count = v ;
}
public Vertex poll() {
// TODO 留给读者实现
}
public void add(Vertex vertex) { // TODO 留给读者实现
// 更新结点的值,并且从下往上堆化,重新符合堆的定义。时间复杂度 O(logn).
}
public void update(Vertex vertex) {
// TODO 留给读者实现
}
public boolean isEmpty() {
// TODO 留给读者实现
}
}
public void dijkstra(int s, int t) { // 从顶点s到顶点 t的最短路径
int[] predecessor = new int[this.v]; // 用来还原最短路径
Vertex[] vertexes = new Vertex[this.v];
for (int i = 0; i < this.v; i++) {
vertexes[i] = new Vertex(i, Integer.MAX_VALUE);
}
PriorityQueue queue = new PriorityQueue(this.v); // 小顶堆
boolean[] inqueue = new boolean[this.v]; // 标记是否进入过队列
vertexes[s].dist = 0;
queue.add(vertexes[s]);
inqueue[s] = true;
while(!queue.isEmpty()) {
Vertex minVertex = queue.poll(); // 取堆顶元素并删除
if(minVertex.id == t) {
break; // 最短路径产生了
}
for (int i = 0; i < adj[minVertex.id].size(); i++) {
Edge e = adj[minVertex.id].get(i); // 取出一条minVertex相邻的边
Vertex nextVertex = vertexes[e.tid]; // minVertex --> nextVertex
if (minVertex.dist +e.w < nextVertex.dist) { // 更新 next的dist
nextVertex.dist = minVertex.dist + e.w;
predecessor[nextVertex.id] = minVertex.id;
if (inqueue[nextVertex.id] == true) {
queue.update(nextVertex); // 更新队列中的dist值
} else {
queue.add(nextVertex);
inqueue[nextVertex.id] = true;
}
}
}
}
// 输出最短路径
System.out.println(s);
print(s, t, predecessor);
}
private void print(int s, int t, int[]predecessor) {
if (s == t) {
return;
}
print(s, predecessor[t], predecessor);
System.out.println("->" + t);
}
我们用vertexes 数组,记录从起始顶点到每个距离(dist)。起初,我们把所有顶点的dist都初始化为无穷大。我们把起始顶点的dist值初始化为0,然后将其放到优先队列中。
我们从优先队列中取出dist最小的顶点minVertex,然后考察这个顶点可达的所有顶点(nextVertex)。如果minVertex的dist值加上minVertex与nextVerte之间边的权重w小于nextVertex 当前的dist值,也就是说,存在另一条理短的路径,它经过minVertex到达nextVertex。那我们就把nextVertex的dist更新为ninVertex的dist值加上w。然后,我们把nextVertex加入到优先级队列中。重复这个过程,直到找到顶点 t 或者队列为空。
以上就是dijkstras 算法 核心逻辑。除此之外,代码中还有两个额外的变量,predecessor数组和 inqueue数组。predecessor 数组的作用是为了还原最短路径,它记录每个顶点的前驱节点。最后通过递归的方式,将这个路径打印出来。
inqueue数组是为了避免将一个顶点多次添加到优先级队列中。我们更新了某个顶点dist值之后,如果这个顶点已经在优先级队列中了,就不要再将它重复添加进去了。
理解了 Dijkstra 的原理和代码实现,我们来看下,Dijkstra算法的时间复杂度是多少?
在刚刚的代码实现中,最复杂就是 while 循环嵌套 for 循环那部分代码了。while 循环最多会执行 V 次(V表示顶点的个数),而内部的 for 循环的执行次数不确定,跟每个顶点的相邻的个数有关,我们分别记作E0, E1, E2,…,E(V-1)。如果我们把这个 V 个顶点的边都加起来,最大也不会超过图中所有边的个数E(E表示边的个数)。
for 循环内部的代码涉及从优先级队列取数据、往往优先级队列中添加数据、更新优先级队列中的数据,这样三个主要的操作。我们知道,优先级队列是用堆来实现的,堆中的这几个操作,时间复杂度都是O(logV)(堆中的元素个数不会超过顶点的个数V)。
所以,综合这两部分,再利用乘法法则,整个代码的时间复杂度就是O(E*logV)。
弄懂了Dijkstra算法,我们再来回答之前的问题,如何计算最优出行路线?
从理论上讲,用Dijkstra 算法可以计算出两点之间的最短路径。但是,你有没有想过,对于一个超级大的地图来说,岔路口、道路都非常多,对应到图这种数据结构上来说,就有非常多的顶点和边。如果为了计算两点之间的最短路径,在一个超级大的图上运用Dijkstra算法,遍历所有的顶点和边,显然非常耗时。那我们有没有什么优化的方法呢?
做工程不像做理论,一定要给出一个最优解。理论上算法再好,如果执行效率太低,也无法应用到实际的工程中。对于软件开发工程师来说,我们经常要根据问题的实际背景,对解决方案权衡取舍。类似出行路线这种工程上的问题,我们没有必要非得求出个绝对最优解。很多时候,为了兼顾执行效率,我们只需要计算出一个可行的次优解就可以了。
有了这个原则,你能想出刚刚那个问题的优化方案吗?
虽然地图很大,但是两点之间的最短路径或者说较好的出行路径,并不会很“发散”,只会出现在两点之间和两点附近的区块内。所以我们可以在整个大地图上,划出一个小区块,这个小区块恰好可以覆盖住两个点,但又不会很大。我们只需要在这个小区块内部运行Dijkstra算法,这样就可以避免遍历整个大图,也就大大提高了执行效率。
不过你你可能会说了,如果两点距离比较远,从北京海淀区某个地点,到上海黄浦区某个地点,那上面的这种处理方法,显然就不工作了,毕竟覆盖北京和上海的区块并不小。
对于这样两点之间的距离较远的路线规划,我们可以氢北京海淀区或者北京看作一个顶点,把上海黄浦区或者上海看作一个顶点,先规划大的出行路线。比如从北京到上海,必须要经过某几个顶点,或者某几条干道,然后再细化每个阶段的小路线。
这样,最短路径问题就解决了。我们再来看另外两个问题,最少时间和最少红灯。
前面讲最短路径的时候,每条边的权重是路的长度。在计算最少时间的时候,算法还是不变,我们只需要把边的权重,从路的长度变成经过这段路所需要的时间。不过,这个时间会根据拥堵情况时刻变化。如何计算车通过一段路的时间呢?这是一个蛮有意思的问题,你可以自己思考下。
每经过一条边,就要经过一个红绿灯。关于最少红绿灯的出行方案,实际上,我们只需要把每条边的权值改为1即可,算法还是不变,可以继续使用前面讲的Dijkstra算法。不过,边的权值为1,也就相当于无权图了,我们还可以使用之前讲过的广度优先搜索算法。因为我们前面讲过,广度优先搜索算法计算出来的两点之间的路径,就是两点的最短路径。
不过,这里给出的所有方案都非常粗糙,只是为了给你展示,如何结合实际场景,灵活地应用算法,让算法为我们所用,起初的地图软件的路径规划,要比这个复杂很多,而且,比起 Dijkstra 算法,地图软件用的更多是类似 A* 的启发式搜索算法,不过也是在 Dijkstra算法上的优化罢了,我们后面会讲到,这里暂且不展开。
今天,我们学习了一种非常重要的图的算法,Dijkstra 最短路径算法。实际上,最短路径算法还有很多,比如 Bellford 算法、Floyd 算法等等。
关于 Dijkstra 算法,我们只讲了原理和代码实现。对于正确性,我没云证明。这所以这么做,是因为证明过程会涉及比较复杂的数学推导。这个并不是我们的重点,你只要掌握这个算法的思路就可以了。
这些算法实现思路非常非常经典,掌握了这些思路,我们可以拿来指导、解决其他问题。比如 Dijkstra 这个算法的核心思想,就可以拿来解决下面这个看似完全不相关的问题。这个问题是我之前工作中遇到的真实问题,为了在较短的篇幅里把这个问题介绍清楚,我对背景做了一些简化。
我们有一个翻译系统,只能针对单个词来做翻译。如果要翻译一整个句子,我们需要将句子拆成一个一个的单词,再丢给翻译系统。针对每个单词,翻译系统会返回一组可选的翻译列表,并且针对每个翻译打一个分,表示这个翻译的可信程度。
针对每个单词,我们从可选列表中,选择一个翻译,组合起来就是整个句子的翻译。每个单词的翻译的得分之和,就是整个句子的翻译得分。随意搭配单词的翻译,会得到一个句子不同的翻译。针对整个句子,我们希望计算出得分最高的前 k 个翻译结果,你会怎么编程来实现呢?
当然,最简单的办法还是借助回溯算法,穷举所有的排列组合情况,然后选出得分最高的前 k 个翻译结果。但是,这样的时间复杂度会比较高,是O(mn),其中,m 表示平均每个单词可选翻译个数,n 表示一个句子中包含多少个单词。这个解决方案,你可以当作回溯算法的练习题,自己编程实现一个,我就不多说了。
实际上,这问题可以借助 Dijkstra 算法的核心思想,非常高效地解决。每个单词的可选翻译是按照分数从大到小排列的,所以 a0b0c0 肯定是得分最高组合结果。我们把 a0b0c0 及得分作为一个对象,放入到优先级队列中。
我们每次从优先级队列中取出一个得分最高的组合,并基于这个组合进行扩展。扩展的策略是每个单词的翻译分别替换成下一个单词和翻译。比如 a0b0c0 扩展后,会得到三个组合,a1b0c0、a0b1c0、a0b0c1。我们把扩展之后的组合,加到优先级队列中。重复这个过程,直到获取到 k 个翻译组合或者队列为空
我们来看,这种实现思路的时间复杂度是多少?
假设句子包含 n 个单词,每个单词平均有 m 个可选择的翻译,我们求得分数最高的前 k 个组合结果。每次一个组合出队列,就对应着一个组合结果,我们希望得到 k 个,那就对应着 k 次出队操作。每次有一个组合出队列,就有 n 个组合入队列。优先队列中出队和入队操作的时间复杂度都是O(logX),X到底是多少呢?
k 次出队列,队列中的总数据不会超过 kn,也就是说,出队、入队操作的时间复杂度是O(log(kn))。所以,总的时间复杂度就是O(knlog(k*n)),比之前的指数级时间复杂度降低很多。