09-队列：队列在线程池等有限资源池中的应用

队列操作相关代码请移步 Leooel 的博客

队列

先进者先出，这就是典型的“队列”，入队，放一个数据到队列尾部，和出队，从队列头部取一个元素，是其最基本的两个操作。队列跟栈一样，也是一种操作受限的线性表数据结构。

队列可以用数组或链表实现，用数组实现的队列叫作顺序队列，用链表实现的队列叫作链式队列。

在使用顺序队列的时候，不可避免的会用到数据搬移操作，会影响数据入队的效率。循环队列可以解决这个问题，但是要确定好队空和队满的判定条件。

队列为空的判断条件仍然是 head == tail，但队满的判断条件为：(tail + 1) % n == head。

你有没有发现，当队列满时，图中的 tail 指向的位置实际上是没有存储数据的。所以，循环队列会浪费一个数组的存储空间。

平时的业务开发中一些具有特殊特性的队列应用比较广泛，比如阻塞队列和并发队列。

阻塞队列

阻塞队列就是在队列基础上增加了阻塞操作。简单来说，就是在队列为空的时候，从队头取数据会被阻塞。因为此时还没有数据可取，直到队列中有了数据才能返回；如果队列已经满了，那么插入数据的操作就会被阻塞，直到队列中有空闲位置后再插入数据，然后再返回。

上面用阻塞队列实现一个“生产者 - 消费者模型”，可以用来有效地协调生产和消费的速度，也可以通过协调“生产者”和“消费者”的个数，来提高数据的处理效率。

并发队列

在多线程情况下，会有多个线程同时操作队列，这个时候就会存在线程安全问题，那如何实现一个线程安全的队列呢？

线程安全的队列我们叫作并发队列。最简单直接的实现方式是直接在 enqueue()、dequeue() 方法上加锁，但是锁粒度大并发度会比较低，同一时刻仅允许一个存或者取操作。实际上，基于数组的循环队列，利用 CAS 原子操作，可以实现非常高效的并发队列。这也是循环队列比链式队列应用更加广泛的原因。在实战篇讲 Disruptor 的时候，会再详细讲并发队列的应用。

开篇解答

线程池没有空闲线程时，新的任务请求线程资源时，线程池该如何处理？各种处理策略又是如何实现的呢？

一般有两种处理策略。第一种是非阻塞的处理方式，直接拒绝任务请求；另一种是阻塞的处理方式，将请求排队，等到有空闲线程时，取出排队的请求继续处理。这个时候就要用到队列。

基于链表的实现方式，可以实现一个支持无限排队的无界队列（unbounded queue），但是可能会导致过多的请求排队等待，请求处理的响应时间过长。所以，针对响应时间比较敏感的系统，基于链表实现的无限排队的线程池是不合适的。

而基于数组实现的有界队列（bounded queue），队列的大小有限，所以线程池中排队的请求超过队列大小时，接下来的请求就会被拒绝，这种方式对响应时间敏感的系统来说，就相对更加合理。不过，设置一个合理的队列大小，也是非常有讲究的。队列太大导致等待的请求太多，队列太小会导致无法充分利用系统资源、发挥最大性能。

对于大部分资源有限的场景，当没有空闲资源时，基本上都可以通过“队列”这种数据结构来实现请求排队。比如数据库连接池等。

课后思考

• 除了线程池这种池结构会用到队列排队请求，你还知道有哪些类似的池结构或者场景中会用到队列的排队请求呢？

分布式应用中的消息队列，也是一种队列结构。

• 今天讲到并发队列，关于如何实现无锁并发队列，网上有非常多的讨论。对这个问题，你怎么看呢？

考虑使用 CAS 实现无锁队列，则在入队前，获取 tail 位置，入队时比较tail是否发生变化，如果否，则允许入队，反之，本次入队失败。出队则是获取head位置，进行 CAS。