深入理解Java虚拟机之Java内存模型与线程

1概述

介绍虚拟机如何实现多线程，多线程之间由于共享和竞争数据而导致的一系列问题及解决方案。

2硬件的效率与一致性

由于计算机的存储设备与处理器的运算速度有几个数量级的差距，所以现代计算机系统都不得不加入一层读写速度尽可能接近处理器运算速度的高速缓存来作为内存与处理器之间的缓冲：将运算需要使用到的数据复制到缓存中让运算能快速进行，当运算结束后再从缓存同步回内存之中，这样处理器就无需等待缓慢的内存读写了。

基于高速缓存的存储交互解决了处理器与内存的速度矛盾，但它引入了一个新的问题：缓存一致性。
在多处理器系统中每个处理器都有自己的高速缓存，他们又共享同一主内存，当多个处理器的运算任务都涉及到同一主内存时，将可能导致各自缓存的数据不一致

上图为处理器，高速缓存，主内存间的交互关系

内存模型可以理解为在特定的操作协议下，对特定的内存或高速缓存进行读写访问的过程抽象。

指令重排序优化：为了使处理器内部的运算单元尽量被充分使用，处理器可能回对输入的代码进行乱序执行优化，处理器会在计算之后将乱序执行的结果重组，保证该结果与顺序执行的结果是一致的，但不保证各个语句计算的先后顺序与代码中的顺序是一致的。

2.3Java内存模型

Java虚拟机试图定义一种Java内存模型（Java Memory Model，JMM）来屏蔽掉各种硬件和操作系统的内存访问差异，以实现让Java程序在各种平台下都能达到一致的访问效果。

主内存与工作内存

Java内存模型主要目标：定义程序中各个变量的访问规则，即在虚拟机中将变量存储到内存和从内存中取出变量这样的底层细节。（此处变量包括实例字段，静态字段和构成数组对象的元素，但不包括局部变量与方法参数，因为后者是线程私有的，不会被共享，不存在竞争访问问题）

上图为线程，主内存，工作内存三者的交互关系。

主内存：Java内存模型规定所有变量都存储在主内存中

工作内存：每条线程有自己的工作内存，保存了被该线程使用到的变量的主内存副本拷贝，线程对变量有操作（读取，赋值等）都必须在工作内存中进行，而不能直接读写主内存中的变量。

不同的线程间无法直接访问对方工作内存中的变量，线程间变量值的传递均需通过主内存完成。
（这里讲的主内存，工作内存与Java内存区域中的Java堆，栈，方法区等并不是同一个层次的划分，两者基本上没关系）

内存间的交互操作

主内存与工作内存的交互协议：一个变量如何从主内存拷贝到工作内存，如何从工作内存同步回主内存之类的实现细节。
Java内存模型中定义了8种操作来完成，虚拟机实现时必须保证下面提及的每一种操作都是原子的，不可再分的。（duble,long类型的变量，load,store,read和write操作在某些平台上允许有例外）

• lock(锁定)：作用于主内存的变量，它把一个变量标识为一条内存独占的状态。
• unlock(解锁)：作用于主内存的变量，它把一个处于锁定状态的变量释放出来，释放后的变量才可以被其他线程锁定。
• read(读取)：作用于主内存的变量，它把一个变量的值从主内存传输到线程的工作内存中，以便随后load动作使用
• load(载入)：作用于工作内存的变量，它把read操作从主内存中得到的变量的值放入工作内存的变量副本中。
• use(使用):作用于工作内存的变量，它把工作内存中一个变量的值传递给执行引擎，每当虚拟机遇到一个需要使用到的值的字节码指令时将会执行这个操作。
• assign(赋值)：作用于工作内存中的变量，它把一个从执行引擎收到的值赋给工作内存的变量，每当虚拟机遇到一个给变量赋值的字节码指令时执行这个操作。
• store(存储)：作用于工作内存的变量，它把工作内存中一个变量的值传送到主内存中，以便随后的write操作使用。
• write(写入)：作用于主内存的变量，它把store操作从工作内存中得到的变量的值放入主内存的变量中。

如果要把一个变量从主内存复制到工作内存，顺序执行read和load操作，如果把变量从工作内存同步回主内存，顺序执行store和write操作。Java内存模型只要求按顺序执行，而没有保证是连续执行。

Java内存模型规定了在执行8种基本操作时必须满足如下规则：

• 不允许read和load，store和write操作之一单独出现，即不允许一个变量从主内存读取了但工作内存不接受，或者从工作内存发起回写但主内存不接受的情况出现。
• 不允许一个线程丢弃它的最近的assign操作，即变量在工作内存中改变了之后必须把该变化同步回主内存。
• 不允许一个线程无原因地（没发生过任何assign操作）把数据从线程的工作内存同步回主内存中。
• 一个新的变量只能从主内存中“诞生”，不允许在工作内存中直接使用一个未被初始化（load,assign）的变量，换句话说，就是对一个变量实施use,store操作之前，必须先执行过了assign和load操作。
• 一个变量在同一个时刻只允许一条线程对其进行lock操作，但lock操作可以被同一条线程执行多次，多次执行lock后，只有执行了相同次数的unlock操作，变量才会被解锁。
• 如果对一个变量执行lock操作，那将会清空工作内存中此变量的值，在执行引擎使用这个变量之前，需要重新执行load和assign操作初始化变量的值。
• 如果一个变量事先没有被lock操作锁定，那就不允许对它执行unlock操作，也不允许去unlock一个被其他线程锁定住的变量。
• 对一个变量执行unlock操作之前，必须先把此变量同步回主内存中（执行store,write操作）。

这8种内存访问操作以及上述规则限定再加上volatile的一些特殊规定，完全确定了Java程序中哪些内存访问操作在并发下是安全的。

3.3对于volatile型变量的特殊规则

关键字volatile可以说是Java虚拟机提供的最轻量级的同步机制。
当一个变量定义为volatile后，将具备两种特性

• 保证此变量对所有线程的可见性，这里的“可见性”是指当一条线程修改了这个变量的值，新值对于其他线程来说是可以立即得知的。volatile在所有线程是一致的，但不能得出基于volatile变量的运算在并发下一定是安全的。（发起20个线程，每个线程对同一变量进行10000次自增操作）
• 禁止指令重排序优化

在不符合以下两条规则的运算场景种，仍要通过加锁（使用synchronized或java.util.concurrent种的原子类来保证原子性）。（相当于以下为可以使用volatile的两种场景）

• 运算结果并不依赖变量当前的值，或者能够确保只有单一的线程修改变量的值。
• 变量不需要与其他的状态变量共同参与不变约束。

volatile同步机制的性能确实要优于锁（使用synchronized或java.util.concurrent包里面的锁），但是由于虚拟机对锁的许多消除与优化，很难量化地认为volatile就会比synchronized快多少。

volatile变量读操作的性能与普通变量几乎没有什么差别，但是写操作可能会慢一些，因为他需要在本地代码中插入许多内存屏障指令来保证处理器不乱序执行。

大多数场景下volatile的总开销要比锁低，选择volatile与锁的原则是：volatile的语义是否能满足使用场景的需求。

3.4对于long和double型变量的特殊规则

Java内存模型要求8种基本操作都具有原子性，但对于64位数据类型long,double的非原子性协定：允许虚拟机将没有被volatile修饰的64位数据的读写操作划分为两次32位的操作来进行，即允许虚拟机实现选择可以不保证64位数据类型的load,store,read,write这4个操作的原子性。（现在商业虚拟机几乎都选择把64
位数据的读写操作作为原子操作来对待，所以一般不需要把long,double专门用volatile修饰）。

原子性，可见性，有序性

原子性：由Java内存模型直接来保证的原子性变量的操作（synchronized块之间的操作也具备原子性）

可见性：一个线程修改了共享变量的值，其他线程能够立即得知这个修改。（除了volatile 外 final 和synchronized关键字也能实现可见性。）

有序性：如果在本线程内观察，所有操作都是有序的；如果在一个线程观察另一个线程，所有操作都是无序的。前半句是指“线程内变现为串行的语义”，后半句是指“指令重排序”现象和“工作内存与主内存同步延迟现象”。（synchronized规定一个变量在同一个时刻只允许一条线程对其进行lock操作）

3.6先行性发生原则

目的：判断数据是否存在竞争，线程是否安全的主要依据，依靠这个原则，通过几条规则一揽子解决并发环境下两个操作之间是否存在冲突的所有问题。

以下是“天然的”先行性发生关系，无需任何同步器协助就已经存在

• 程序次序规则（Program Order Rule）：在一个线程内，按照控制流顺序，书写在前面的操作先行发生于书写在后面的操作。
• 管程锁定规则（Monitor Lock Rule）：一个unlock操作先行发生于后面对同一个锁的lock操作。
• volatile变量规则（Volatile Variable Rule）：对一个volatile变量的写操作先行发生于后面对这个变量的读操作。
• 线程启动规则（Thread Start Rule）：Thread对象的start()先行发生于此线程的每一个动作。
• 线程终止规则（Thread Termination Rule）：线程中的所有操作都先行发生于对此线程的终止检测.可通过Thread.join()结束、Thread.isAlive()的返回值等手段检测到线程已经终止执行。
• 线程中断规则（Thread Interruption Rule）：对线程interrupt()的调用先行发生于被中断线程的代码检测到中断事件的发生。可通过Thread.interrupted()检测到是否有中断发生。
• 对象终结规则（Finalizer Rule）：一个对象的初始化完成先行发生于它的finalize()的开始。
• 传递性（Transitivity）：如果操作A先行发生于操作B，操作B先行发生于操作C，那么操作A一定先行发生于操作C。

4Java与线程

线程的实现

线程是比进程更轻量级的调度执行单位，线程的引入，可以把一个进程的资源分配和执行调度分开，各个线程既可以共享进程资源（内存地址，文件I/O等），又可以独立调度（线程是CPU调度的基本单位）。
实现线程的3种方式
1.使用内核线程实现：内核线程（KLT）就是由直接由操作系统内核直接支持的线程，这种线程由内核完成线程的切换，内核通过操纵调度器（Scheduler）对线程进行调度，并负责将线程的任务映射到各个处理器上。每个内核线程可以视为内核的一个分身，这样操作系统就有能力同时处理多件事情，支持多线程的内核就叫多线程内核。

程序 不会直接使用内核线程，而是使用轻量级进程
轻量级进程（LWP）：内核线程的一种高级接口，通常意义上讲的线程。
轻量级进程由一个内核线程支持，与内核线程之间1：1的关系称为一对一线程模型

优点：由于内核线程的支持，每个轻量级进程都会成为一个独立的调度单元，即使有一个轻量级进程在系统调用中阻塞，也不会影响整个进程继续工作。
缺点：由于基于内核线程实现，所以各种线程操作（创建、析构及同步）都需要进行系统调用，代价相对较高，需要在用户态（User Mode）和内核态（Kernel Mode）中来回切换；另外，一个系统支持轻量级进程的数量是有限的。
2.使用用户线程实现
用户线程：狭义上理解完全建立在用户空间的线程库上，系统内核不能感知线程存在的实现。用户线程的建立，同步，销毁和调度完全在用户态种完成，不需要内核的帮助。

优点：不需要切换到内核态，操作可以是非常快速且低消耗的，也可以支持更大规模的线程数量，部分高性能数据库种的多线程就是由用户线程实现的。

缺点：没有系统内核的支援，所有线程操作都需要由用户程序自己处理，实现起来很复杂。
进程与用户线程1：N的关系成为一对多的线程模型。

3.使用用户线程加轻量级进程混合实现
定义：既存在用户线程，也存在轻量级进程。

优点：用户线程完全建立在用户空间中，因此用户线程的创建、切换、析构等操作依然廉价，并且可以支持大规模的用户线程并发；操作系统提供支持的轻量级进程作为用户线程和内核线程之间的桥梁，可以使用内核提供的线程调度功能及处理器映射，且用户线程的系统调用要通过轻量级线程来完成，大大降低了整个进程被完全阻塞的风险。

多对多的线程模型：用户线程与轻量级进程的数量比不定，即用户线程与轻量级进程之间N：M的关系，如图所示

用户线程与轻量级进程之间的关系是不定的，即N：M的关系，多对多的线程模型

Java线程的实现

那么Java线程的实现是选择哪一种呢？答案是不确定的。操作系统支持怎样的线程模型，在很大程度上决定了Java虚拟机的线程是怎样映射的。线程模型只对线程的并发规模和操作成本产生影响，而对Java程序的编码和运行过程来说，这些差异都是透明的。

Java线程调度

线程调度：指系统为线程分配处理器使用权的过程。

①协同式线程调度（Cooperative Threads-Scheduling）
由线程本身来控制线程的执行时间。线程把自己的工作执行完后，要主动通知系统切换到另外一个线程上。
好处：实现简单；切换操作自己可知，不存在线程同步的问题。
坏处：线程执行时间不可控，假如一个线程编写有问题一直不告知系统进行线程切换，那么程序就会一直被阻塞。
②抢占式线程调度（Preemptive Threads-Scheduling）
由系统来分配每个线程的执行时间。
好处：线程执行时间是系统可控的，不存在一个线程导致整个进程阻塞的问题。
可以通过设置线程优先级，优先级越高的线程越容易被系统选择执行。

但是线程优先级并不是太靠谱，一方面因为Java的线程是通过映射到系统的原生线程上来实现的，所以线程调度最终还是取决于操作系统，在一些平台上不同的优先级实际会变得相同；另一方面优先级可能会被系统自行改变。

线程状态转换

• 新建（New）：线程创建后尚未启动

• 运行（Runable）：包括正在执行（Running）和等待着CPU为它分配执行时间（Ready）两种

• 无限期等待（Waiting）：该线程不会被分配CPU执行时间，要等待被其他线程显式地唤醒。以下方法会让线程陷入无限期等待状态：
  1.没有设置Timeout参数的Object.wait()
  2.没有设置Timeout参数的Thread.join()
  3.LockSupport.park()

• 限期等待（Timed Waiting）：该线程不会被分配CPU执行时间，但在一定时间后会被系统自动唤醒。以下方法会让线程进入限期等待状态：
  1.Thread.sleep()方法
  2.设置了Timeout参数的Object.wai()
  3.设置了Timeout参数的Thread.join()
  4.LockSupport.parkNanos()
  5.LockSupport.parkUntil()

• 阻塞（Blocked）：线程被阻塞

• 结束（Terminated）：线程已经结束执行

注意区别：
阻塞状态：在等待获取到一个排他锁，在另外一个线程放弃这个锁的时候发生；
等待状态：在等待一段时间或者唤醒动作的发生，在程序等待进入同步区域的时候发生。

线程之间状态转换图