【强制】高并发时,同步调用应该去考量锁的性能损耗。能用无锁数据结构,就不要用锁,能锁区块,就不要锁整个方法体;能用对象锁,就不要用类锁。
说明: 尽可能使加锁的代码块工作量尽可能的小,避免在锁代码块中调用 RPC 方法
用锁能够实现数据的安全性,但是会带来性能下降。无锁能够基于线程并行提升程序性能,但是会带来安全性下降。如何求得平衡?
synchronized锁:由对象头中的Mark Word根据锁标识位的不同而被复用及锁升级策略
只有Synchronized,这个是操作系统级别的重量级操作;
重量级锁在锁的竞争比较激烈的情况下,性能会下降;
用户态和内核态之间的切换
java的线程是映射到操作系统原生线程之上的,如果要阻塞或唤醒一个线程就需要操作系统介入,需要在户态与核心态之间切换,这种切换会消耗大量的系统资源,因为用户态与内核态都有各自专用的内存空间,专用的寄存器等,用户态切换至内核态需要传递给许多变量、参数给内核,内核也需要保护好用户态在切换时的一些寄存器值、变量等,以便内核态调用结束后切换回用户态继续工作。
在Java早期版本中,synchronized属于重量级锁,效率低下,因为监视器锁(monitor)是依赖于底层的操作系统的MutexLock(系统互斥量)来实现的,挂起线程和恢复线程都需要转入内核态去完成,阳寒或唤醒一个Java线程需要操作系经切换CPU状态来完成,这种状态切换需要耗费处理器时间,如果同步代码块中内容过于简单,这种切换的时间可能比用户代码执行的时间还长”,时间成本相对较高,这也是为什么早期的synchronized效率低的原因
Monitor可以理解为一种同步工具,也可理解为一种同步机制,常常被描述为一个Java对象。Java对象是天生的Monitor,每一个Java对象都有成为Monitor的潜质,因为在Java的设计中,每一个Java对象自打娘胎里出来就带了一把看不见的锁,它叫做内部锁或者Monitor锁。
Monitor是在jvm底层实现的,底层代码是c++。本质是依赖于底层操作系统的Mutex Lock实现,操作系统实现线程之间的切换需要从用户态到内核态的转换,状态转换需要的处理器时间成本非常高。所以synchronized是Java语言中的一个重量级操作。
Monitor与java对象以及线程是如何关联?
为了减少获得锁和释放锁所带来的性能消耗,引入了轻量级锁和偏向锁
public class Main {
public static void main(String[] args) {
Object obj = new Object();
System.out.println(ClassLayout.parseInstance(obj).toPrintable());
System.out.println("16进制:" + Integer.toHexString(obj.hashCode()) + "\n");
System.out.println("2进制:" + Integer.toBinaryString(obj.hashCode()) + "\n");
System.out.println(ClassLayout.parseInstance(obj).toPrintable());
}
}
看value时需要从右往左从下往上看字节顺序,比特顺序则从左往右看
java.lang.Object object internals:
OFFSET SIZE TYPE DESCRIPTION VALUE
0 4 (object header) 01 00 00 00 (00000001 00000000 00000000 00000000) (1)
4 4 (object header) 00 00 00 00 (00000000 00000000 00000000 00000000) (0)
8 4 (object header) e5 01 00 f8 (11100101 00000001 00000000 11111000) (-134217243)
12 4 (loss due to the next object alignment)
Instance size: 16 bytes
Space losses: 0 bytes internal + 4 bytes external = 4 bytes total
16进制:f2a0b8e
2进制:1111001010100000101110001110
java.lang.Object object internals:
OFFSET SIZE TYPE DESCRIPTION VALUE
0 4 (object header) 01 8e 0b 2a (00000001 10001110 00001011 00101010) (705400321)
4 4 (object header) 0f 00 00 00 (00001111 00000000 00000000 00000000) (15)
8 4 (object header) e5 01 00 f8 (11100101 00000001 00000000 11111000) (-134217243)
12 4 (loss due to the next object alignment)
Instance size: 16 bytes
Space losses: 0 bytes internal + 4 bytes external = 4 bytes total
偏向锁:单线程竞争
当线程A第一次竞争到锁时,通过操作修改Mark Word中的偏向线程ID、偏向模式。如果不存在其他线程竞争,那么持有偏向锁的线程将永远不需要进行同步。
主要作用:当一段同步代码一直被同一个线程多次访问由于只有一个线程那么该线程在后续访问时便会自动获得锁,而无需进行加锁及释放锁
Hotspot 的作者经过研究发现,大多数情况下:
多线程的情况下,锁不仅不存在多线程竞争,还存在锁由同一个线程多次获得的情况,偏向锁就是在这种情况下出现的,它的出现是为了解决在只有在一个线程执行同步时提高性能
小总结:
偏向锁会偏向于第一个访问锁的线程,如果在接下来的运行过程中,该锁没有被其他的线程访问,则持有偏向锁的线程将永远不需要触发同步。也即偏向锁在资源没有竞争情况下消除了同步语句,懒的连CAS操作都不做了,直接提高程序性能
在实际应用运行过程中发现,“锁总是同一个线程持有,很少发生竞争”,也就是说锁总是被第一个占用他的线程拥有,这个线程就是锁的偏向线程。
那么只需要在锁第一次被拥有的时候,记录下偏向线程ID。这样偏向线程就一直持有着锁(后续这个线程进入和退出这段加了同步锁的代码块时,不需要再次加锁和释放锁。而是直接会去检查锁的Mark Word里面是不是放的自己的线程ID)。
注意,偏向锁只有遇到其他线程尝试竞争偏向锁时,持有偏向锁的线程才会释放锁,线程是不会主动释放偏向锁的。
一个synchronized方法被一个线程抢到了锁时,那这个方法所在的锁对象就会将其所在的Mark Word中将偏向锁修改状态位,同时还会有占用前54位来存储线程指针作为标识。若该线程再次访问同一个synchronized方法时,该线程只需去对象头的Mark Word 中去判断一下是否有偏向锁指向本身的ID,无需再进入 Monitor 去竞争对象了。
偏向锁的操作不用直接捅到操作系统,不涉及用户到内核转换,不必要直接升级为最高级,我们以一个account对象的“对象头”为例,
假如有一个线程执行到synchronized代码块的时候,JVM使用CAS操作把线程指针ID记录到Mark Word当中,并修改偏向标示,标示当前线程获得该锁。锁对象变成偏向锁(通过CAS修攻对象头里的锁标志位》,字面意思是“偏向于第一个获得它的线程”的锁。执行完同步代码块后,线程并不会主动释放偏向锁。
这时线程获得了锁,可以执行同步代码块。当该线程第二次到达同步代码块时会判断此时持有锁的线程是否还是自己(持有锁的线程ID也在对象头里),JVM通过account对象的Mark Word判断,当前线程ID还在,说明还持有着这个对象的锁,就可以继续进入临界区工作。由于之前没有释放锁这里也就不需要重新加锁。如果自始至终使用锁的线程只有一个,很明显偏向锁几乎没有额外开销,性能极高。
结论: JVM不用和操作系统协商设置Mutex(争取内核),它只需要记录下线程ID就标示自己获得了当前锁,不用操作系统接入。
上述就是偏向锁:在没有其他线程竞争的时候,一直偏向偏心当前线程,当前线程可以一直执行。
代码演示变化:需使用jol-core,演示版本如pom.xml
注意:默认偏向锁程序启动4s后才会开启,故程序编写睡眠了5s,也可通过设置vm参数修改
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0modelVersion>
<parent>
<groupId>org.examplegroupId>
<artifactId>TestPlusartifactId>
<version>1.0-SNAPSHOTversion>
parent>
<artifactId>TestMavenartifactId>
<properties>
<maven.compiler.source>8maven.compiler.source>
<maven.compiler.target>8maven.compiler.target>
<project.build.sourceEncoding>UTF-8project.build.sourceEncoding>
properties>
<dependencies>
<dependency>
<groupId>org.openjdk.jolgroupId>
<artifactId>jol-coreartifactId>
<version>0.9version>
dependency>
dependencies>
project>
public class MainMaven {
public final static int SIZE = 10;
public static void main(String[] args) throws InterruptedException {
Object obj1 = new Object();
System.out.println("obj1加锁前:" + ClassLayout.parseInstance(obj1).toPrintable());
TimeUnit.SECONDS.sleep(5);
System.out.println("obj1程序启动5s后:" + ClassLayout.parseInstance(obj1).toPrintable());
Object obj2 = new Object();
System.out.println("obj2加锁前:" + ClassLayout.parseInstance(obj2).toPrintable());
synchronized (obj1){
System.out.println("obj1加锁后:" + ClassLayout.parseInstance(obj1).toPrintable());
}
synchronized (obj2){
System.out.println("obj2加锁后:" + ClassLayout.parseInstance(obj2).toPrintable());
}
}
}
obj1加锁前:java.lang.Object object internals:
OFFSET SIZE TYPE DESCRIPTION VALUE
0 4 (object header) 01 00 00 00 (00000001 00000000 00000000 00000000) (1)
4 4 (object header) 00 00 00 00 (00000000 00000000 00000000 00000000) (0)
8 4 (object header) e5 01 00 f8 (11100101 00000001 00000000 11111000) (-134217243)
12 4 (loss due to the next object alignment)
Instance size: 16 bytes
Space losses: 0 bytes internal + 4 bytes external = 4 bytes total
obj1程序启动5s后:java.lang.Object object internals:
OFFSET SIZE TYPE DESCRIPTION VALUE
0 4 (object header) 01 00 00 00 (00000001 00000000 00000000 00000000) (1)
4 4 (object header) 00 00 00 00 (00000000 00000000 00000000 00000000) (0)
8 4 (object header) e5 01 00 f8 (11100101 00000001 00000000 11111000) (-134217243)
12 4 (loss due to the next object alignment)
Instance size: 16 bytes
Space losses: 0 bytes internal + 4 bytes external = 4 bytes total
obj2加锁前:java.lang.Object object internals:
OFFSET SIZE TYPE DESCRIPTION VALUE
0 4 (object header) 05 00 00 00 (00000101 00000000 00000000 00000000) (5)
4 4 (object header) 00 00 00 00 (00000000 00000000 00000000 00000000) (0)
8 4 (object header) e5 01 00 f8 (11100101 00000001 00000000 11111000) (-134217243)
12 4 (loss due to the next object alignment)
Instance size: 16 bytes
Space losses: 0 bytes internal + 4 bytes external = 4 bytes total
obj1加锁后:java.lang.Object object internals:
OFFSET SIZE TYPE DESCRIPTION VALUE
0 4 (object header) b8 f2 cf 24 (10111000 11110010 11001111 00100100) (617607864)
4 4 (object header) 7d 00 00 00 (01111101 00000000 00000000 00000000) (125)
8 4 (object header) e5 01 00 f8 (11100101 00000001 00000000 11111000) (-134217243)
12 4 (loss due to the next object alignment)
Instance size: 16 bytes
Space losses: 0 bytes internal + 4 bytes external = 4 bytes total
obj2加锁后:java.lang.Object object internals:
OFFSET SIZE TYPE DESCRIPTION VALUE
0 4 (object header) 05 88 a8 71 (00000101 10001000 10101000 01110001) (1906870277)
4 4 (object header) 92 01 00 00 (10010010 00000001 00000000 00000000) (402)
8 4 (object header) e5 01 00 f8 (11100101 00000001 00000000 11111000) (-134217243)
12 4 (loss due to the next object alignment)
Instance size: 16 bytes
Space losses: 0 bytes internal + 4 bytes external = 4 bytes total
根据演示结果可推得结论:
偏向锁使用一种等到竞争出现才释放锁的机制,只有当其他线程竞争锁时,持有偏向锁的原来线程才会被撤销。徽销需要等待全局安全点(该时间点上没有字节码正在执行),同时检查持有偏向锁的线程是否还在执行
因为维护成本高,Java15逐步废弃偏向锁
轻量级锁:多线程竞争,但是任意时刻最多只有一个线程竞争,即不存在锁竞争太过激烈的情况,也就没有线程阻塞
主要作用:轻量级锁是为了在线程近乎交替执行同步块时提高性能。有线程来参与锁的竞争,但是获取锁的冲突事件极短,本质就是自旋锁CAS
主要目的:在没有多线程竞争的前提下,通过CAS减少重量级锁使用操作系统互斥量产生的性能消耗,说白了先自旋,升级时机:当关闭偏向锁功能或多线程竞争偏向锁会导致偏向锁升级为轻量级锁
假如线程A已经拿到锁,这时线程B又来抢该对象的锁,由于该对象的锁已经被线程A拿到,当前该锁已是偏向锁了。而线程B在争抢时发现对象头Mark Word中的线程ID不是线程B自己的线程ID(而是线程A),那线程B就会进行CAS操作希望能获得锁。
此时线程B操作中有两种情况:
JVM会为每个线程在当前线程的栈帧中创建用于存储锁记录的空间,官方称为Displaced Mark Word。若一个线程获得锁时发现是轻量级锁,会把锁的Mark Word复制到自己的Displaced Mark Word里面。然后线程尝试用CAS将锁的Mark Word替换为指向锁记录的指针。如果成功,当前线程获得锁,如果失败,表示Mark Word已经被替换成了其他线程的锁记录,说明在与其它线程竞争锁,当前线程就尝试使用自旋来获取锁。
自旋CAS:不断尝试去获取锁,能不升级就不往上捅,尽量不要阻塞
在释放锁时,当前线程会使用 CAS操作将Displaced Mark Word的内容复制回锁的Mark Word里面。如果没有发生竞争,那么这个复制的操作会成功。如果有其他线程因为自旋多次导致轻量级锁升级成了重量级锁,那么CAS操作会失败,此时会释放锁并唤醒被阻寒的线程
轻量锁自旋达到一定次数和程度时候就会升级到重量锁。
Java中synchronized的重量级锁,是基于进入和退出Monitor对象实现的。在编译时会将同步块的开始拉置插入monitor enter指令,在结束位置插入monitor exit指令。
当线程执行到monitor enter指今时,会尝试获取对象所对应的Monitor所有权,如果获取到了,即获取到了锁,会在Monitor的owner中存放当前线程的id,这样它将处于锁定状态,除非退出同步块,否则其他线程无法获取到这个Monitor
public class MainMaven {
public final static int SIZE = 10;
private static Object lockObj;
public static void main(String[] args) throws InterruptedException {
lockObj = new Object();
System.out.println("lockObj加锁前:" + ClassLayout.parseInstance(lockObj).toPrintable());
new Thread(() -> {
for (int i = 0; i < SIZE; i++) {
test();
}
}).start();
new Thread(() -> {
for (int i = 0; i < SIZE; i++) {
test();
}
}).start();
new Thread(() -> {
for (int i = 0; i < SIZE; i++) {
test();
}
}).start();
}
public static void test() {
synchronized (lockObj) {
System.out.println("lockObj加锁后:" + ClassLayout.parseInstance(lockObj).toPrintable());
}
}
}
输出:
lockObj加锁前:java.lang.Object object internals:
OFFSET SIZE TYPE DESCRIPTION VALUE
0 4 (object header) 01 00 00 00 (00000001 00000000 00000000 00000000) (1)
4 4 (object header) 00 00 00 00 (00000000 00000000 00000000 00000000) (0)
8 4 (object header) e5 01 00 f8 (11100101 00000001 00000000 11111000) (-134217243)
12 4 (loss due to the next object alignment)
Instance size: 16 bytes
Space losses: 0 bytes internal + 4 bytes external = 4 bytes total
lockObj加锁后:java.lang.Object object internals:
OFFSET SIZE TYPE DESCRIPTION VALUE
0 4 (object header) 80 f3 8f ce (10000000 11110011 10001111 11001110) (-829426816)
4 4 (object header) 1c 02 00 00 (00011100 00000010 00000000 00000000) (540)
8 4 (object header) e5 01 00 f8 (11100101 00000001 00000000 11111000) (-134217243)
12 4 (loss due to the next object alignment)
Instance size: 16 bytes
Space losses: 0 bytes internal + 4 bytes external = 4 bytes total
lockObj加锁后:java.lang.Object object internals:
OFFSET SIZE TYPE DESCRIPTION VALUE
0 4 (object header) 3a a0 c6 77 (00111010 10100000 11000110 01110111) (2009505850)
4 4 (object header) 1c 02 00 00 (00011100 00000010 00000000 00000000) (540)
8 4 (object header) e5 01 00 f8 (11100101 00000001 00000000 11111000) (-134217243)
12 4 (loss due to the next object alignment)
Instance size: 16 bytes
Space losses: 0 bytes internal + 4 bytes external = 4 bytes total
...
lockObj加锁后:java.lang.Object object internals:
OFFSET SIZE TYPE DESCRIPTION VALUE
0 4 (object header) 3a a0 c6 77 (00111010 10100000 11000110 01110111) (2009505850)
4 4 (object header) 1c 02 00 00 (00011100 00000010 00000000 00000000) (540)
8 4 (object header) e5 01 00 f8 (11100101 00000001 00000000 11111000) (-134217243)
12 4 (loss due to the next object alignment)
Instance size: 16 bytes
Space losses: 0 bytes internal + 4 bytes external = 4 bytes total
可以看到从无锁->轻量级锁->重量级锁的过程
锁升级为轻量级或重量级锁后,Mark Word中保存的分别是线程栈里的锁记录指针和重量级锁指针,已经没有位置再保存哈希码,GC年龄了,那么这些信息被移动到哪里去了呢?
默认情况下,偏向锁开启后,创建的对象的锁状态是010即偏向锁状态,但是无线程指针,此时若调用hashCode()方法,对象会退回无锁状态001
锁 | 优点 | 缺点 | 适用场景 |
---|---|---|---|
偏向锁 | 加锁和解锁不需要额外的消耗,和执行非同步方法相比仅存在纳秒级的差距 | 如果线程间存在锁竞争,会带来额外的锁撤销的消耗 | 适用于只有一个线程访问同步块场景 |
轻量级锁 | 竞争的线程不会阻塞,提高了程序的响应速度 | 如果始终得不到锁竞争的线程,适用自旋会消耗CPU | 追求响应速度,同步块执行速度非常快 |
重量级锁 | 线程竞争不使用自旋,不会消耗CPU | 线程阻塞,响应时间缓慢 | 追求吞吐量,同步块执行速度较长 |
synchronized锁升级过程总结: 一句话,就是先自旋,不行再阻塞。实际上是把之前的悲观锁(重量级锁)变成在一定条件下使用偏向锁以及使用轻量级(自旋锁CAS)的形式
synchronized在修饰方法和代码块在字节码上实现方式有很大差异,但是内部实现还是基于对象头的MarkWord来实现的。JDK1.6之前synchronized使用的是重量级锁,JDK1.6之后进行了优化,拥有了无锁->偏向锁->轻量级锁->重量级锁的升级过程,而不是无论什么情况都使用重量级锁
JIT,Just In Time Compiler,一般译为即时编译器
逃逸分析-锁消除
sb是方法中的局部对象,就只在该方法内的作用域有效,不同线程调用该方法若使用锁同步机制则是白白浪费资源。故JIT在编译阶段会优化该处,进行锁的消除
默认开启:
-server -XX:+DoEscapeAnalysis -XX:+EliminateLocks
其中+DoEscapeAnalysis表示开启逃逸分析,+EliminateLocks表示锁消除。
public class Main {
public static void main(String[] args) {
long start = System.currentTimeMillis();
int size = 100000000;
for (int i = 0; i < size; i++) {
createStringBuffer("JVM", "锁消除");
}
long timeCost = System.currentTimeMillis() - start;
System.out.println("createStringBuffer:" + timeCost + " ms");
}
public static String createStringBuffer(String str1, String str2) {
StringBuffer sb = new StringBuffer();
sb.append(str1);// append方法是同步操作
sb.append(str2);
return sb.toString();
}
}
默认启动
createStringBuffer:2377 ms
关闭锁消除后
createStringBuffer:3933 ms
假如方法中首尾相接,前后相邻的都是同一锁对象,那JIT编译器就会把这几个synchronized块合并为一个大块,加粗加大范围,一次申请锁即可,避免次次的加锁和释放锁,提升了性能
public class Main {
public static void main(String[] args) {
synchronized (Main.class) {
System.out.println(1);
}
synchronized (Main.class) {
System.out.println(2);
}
synchronized (Main.class) {
System.out.println(3);
}
synchronized (Main.class) {
System.out.println(1);
System.out.println(2);
System.out.println(3);
}
}
}