《Java 并发编程》共享模型之无锁

《Java 并发编程》专栏索引
《Java 并发编程》进程与线程
《Java 并发编程》共享模型之管程
《Java 并发编程》共享模型之内存
《Java 并发编程》共享模型之无锁
《Java 并发编程》共享模型之不可变
《Java 并发编程》线程池

1. 无锁解决线程安全问题

有如下需求，保证 account.withdraw 取款方法的线程安全

interface Account {
	Integer getBalance();

	void withdraw(Integer amount);

	/**
	 * 方法内会启动 1000 个线程，每个线程做 -10 元 的操作     * 如果初始余额为 10000 那么正确的结果应当是 0
	 */
	static void demo(Account account) {
		List<Thread> ts = new ArrayList<>();
		long start = System.nanoTime();
		for (int i = 0; i < 1000; i++) {
			ts.add(new Thread(() -> {
				account.withdraw(10);
			}));
		}
		ts.forEach(Thread::start);
		ts.forEach(t -> {
			try {
				t.join();
			} catch (InterruptedException e) {
				e.printStackTrace();
			}
		});
		long end = System.nanoTime();
		System.out.println(account.getBalance() + " cost: " + (end - start) / 1000_000 + " ms");
	}
}

//线程不安全的做法
class AccountUnsafe implements Account {
	private Integer balance;

	public AccountUnsafe(Integer balance) {
		this.balance = balance;
	}


	@Override
	public Integer getBalance() {
		return this.balance;
	}

	@Override
	public synchronized void withdraw(Integer amount) {
		balance -= amount;
	}

	public static void main(String[] args) {
		Account.demo(new AccountUnsafe(10000));
	}
}

某一次的运行结果

200, cost:178ms

使用原子整数 AtomicInteger 来保证线程安全的做法

public class AccountCas implements Account{
    //使用原子整数
    private AtomicInteger balance;

    public AccountCas(int balance) {
        this.balance = new AtomicInteger(balance);
    }

    @Override
    public Integer getBalance() {
        //得到原子整数的值
        return balance.get();
    }

    @Override
    public void withdraw(Integer amount) {
        while(true) {
            //获得修改前的值
            int prev = balance.get();
            //获得修改后的值
            int next = prev-amount;
            //比较并设值
            if(balance.compareAndSet(prev, next)) {
                break;
            }
        }
    }
    public static void main(String[] args) {
        Account.demo(new AccountCas(10000));
    }
}

某一次的运行结果

0，cost:94ms

2. CAS 与 volatile

上一章节中看到的 AtomicInteger 的解决方法，内部并没有用锁来保护共享变量的线程安全。那么它是如何实现的呢？

回顾一下上一章节中的 withdraw 方法

public void withdraw(Integer amount) {
		//需要不断尝试，直到成功为止
       while(true) {
           //比如拿到了旧值1000
           int prev = balance.get();
           //在这个基础上 1000-10 = 990
           int next = prev-amount;
           /*
           compareAndSet正是做这个检查，在set前，先比较prev与当前值
           不一致了，next作废，返回false表示失败
           比如，别的线程已经做了减法，当前值为990
           那么本线程的这次990就作废了，进入while下次循环重试
           一致，以next设置为新值，返回true表示成功
           */
           if(balance.compareAndSet(prev, next)) {
               break;
           }
       }
}

其中的关键是比较并设置值 (CompareAndSet)，简称就是 CAS （也有 Compare And Swap 的说法），它必须是原子操作。

工作流程

• ✨当一个线程要去修改 Account 对象中的值时，先获取值 pre（调用 get 方法），然后再将其设置为新的值 next（调用 cas 方法）。在调用 cas 方法时，会将 pre 与 Account 中的余额进行比较。
  （1）如果两者相等，就说明该值还未被其他线程修改，此时便可以进行修改操作。
  （2）如果两者不相等，就不设置值，重新获取值 pre（调用 get 方法），然后再将其设置为新的值 next（调用 cas 方法），直到修改成功为止。

注意

• ✨其实 CAS 的底层是 lock cmpxchg 指令（X86 架构），在单核 CPU 和多核 CPU 下都能够保证【比较-交换】的原子性。
• ✨在多核状态下，某个核执行到带 lock 的指令时，CPU 会让总线锁住，当这个核把此指令执行完毕，再开启总线。这个过程中不会被线程的调度机制所打断，保证了多个线程对内存操作的准确性，是原子的。

volatile
获取共享变量时，为了保证该变量的可见性，需要使用 volatile 修饰。它可以用来修饰成员变量和静态成员变量，可以避免线程从自己的工作缓存中查找变量的值，必须到主存中获取它的值，线程操作 volatile 变量都是直接操作主存。即一个线程对 volatile 变量的修改，对另一个线程可见。

注意

• ✨volatile 仅仅保证了共享变量的可见性，让其它线程能够看到新值，但不能解决指令交错问题（不能保证原子性）

CAS 必须借助 volatile 才能读取到共享变量的新值来实现【比较并交换】的效果。

通常情况下，使用无锁解决线程安全问题比有锁效率高，原因如下

• ✨无锁情况下，即使重试失败，线程始终在高速运行，没有停歇，而使用 synchronized 锁会让线程在没有获得锁的时候，发生上下文切换，进入阻塞。
• ✨但无锁情况下，因为线程要保持运行，需要额外 CPU 的支持，如果没有额外的 CPU 支持，还是会导致上下文切换

CAS 的特点

结合 CAS 和 volatile 可以实现无锁并发，适用于线程数少、多核 CPU 的场景下

• ✨CAS 是基于乐观锁的思想：乐观的估计，不怕别的线程来修改共享变量，就算改了也没关系，我吃亏点再重试呗
• ✨synchronized 是基于悲观锁的思想：悲观的估计，得防着其它线程来修改共享变量，我上了锁你们都别想改，我改完了解开锁，你们才有机会
• ✨CAS 体现的是无锁并发、无阻塞并发，请仔细体会这两句话的意思。因为没有使用 synchronized，所以线程不会陷入阻塞，这是效率提升的因素之一，但如果竞争激烈，可以想到重试必然频繁发生，反而效率会受影响

3. 原子整数

J.U.C 并发包提供了

• ✨AtomicBoolean
• ✨AtomicInteger
• ✨AtomicLong

以 AtomicInteger 为例

AtomicInteger i = new AtomicInteger(0);
// 获取并自增（i = 0, 结果 i = 1, 返回 0），类似于 i++
System.out.println(i.getAndIncrement());
// 自增并获取（i = 1, 结果 i = 2, 返回 2），类似于 ++i
System.out.println(i.incrementAndGet());
// 自减并获取（i = 2, 结果 i = 1, 返回 1），类似于 --i
System.out.println(i.decrementAndGet());
// 获取并自减（i = 1, 结果 i = 0, 返回 1），类似于 i--
System.out.println(i.getAndDecrement());
// 获取并加值（i = 0, 结果 i = 5, 返回 0）
System.out.println(i.getAndAdd(5));
// 加值并获取（i = 5, 结果 i = 0, 返回 0）
System.out.println(i.addAndGet(-5));
// 获取并更新（i = 0, p 为 i 的当前值, 结果 i = -2, 返回 0）
// 其中函数中的操作能保证原子，但函数需要无副作用
System.out.println(i.getAndUpdate(p -> p - 2));
// 更新并获取（i = -2, p 为 i 的当前值, 结果 i = 0, 返回 0）
// 其中函数中的操作能保证原子，但函数需要无副作用
System.out.println(i.updateAndGet(p -> p + 2));
// 获取并计算（i = 0, p 为 i 的当前值, x 为参数1, 结果 i = 10, 返回 0）
// 其中函数中的操作能保证原子，但函数需要无副作用
// getAndUpdate 如果在 lambda 中引用了外部的局部变量，要保证该局部变量是 final 的
// getAndAccumulate 可以通过 参数1 来引用外部的局部变量，但因为其不在 lambda 中因此不必是 final
System.out.println(i.getAndAccumulate(10, (p, x) -> p + x));
// 计算并获取（i = 10, p 为 i 的当前值, x 为参数1, 结果 i = 0, 返回 0）
// 其中函数中的操作能保证原子，但函数需要无副作用
System.out.println(i.accumulateAndGet(-10, (p, x) -> p + x));

4. 原子引用

原子引用类型有

• ✨AtomicReference
• ✨AtomicMarkableReference
• ✨AtomicStampedReference

DecimalAccount 实现，使用 CAS 保证安全的取款操作

public interface DecimalAccount {
	BigDecimal getBalance();

	void withdraw(BigDecimal amount);

	/**
	 * 方法内会启动 1000 个线程，每个线程做 -10 元 的操作    
     * 如果初始余额为 10000 那么正确的结果应当是 0
	 */
	static void demo(DecimalAccountImpl account) {
		List<Thread> ts = new ArrayList<>();
		long start = System.nanoTime();
		for (int i = 0; i < 1000; i++) {
			ts.add(new Thread(() -> {
				account.withdraw(BigDecimal.TEN);
			}));
		}
		ts.forEach(Thread::start);
		ts.forEach(t -> {
			try {
				t.join();
			} catch (InterruptedException e) {
				e.printStackTrace();
			}
		});
		long end = System.nanoTime();
		System.out.println(account.getBalance() + " cost: " + (end - start) / 1000_000 + " ms");
	}
}

class DecimalAccountImpl implements DecimalAccount {
	//原子引用，泛型类型为小数类型
	AtomicReference<BigDecimal> balance;

	public DecimalAccountImpl(BigDecimal balance) {
		this.balance = new AtomicReference<BigDecimal>(balance);
	}

	@Override
	public BigDecimal getBalance() {
		return balance.get();
	}

	@Override
	public void withdraw(BigDecimal amount) {
		while(true) {
			BigDecimal pre = balance.get();
			BigDecimal next = pre.subtract(amount);
			if(balance.compareAndSet(pre, next)) {
				break;
			}
		}
	}

	public static void main(String[] args) {
		DecimalAccount.demo(new DecimalAccountImpl(new BigDecimal("10000")));
	}
}

5. ABA 问题及解决

static AtomicReference<String> ref = new AtomicReference<>("A");

public static void main(String[] args) {
   new Thread(()->{
       String pre = ref.get();   // A
       System.out.println("change");
       try {
           other();
       } catch (InterruptedException e) {
           e.printStackTrace();
       }
       try {
           Thread.sleep(1000);
       } catch (InterruptedException e) {
           e.printStackTrace();
       }
       System.out.println("change A->C "+ref.compareAndSet(pre, "C"));
   }).start();
}
static void other() throws InterruptedException {
    new Thread(()->{
        System.out.println("change A->B " + ref.compareAndSet("A", "B"));
    }).start();
    Thread.sleep(500);
    new Thread(()->{
        System.out.println("change B->A "+ref.compareAndSet("B","A"));
    }).start();
}

运行结果如下

change
change A->B true
change B->A true
change A->C true

那么，观察上面的运行结果可以发现，主线程仅能判断出共享变量的值与初值 A 是否相同，不能感知到这种从 A 改为 B 又 改回 A 的情况，如果主线程希望：

• ✨只要有其它线程【动过了】共享变量，那么自己的 cas 就算失败，这时，仅比较值是不够的，需要再加一个版本号

AtomicStampedReference

 static AtomicStampedReference<String> ref = new AtomicStampedReference<>("A", 0);

 public static void main(String[] args) {
    new Thread(()->{
        String pre = ref.getReference();
        //获得版本号
        int stamp = ref.getStamp();
        System.out.println("change");
        try {
            other();
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        try {
            Thread.sleep(1000);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        //把str中的A改为C,并比对版本号，如果版本号相同，就执行替换，并让版本号+1
        System.out.println("change A->C stamp " + stamp + ref.compareAndSet(pre, "C", stamp, stamp+1));
    }).start();
 }
 static void other() throws InterruptedException {
     new Thread(()->{
         int stamp = ref.getStamp();
         System.out.println("change A->B stamp " + stamp + ref.compareAndSet("A", "B", stamp, stamp+1));
     }).start();
     Thread.sleep(500);
     new Thread(()->{
         int stamp = ref.getStamp();
         System.out.println("change B->A stamp " + stamp +  ref.compareAndSet("B", "A", stamp, stamp+1));
     }).start();
 }

运行结果如下

change
change A->B stamp 0true
change B->A stamp 1true
change A->C stamp 0false

AtomicStampedReference 可以给原子引用加上版本号，追踪原子引用整个的变化过程，如： A -> B -> A -> C ，通过 AtomicStampedReference，我们可以知道，引用变量中途被更改了几次。但是有时候，并不关心引用变量更改了几次，只是单纯的关心是否更改过，所以就有了 AtomicMarkableReference.

AtomicMarkableReference

static AtomicMarkableReference<String> ref = new AtomicMarkableReference<>("A", true);

public static void main(String[] args) {
   new Thread(()->{
       String pre = ref.getReference();
       System.out.println("change");
       try {
           other();
       } catch (InterruptedException e) {
           e.printStackTrace();
       }
       try {
           Thread.sleep(1000);
       } catch (InterruptedException e) {
           e.printStackTrace();
       }
       System.out.println("change A->C mark " +  ref.compareAndSet(pre, "C", true, false));
   }).start();
}
static void other() throws InterruptedException {
    new Thread(()->{
        System.out.println("change A->A mark " + ref.compareAndSet("A", "A", true, false));
    }).start();
}

运行结果如下

change
change A->A mark true
change A->C mark false

两者的区别

• ✨AtomicStampedReference 需要我们传入整型变量作为版本号，来判定是否被更改过（可以追踪变化过程）
• ✨AtomicMarkableReference 需要我们传入布尔变量作为标记，来判断是否被更改过（只关心是否更改过）

6. 原子数组和原子字段更新器

原子数组类型有

• ✨AtomicIntegerArray
• ✨AtomicLongArray
• ✨AtomicReferenceArray

原子字段更新器类型有

• ✨AtomicReferenceFieldUpdater
• ✨AtomicIntegerFieldUpdater
• ✨AtomicLongFieldUpdater

利用字段更新器，可以针对对象的某个域（Field）进行原子操作，只能配合 volatile 修饰的字段使用，否则会出现异常 Exception in thread "main" java.lang.IllegalArgumentException: Must be volatile type.

public class Test5 {
    private volatile int field;

    public static void main(String[] args) {
        AtomicIntegerFieldUpdater fieldUpdater = AtomicIntegerFieldUpdater.newUpdater(Test5.class, "field");

        Test5 test5 = new Test5();
        fieldUpdater.compareAndSet(test5, 0, 10);
        //修改成功 field=10
        System.out.println(test5.field);
        //修改成功 field=20
        fieldUpdater.compareAndSet(test5, 10, 20);
        System.out.println(test5.field);

        //修改失败 field=20
        fieldUpdater.compareAndSet(test5, 10, 30);
        System.out.println(test5.field);

    }
}

运行结果如下

10
20
20

7. LongAdder 原理

伪共享原理

其中 Cell 即为累加单元

//防止缓存伪共享
@sun.misc.Contented
static final class Cell {
	volatile long value;
	Cell(long x) {value = x;}
	
	//最重要的方法，用cas方式进行累加，prev表示旧值，next表示新值
	final boolean cas(long prev, long next) {
		return UNSAFE.compareAndSwapLong(this, valueOffset, prev, next);
	}
	//省略不重要代码
}

缓存共享需要从缓存说起，缓存与内存的速度比较，如下面的图表所示

从 CPU 到	大约需要的时钟周期
寄存器	1 cycle(4GHz 的 CPU 约为 0.25 ns)
L1	3-4 cycle
L2	10-20 cycle
L3	40-45 cycle
内存	120-240 cycle

因为 CPU 与内存的速度差异很大，需要靠预读数据至缓存来提升效率。而缓存以缓存行为单位，每个缓存行对应着一块内存，一般是 64 byte（8 个 long）。缓存的加入会造成数据副本的产生，即同一数据会缓存在不同的核心的缓存行中。CPU 要保证数据的一致性，如果某个 CPU 核心更改了数据，其他 CPU 核心对应的整个缓存行必须失效。

因为 Cell 是数组形式，在内存中是连续存储的，一个 Cell 为 24 字节（16 字节的对象头和 8 字节的 value），因此缓存行可以存下 2 个的 Cell 对象，这样会带来一个问题：

• ✨Core-0 要修改 Cell[0]
• ✨Core-1 要修改 Cell[1]

无论谁修改成功，都会导致对方 Core 的缓存行失效，比如 Core-0 中 Cell[0]=6000，Cell[1]=8000 要累加 Cell[0]=6001，Cell[1]=8000，这时会让 Core-1 的缓存行失效。

@sun.misc.Contended 用来解决这个问题，它的原理是在使用此注解的对象或字段的前后各增加 128 字节大小的 padding（空白），从而让 CPU 将对象预读至缓存时占用不同的缓存行，这样，不会造成对方缓存行的失效。

累加主要调用以下方法

public void add(long x) {
    Cell[] as; long b, v; int m; Cell a;
    if ((as = cells) != null || !casBase(b = base, b + x)) {
        boolean uncontended = true;
        if (as == null || (m = as.length - 1) < 0 ||
            (a = as[getProbe() & m]) == null ||
            !(uncontended = a.cas(v = a.value, v + x)))
            longAccumulate(x, null, uncontended);
    }
}

累加流程图

8. Unsafe

Unsafe 对象提供了非常底层的，操作内存、线程的方法，Unsafe 对象不能直接调用，只能通过反射获得

public class UnsafeAccessor {
    static Unsafe unsafe;
    static {
        try {
            Field theUnsafe = Unsafe.class.getDeclaredField("theUnsafe");
            theUnsafe.setAccessible(true);
            unsafe = (Unsafe) theUnsafe.get(null);
        } catch (IllegalAccessException e) {
            e.printStackTrace();
        } catch (NoSuchFieldException e) {
            e.printStackTrace();
        }
    }

    static Unsafe getUnsafe() {
        return unsafe;
    }

    public static void main(String[] args) throws NoSuchFieldException {
        Unsafe unsafe = UnsafeAccessor.getUnsafe();
        Field id = Student.class.getDeclaredField("id");
        Field name = Student.class.getDeclaredField("name");
        //获得成员变量的偏移量
        long idOffset = UnsafeAccessor.unsafe.objectFieldOffset(id);
        long nameOffset = UnsafeAccessor.unsafe.objectFieldOffset(name);

        Student student = new Student();
        //使用CAS方法替换成员变量的值
        UnsafeAccessor.unsafe.compareAndSwapInt(student, idOffset, 0, 20);       //返回true
        UnsafeAccessor.unsafe.compareAndSwapObject(student, nameOffset, null, "张三");   //返回true
        System.out.println(student);
    }
}

class Student {
    volatile int id;
    volatile  String name;

    public Student(int id, String name) {
        this.id = id;
        this.name = name;
    }

    public Student() {
    }

    public int getId() {
        return id;
    }

    public void setId(int id) {
        this.id = id;
    }

    public String getName() {
        return name;
    }

    public void setName(String name) {
        this.name = name;
    }

    @Override
    public String toString() {
        return "Student{" +
                "id=" + id +
                ", name='" + name + '\'' +
                '}';
    }


}