Java 并发编程和高并发解决方案

基本概念

并发：同时拥有两个或多个线程，如果程序在单核处理器上运行，多个线程将交替的换入或者换出内存，这些线程是同时“存在”的，每个线程都处于执行过程中的某个状态，如果运行在多核处理器上，此时，程序中的每个线程都将分配到一个处理器核上，因此可以同时运行。（多个线程操作相同的资源，保证线程安全，合理使用资源）

高并发：高并发（High Concurrency）是互联网分布式系统架构设计中必须考虑的因素之一，它通常是指，通过设计保证系统能够同时并行处理很多请求。（服务能同时处理很多请求，提高程序性能）

Java内存模型（Java Memory Model，JMM）

image.png

image.png

Java内存模型-同步八种操作

lock（锁定）：作用与主内存的变量，把一个变量表示为一条线程独占状态。
unlock（解锁）：作用与主内存的变量，把一个锁定状态的变量释放出来，释放后的变量才可以被其他线程锁定。
read（读取）：作用与主内存的变量，把一个变量值从主内存传输到线程的工作内存中，以便随后的load动作使用。
load（载入）：作用于工作内存的变量，它把read操作从主内存中得到的变量值放入工作内存的变量副本中。
use（使用）：作用于工作内存的变量，把工作内存中的一个变量值传递给执行引擎。
assign（赋值）：作用于工作内存的变量，它把一个从执行引擎接收到的值赋给工作内存的变量。
store（存储）：作用于工作内存的变量，把工作内存中的一个变量的值传送到主内存中，以便随后的write操作。
write（写入）：作用与主内存的变量，它把store操作从工作内存中一个变量的值传送到主内存的变量中。

image.png

线程安全性

当多个线程访问某个类时，不管运行时环境采用何种调度方式或者这些进程将如何交替执行，并且在主调代码中不需要任何额外的同步或协同，这个类都能表现出正确的行为，那么就成这个类是线程安全的。
原子性：提供了互斥访问，同一时刻只能有一个线程来对它进行操作
可见性：一个线程对于主内存的修改可以及时的被其他线程观察到
有序性：一个线程观察其他线程中的指令执行顺序，由于指令重排序的存在，该观察结果一般杂乱无序。

原子性对比

synchronized：不可中断锁，适合竞争不激烈，可读性好。
Lock：可中断锁，多样化同步，竞争激烈时能维持常态。
Atomic：竞争激烈时能维持常态，比Lock性能好；只能同步一个值。

可见性

导致共享变量在线程间不可见的原因：

1. 线程交叉执行
2. 重排序结合线程交叉执行
3. 共享变量更新后的值没有在工作内存与主存间及时更新

JMM关于synchronized的两条规定：

1. 线程解锁前，必须把共享变量的最新值刷新到主内存。
2. 线程加锁时，将清空工作内存中共享变量的值，从而使用共享变量时需要从主内存中重新读取最新的值（加锁与解锁是同一把锁）

可见性-volatile
通过加入内存屏障和禁止重排序优化来实现

1. 对volatile变量写操作时，会在写操作后加入一条store屏障指令，将本地内存中的共享变量值刷新到主内存。
2. 对volatile变量读操作时，会在读操作前加入一条load屏障指令，从主内存中读取共享变量。

可见性-volatile写

可见性-volatile读

// volatile 适用场景
        volatile boolean inited = false;

        // 线程1：
        context = loadContext();
        inited = true;

        // 线程2：
        while (!inited){
            sleep();
        }
        doSomethingWithConfig(context);

有序性

Java内存模型中，允许编译器和处理器对指令进行重排序，但是重排序过程不会影响到单线程程序的执行，却会影响到多线程并发执行的正确性。

有序性-happens-before原则

1. 程序次序规则：一个线程内，按照代码顺序，书写在前面的操作先行发生于书写在后面的操作（指令重排序不影响单线程内的结果）。
2. 锁定规则：一个unlock操作先行发生于后面对同一个锁的lock操作。
3. volatile变量规则：对一个变量的写操作先行发生于后面对这个变量的读操作。
4. 传递规则：如果操作A先行发生于操作B，而操作B又先行发生于操作C，则可以得出操作A先行发生于操作C。

---

5. 线程启动规则：Thread对象的start()方法先行发生于此线程的每一个动作
6. 线程中断规则：对线程interrupt()方法的调用先行发生于被中断线程的代码检测到中断事件的发生
7. 线程终结规则：线程中所有的操作都先行发生于线程的终止检测，我们可以通过Thread.join()方法结束、Thread.isAlive()的返回值手段检测到线程已经终止执行
8. 对象终结规则：一个对象的初始化完成先行发生于他的finalize()方法的开始

发布对象

使一个对象能够被当前范围之外的代码所使用。
在我们的日常开发中，我们经常要发布一些对象，比如通过类的非私有方法返回对象的引用，或者通过公有静态变量发布对象。

对象逸出

一种错误的发布。当一个对象还没有构造完成时，就使它被其他线程所见。

不可变对象

有一种对象只要它发布了就是安全的，它就是不可变对象。一个不可变对象需要满足的条件：

对象创建以后其状态不能修改
对象所有域都是final类型
对象是正确创建的(在对象创建期间，this引用没有逸出)

final关键字

final关键字可以修饰类、修饰方法、修饰变量

修饰类：类不能被集成。
基础类型的包装类都是final类型的类。final类中的成员变量可以根据需要设置为final，但是要注意的是，final类中的所有成员方法都会被隐式的指定为final方法
修饰方法：
(1)把方法锁定，以防任何继承类修改它的含义
(2)效率：在早期的java实现版本中，会将final方法转为内嵌调用。但是如果方法过于庞大，可能看不见效果。一个private方法会被隐式的指定为final方法
修饰变量：
基本数据类型变量，在初始化之后，它的值就不能被修改了。如果是引用类型变量，在它初始化之后便不能再指向另外的对象。

死锁-必要条件

• 互斥条件：进程对锁分配的资源进行排他性使用
• 请求和保持条件：线程已经保持了一个资源，但是又提出了其他请求，而该资源已被其他线程占用
• 不剥夺条件：在使用时不能被剥夺，只能自己用完释放
• 环路等待条件：资源调用是一个环形的链

多线程并发最佳实践

• 使用本地变量
• 使用不可变类
• 最小化锁的作用域范围：S=1/(1-a+a/n）
• 使用线程池的Executor，而不是直接new Thread执行
• 宁可使用同步也不要使用线程的wait和notify
• 使用BlockingQueue实现生产-消费模式
• 使用并发集合而不是加了锁的同步集合
• 使用Semaphore创建有界的访问
• 宁可使用同步代码块也不使用同步的方法
• 避免使用静态变量

限流算法

计数器法
滑动窗口
漏桶
令牌桶

高可用的一些手段

• 任务调度系统分布式：elastic-job+zookeeper
• 主备切换：apache curator+zookeeper分布式锁实现
• 监控报警机制