并发与高并发

并发处理的广泛应用是使得Amdahl定律代替摩尔定律成为计算机性能发展源动力的根本原因，也是人类“压榨”计算机运算能力的最有力武器。

基本概念

并发：同时拥有两个或者多个线程，如果程序在单核处理器上运行，多个线程将交替地换出或者换入内存，这些线程是同时“存在”的，每个线程都处于执行过程中的某个状态，如果运行在多核处理器上，此时，程序中的每个线程都将分配到一个处理器核上，因此，可以同时运行。并发更多的是讨论，多个线程操作相同的资源，保证线程安全，合理使用资源。

高并发：高并发是互联网分布式架构中必须考虑的因素之一，它通常是指，通过设计保证系统能够同时并行处理很多请求。 高并发更多的是讨论，服务器能同时处理很多请求，提高程序性能。

CPU多级缓存

为什么需要CPU cache ：CPU的频率太快了，快到主存跟不上，这样在处理器的时钟周期内，CPU常常需要等待主存，浪费资源。所以cache的出现，是为了缓解CPU和内存之间速度的不匹配问题（结构：CPU -> cache -> memory）

CPU cache有什么意义：

• 时间局部性：如果某个数据被访问，那么在不久的将来它很可能再次被访问。
• 空间局部性：如果某个数据被访问，那么与它相邻的数据很块也可能被访问。

缓存一致性（MESI）：用于保证多个CPU cache之间缓存共享数据的一致（M：modify，E：exclusive，S：share，I：invalid）。

乱序执行优化：处理器为提高运算速度而做出违背代码原有顺序的优化。

Java内存模型（Java Memory Model, JMM）

内存间交互操作

一个变量如何从主内存拷贝到工作内存，如何从工作内存同步回主内存之类的实现细节，Java内存模型中定义了以下8种操作来完成，虚拟机实现时必须保证下面提及的每一种操作都是原子的、不可再分的。

• lock（锁定）：作用于主内存的变量，把一个变量标识为一条线程独占状态。
• unlock（解锁）：作用于主内存的变量，把一个处于锁定状态的变量释放出来，释放后的变量才可以被其他线程锁定。
• read（读取）：作用于主内的变量，把一个变量的值从主内存传输到线程的工作内存中，以便随后的load动作使用。
• load（载入）：作用于工作内存的变量，把read读取操作从主内存中得到的变量值放入工作内存的变量拷贝中。
• use（使用）：作用于工作内存的变量，把工作内存中一个变量的值传递给执行引擎，每当虚拟机遇到一个需要使用到变量值的字节码指令时将会执行该操作。
• assign（赋值）：作用于工作内存变量，把一个从执行引擎接收到的变量的值赋值给工作内存的变量，每当虚拟机遇到一个给变量赋值的字节码指令时执行该操作。
• store（存储）：作用于工作内存的变量，把工作内存中一个变量的值传送到主内存中，以便随后的write操作使用。
• write（写入）：作用于主内存的变量，把store操作从工作内存中得到的变量值放入主内存的变量中。

如果要把一个变量从主内存复制到工作内存，那就要顺序地执行read和load操作，如果要把变量从工作内存同步回主内存，就要顺序地执行store和write操作。除此之外，Java内存模型还规定了在执行上述8种基本操作时必须满足如下规则：

• 不允许read和load、store和write操作之一单独出现
• 不允许一个线程丢弃它的最近assign的操作，即变量在工作内存中改变了之后必须同步到主内存中。
• 不允许一个线程无原因地（没有发生过任何assign操作）把数据从工作内存同步回主内存中。
• 一个新的变量只能在主内存中诞生，不允许在工作内存中直接使用一个未被初始化（load或assign）的变量。即就是对一个变量实施use和store操作之前，必须先执行过了assign和load操作。
• 一个变量在同一时刻只允许一条线程对其进行lock操作，lock和unlock必须成对出现
• 如果对一个变量执行lock操作，将会清空工作内存中此变量的值，在执行引擎使用这个变量前需要重新执行load或assign操作初始化变量的值
• 如果一个变量事先没有被lock操作锁定，则不允许对它执行unlock操作；也不允许去unlock一个被其他线程锁定的变量。
• 对一个变量执行unlock操作之前，必须先把此变量同步到主内存中（执行store和write操作）。

图解说明（图片来源网络）：

想知道关于更多Java内存相关知识，请看这篇文章 >>> Java内存模型与线程

并发的优势与风险

图解形式给出（图片来源网络）：