ConcurrentHashMap1.8解析
ConcurrentHashMap的结构和HashMap基本相同,由 数组+链表+红黑树 组成,只是在并发上面做了很多处理.
先了解下重要的变量和内部类
static final int MOVED = -1; // hash for forwarding nodes
//数组,这里的Node有三类,链表头节点、树的根节点、ForwardingNode节点
transient volatile Node<K,V>[] table;
//扩容时创建的数组,设计为成员变量的原因是因为扩容会有多个线程协助完成,必须对每个线程可见
private transient volatile Node<K,V>[] nextTable;
//多个作用 -1表示正在初始化
//正数表示下一次扩容的阙值
//-N的时候 高16位是由数组长度(n)计算出来的标示位,正在运行的线程可以通过这个标示位判断扩容是否结束
//低16位表示正在扩容的线程数(N-1),因为-1表示初始化,所以计数从-2开始
private transient volatile int sizeCtl;
//一个特殊的节点,hash值为MOVED,当扩容的线程把原数组的某个位置的节点全部转移后,
//会在这个位置放上ForwardingNode节点,表示该位置已经扩容了,防止put操作插入了错误的位置
//值得一提的是就算正在扩容,put操作发现插入的位置不是ForwardingNode节点,照样可以正常操作
//这表示ConcurrentHashMap可以实现扩容和put的并发操作
static final class ForwardingNode<K,V> extends Node<K,V>
put操作源码
public V put(K key, V value) {
return putVal(key, value, false);
}
final V putVal(K key, V value, boolean onlyIfAbsent) {
//和hashMap不同的是，concurrentHashMap的key和value都不允许为null
//concurrenthashmap它们是用于多线程的，并发的 ，如果map.get(key)得到了null，
// 不能判断到底是映射的value是null,还是因为没有找到对应的key而为空，
// 而用于单线程状态的hashmap却可以用containKey（key） 去判断到底是否包含了这个null。
if (key == null || value == null) throw new NullPointerException();
int hash = spread(key.hashCode());
int binCount = 0;
for (Node<K,V>[] tab = table;;) {
Node<K,V> f; int n, i, fh;
//如果是第一次put，进行初始化
if (tab == null || (n = tab.length) == 0)
tab = initTable();
//根据(tab.length - 1) & hash 计算目标节点在数组中的位置
else if ((f = tabAt(tab, i = (n - 1) & hash)) == null) {
//如果为空，则通过cas 添加一个新建一个头节点
if (casTabAt(tab, i, null,
new Node<K,V>(hash, key, value, null)))
break; // no lock when adding to empty bin
}
//hash为-1 说明是一个forwarding nodes节点，表明正在扩容
else if ((fh = f.hash) == MOVED)
//帮助扩容
tab = helpTransfer(tab, f);
else {
V oldVal = null;
//对上面计算出来的节点进行加锁
synchronized (f) {
//这里判断下有没有线程对数组进行了修改
if (tabAt(tab, i) == f) {
//这里如果hash值是大于等于0的说明是链表
if (fh >= 0) {
binCount = 1;
for (Node<K,V> e = f;; ++binCount) {
K ek;
//如果找到了目标节点，那么进行值替换
if (e.hash == hash &&
((ek = e.key) == key ||
(ek != null && key.equals(ek)))) {
oldVal = e.val;
if (!onlyIfAbsent)
e.val = value;
break;
}
//如果循环到链表结尾还没发现，那么进行插入操作
Node<K,V> pred = e;
if ((e = e.next) == null) {
pred.next = new Node<K,V>(hash, key,
value, null);
break;
}
}
}
//如果是树
else if (f instanceof TreeBin) {
Node<K,V> p;
binCount = 2;
if ((p = ((TreeBin<K,V>)f).putTreeVal(hash, key,
value)) != null) {
oldVal = p.val;
if (!onlyIfAbsent)
p.val = value;
}
}
}
}
//如果链表数量大于TREEIFY_THRESHOLD（8），开始执行转换树
if (binCount != 0) {
if (binCount >= TREEIFY_THRESHOLD)
treeifyBin(tab, i);
if (oldVal != null)
return oldVal;
break;
}
}
}
//进行元素数量统计，和决定是否扩容
addCount(1L, binCount);
return null;
}
下面看下第一次put初始化数组的源码
//第一次put，初始化数组
private final Node<K,V>[] initTable() {
Node<K,V>[] tab; int sc;
while ((tab = table) == null || tab.length == 0) {
//如果已经有别的线程在初始化了，这里等待一下
if ((sc = sizeCtl) < 0)
Thread.yield(); // lost initialization race; just spin
//-1 表示正在初始化
else if (U.compareAndSwapInt(this, SIZECTL, sc, -1)) {
try {
if ((tab = table) == null || tab.length == 0) {
//初始化数组的容量
int n = (sc > 0) ? sc : DEFAULT_CAPACITY;
@SuppressWarnings("unchecked")
Node<K,V>[] nt = (Node<K,V>[])new Node<?,?>[n];
table = tab = nt;
//设置下次扩容的阙值 n * 0.75
sc = n - (n >>> 2);
}
} finally {
sizeCtl = sc;
}
break;
}
}
return tab;
}
在put的结束后 执行了一个addCount函数,主要用于统计数量以及决定是否需要扩容
private final void addCount(long x, int check) {
CounterCell[] as; long b, s;
//当counterCells已初始化，或者cas修改baseCount失败
if ((as = counterCells) != null ||
!U.compareAndSwapLong(this, BASECOUNT, b = baseCount, s = b + x)) {
CounterCell a; long v; int m;
boolean uncontended = true;
//当counterCells未初始化 或者 counterCells数据相应的CounterCell为null 或者
//对相应对CounterCell的value值进行cas修改失败
if (as == null || (m = as.length - 1) < 0 ||
(a = as[ThreadLocalRandom.getProbe() & m]) == null ||
!(uncontended =
U.compareAndSwapLong(a, CELLVALUE, v = a.value, v + x))) {
//参考LongAdder的设计，比AtomicLong更高效
fullAddCount(x, uncontended);
return;
}
if (check <= 1)
return;
s = sumCount();
}
//当check>0说明新put的对象是在链表或者红黑树上，检查是否要扩容
if (check >= 0) {
Node<K,V>[] tab, nt; int n, sc;
//当判断需要扩容了
while (s >= (long)(sc = sizeCtl) && (tab = table) != null &&
(n = tab.length) < MAXIMUM_CAPACITY) {
//该数值是一个根据table长度计算出来的标示位，用来验证扩容是否结束
int rs = resizeStamp(n);
//如果为负数 说明已经有线程在扩容了
if (sc < 0) {
//如果发现扩容结束了
if ((sc >>> RESIZE_STAMP_SHIFT) != rs || sc == rs + 1 ||
sc == rs + MAX_RESIZERS || (nt = nextTable) == null ||
transferIndex <= 0)
break;
//用cas修改线程数，进入扩容阶段
if (U.compareAndSwapInt(this, SIZECTL, sc, sc + 1))
transfer(tab, nt);
}
//rs左移16位，将验证扩容是否结束的标示移动到高16位，低16位用于存储参与扩容的线程数
//从2开始计数，因为1表示初始化
//因为最高位是1，所以数值整体为负数
else if (U.compareAndSwapInt(this, SIZECTL, sc,
(rs << RESIZE_STAMP_SHIFT) + 2))
transfer(tab, null);
s = sumCount();
}
}
}
下面看下扩容的思路,这一块是concurrentHashMap的精华之处
重要的参数
//cpu个数
//根据stride = (NCPU > 1) ? (n >>> 3) / NCPU : n 计算块数(bound)
//把旧的数组分成数块,每一块由一个线程负责转移数据
static final int NCPU = Runtime.getRuntime().availableProcessors();
//旧的数组
transient volatile Node<K,V>[] table;
//扩容的时候创建新的数组,大小是旧数组2倍
private transient volatile Node<K,V>[] nextTable;
//块的边界标示,当transferIndex<=0的时候标示所有的块已经分配完毕
private transient volatile int transferIndex;
//当数组某个位置的节点全部转移完毕,这个位置将会设置成ForwardingNode
static final class ForwardingNode<K,V> extends Node<K,V>
来一个图示,为了简化,所有的数值都设在假设的基础上
旧的数组容量为8
根据计算分成4块,每块有俩个节点需要处理
有3个线程参与了扩容
每来一个线程,就会分配一个块让线程进行处理,直到所有的块分配完毕,分配的顺序是从队尾开始 也就是从transferIndex = n 开始, 到 transferIndex<=0结束
当一个线程完成任务后,继续分配下一个块,直到所有的块分配结束
相应源码
private final void transfer(Node<K,V>[] tab, Node<K,V>[] nextTab) {
int n = tab.length, stride;
//NCPU是处理器数量，根据处理器数量来设置每个线程要处理的块（多个节点）
if ((stride = (NCPU > 1) ? (n >>> 3) / NCPU : n) < MIN_TRANSFER_STRIDE)
stride = MIN_TRANSFER_STRIDE; // subdivide range
if (nextTab == null) { // initiating
try {
//扩容俩倍
@SuppressWarnings("unchecked")
Node<K,V>[] nt = (Node<K,V>[])new Node<?,?>[n << 1];
nextTab = nt;
} catch (Throwable ex) { // try to cope with OOME
sizeCtl = Integer.MAX_VALUE;
return;
}
nextTable = nextTab;
transferIndex = n;
}
int nextn = nextTab.length;
//特殊节点 hash值为MOVE -1，当put的时候遇到该节点表示正在扩容
ForwardingNode<K,V> fwd = new ForwardingNode<K,V>(nextTab);
boolean advance = true;
boolean finishing = false; // to ensure sweep before committing nextTab
for (int i = 0, bound = 0;;) {
Node<K,V> f; int fh;
while (advance) {
int nextIndex, nextBound;
if (--i >= bound || finishing)
advance = false;
else if ((nextIndex = transferIndex) <= 0) {
i = -1;
advance = false;
}
//从原列表最后一位开始给每个线程划分块，让他们并发转移数组上的节点
else if (U.compareAndSwapInt
(this, TRANSFERINDEX, nextIndex,
nextBound = (nextIndex > stride ?
nextIndex - stride : 0))) {
bound = nextBound;
i = nextIndex - 1;
advance = false;
}
}
//运行到这里，说明所有的块已经被分配完了
if (i < 0 || i >= n || i + n >= nextn) {
int sc;
//检查是否所有任务已完成，如果完成了，跟新table,sizeCtl
if (finishing) {
nextTable = null;
table = nextTab;
sizeCtl = (n << 1) - (n >>> 1);
return;
}
//将参与扩容的线程减1
if (U.compareAndSwapInt(this, SIZECTL, sc = sizeCtl, sc - 1)) {
//如果还有其他的线程未完成任务，则本线程退出
if ((sc - 2) != resizeStamp(n) << RESIZE_STAMP_SHIFT)
return;
//到这里说明应该是最后一个完成任务的线程了，设置finishing
finishing = advance = true;
i = n; // recheck before commit
}
}
else if ((f = tabAt(tab, i)) == null)
advance = casTabAt(tab, i, null, fwd);
else if ((fh = f.hash) == MOVED)
advance = true; // already processed
else {
//这里每个线程开始根据上面划分的块，处理块中的多个节点
//处理方式和hashMap一样，分成lowNode ，highNode俩部分处理，
//根据 （hash & 原数组长度） 判断， 如果为0则归属lowNode(保持原位置index不动)
//否则归属highNode（位置移到 n + index）
synchronized (f) {
if (tabAt(tab, i) == f) {
Node<K,V> ln, hn;
if (fh >= 0) {
int runBit = fh & n;
Node<K,V> lastRun = f;
for (Node<K,V> p = f.next; p != null; p = p.next) {
int b = p.hash & n;
if (b != runBit) {
runBit = b;
lastRun = p;
}
}
if (runBit == 0) {
ln = lastRun;
hn = null;
}
else {
hn = lastRun;
ln = null;
}
for (Node<K,V> p = f; p != lastRun; p = p.next) {
int ph = p.hash; K pk = p.key; V pv = p.val;
if ((ph & n) == 0)
ln = new Node<K,V>(ph, pk, pv, ln);
else
hn = new Node<K,V>(ph, pk, pv, hn);
}
setTabAt(nextTab, i, ln);
setTabAt(nextTab, i + n, hn);
//处理完之后在原位置插入特殊节点ForwardingNode，为了告诉put操作
//该处已被扩容，请稍后，否则put是可以正常操作的，换句话说put和transfer可以并发
setTabAt(tab, i, fwd);
advance = true;
}
else if (f instanceof TreeBin) {
TreeBin<K,V> t = (TreeBin<K,V>)f;
TreeNode<K,V> lo = null, loTail = null;
TreeNode<K,V> hi = null, hiTail = null;
int lc = 0, hc = 0;
for (Node<K,V> e = t.first; e != null; e = e.next) {
int h = e.hash;
TreeNode<K,V> p = new TreeNode<K,V>
(h, e.key, e.val, null, null);
if ((h & n) == 0) {
if ((p.prev = loTail) == null)
lo = p;
else
loTail.next = p;
loTail = p;
++lc;
}
else {
if ((p.prev = hiTail) == null)
hi = p;
else
hiTail.next = p;
hiTail = p;
++hc;
}
}
ln = (lc <= UNTREEIFY_THRESHOLD) ? untreeify(lo) :
(hc != 0) ? new TreeBin<K,V>(lo) : t;
hn = (hc <= UNTREEIFY_THRESHOLD) ? untreeify(hi) :
(lc != 0) ? new TreeBin<K,V>(hi) : t;
setTabAt(nextTab, i, ln);
setTabAt(nextTab, i + n, hn);
setTabAt(tab, i, fwd);
advance = true;
}
}
}
}
}
}
最后讲一讲size吧,官方推荐使用mappingCount,因为ConcurrentHashMap中包含的元素数量也许会超过int的最大值
public long mappingCount() {
long n = sumCount();
return (n < 0L) ? 0L : n; // ignore transient negative values
}
重点在sumCount 函数上
final long sumCount() {
CounterCell[] as = counterCells; CounterCell a;
long sum = baseCount;
if (as != null) {
for (int i = 0; i < as.length; ++i) {
if ((a = as[i]) != null)
sum += a.value;
}
}
return sum;
}
最终的统计为baseCount 加上 CounterCell[]数组每一个元素的value值,继续看CounterCell
@sun.misc.Contended static final class CounterCell {
volatile long value;
CounterCell(long x) { value = x; }
}
可以看出CounterCell只包含了一个value, 并且用到了@sun.misc.Contended
Contended的具体含义可以看@sun.misc.Contended 解决伪共享问题
还是用图示来说明
多个线程运行的时候,先通过cas改变baseCount值,如果成功,则该线程退出(这里和AtomicLong原理一样)
CounterCell[]数组的长度等于cpu的数量,上一步竞争baseCount失败的线程通过一定的算法用cas修改相应CounterCell的值,最大程度上避免了线程间的竞争
最终 size = baseCount + CounterCell1.value + CounterCell2.value
实际上不要盲目的相信cas带来的性能提升,cas在大量并发的情况下修改同一个变量会导致很严重的竞争和cpu资源消耗,反而降低性能,所以size的设计并没有使用AtomicLong
cas + 分段处理 才是王道