netty5学习笔记-内存池2-PoolSubpage

前面我们讲过了负责内存分配的类PoolChunk，它最小的分配单位为page, 而默认的page size为8K。在实际的应用中，会存在很多小块内存的分配，如果小块内存也占用一个page明显很浪费，针对这种情况，可以将8K的page拆成更小的块，这已经超出chunk的管理范围了，这个时候就出现了PoolSubpage, 其实PoolSubpage做的事情和PoolChunk做的事情类似，只是PoolSubpage管理的是更小的一段内存。

如上图，PoolSubpage将chunk中的一个page再次划分，分成相同大小的N份,这里暂且叫Element，通过对每一个Element的标记与清理标记来进行内存的分配与释放。

 

final class PoolSubpage<T> {
    private final int memoryMapIdx; // 当前page在chunk中的id
    private final int runOffset;    // 当前page在chunk.memory的偏移量
    private final int pageSize;	    // page大小
    private final long[] bitmap;    // 这个bitmap的实现和BitSet相同，通过对每一个二进制位的标记来修改一段内存的占用状态
	
    PoolSubpage<T> prev;	    // 前一个节点，这里要配合PoolArena看，后面再说
    PoolSubpage<T> next;

    boolean doNotDestroy;	    // 表示该page在使用中，不能被清除
    int elemSize;		    // 该page切分后每一段的大小
    private int maxNumElems;	    // 该page包含的段数量
    private int bitmapLength;	    // bitmap需要用到的长度
    private int nextAvail;	    // 下一个可用的位置
    private int numAvail;	    // 可用的段数量
	
    PoolSubpage(PoolChunk<T> chunk, int memoryMapIdx, int runOffset, int pageSize, int elemSize) {
        this.chunk = chunk;
        this.memoryMapIdx = memoryMapIdx;
        this.runOffset = runOffset;
        this.pageSize = pageSize;
	// 这里为什么是16,64两个数字呢，elemSize是经过normCapacity处理的数字，最小值为16；
        // 所以一个page最多可能被分成pageSize/16段内存，而一个long可以表示64个内存段的状态；
        // 因此最多需要pageSize/16/64个元素就能保证所有段的状态都可以管理
        bitmap = new long[pageSize >>> 10]; // pageSize / 16 / 64
        init(elemSize);
    }

    // 这个方法有两种情况下会调用
    // 1、类初始化时
    // 2、整个subpage被回收后重新分配
    void init(int elemSize) {
  doNotDestroy = true;
 this.elemSize = elemSize;
 if (elemSize != 0) {
 maxNumElems = numAvail = pageSize / elemSize;
 nextAvail = 0;
 bitmapLength = maxNumElems >>> 6;
 if ((maxNumElems & 63) != 0) {
 bitmapLength ++;
 }
   
   // 用来表示段状态的值全部需要被清零
 for (int i = 0; i < bitmapLength; i ++) {
 bitmap[i] = 0;
 }
 }
        
 addToPool();
 }

    // chunk在分配page时，如果是8K以下的段则交给subpage管理，然而chunk并没有将subpage暴露给外部，subpage只好自谋生路，
    // 在初始化或重新分配时将自己加入到chunk.arena的pool中，通过arena进行后续的管理（包括复用subpage上的其他element，arena目前还没讲到，后面会再提到）
    private void addToPool() {
 PoolSubpage<T> head = chunk.arena.findSubpagePoolHead(elemSize);
 assert prev == null && next == null;
 prev = head;
 next = head.next;
 next.prev = this;
 head.next = this;
 }

 

下面看看subpage是如何进行内部的内存分配的：

 

 

    // 分配一个可用的element并标记
    long allocate() {
        if (elemSize == 0) {
            return toHandle(0);
        }

	// 没有可用的内存或者已经被销毁
        if (numAvail == 0 || !doNotDestroy) {
            return -1;
        }
	// 找到当前page中分配的段的index
        final int bitmapIdx = getNextAvail();
        // 算出对应index的标志位在数组中的位置q
	int q = bitmapIdx >>> 6;
	// 将>=64的那一部分二进制抹掉得到一个小于64的数
        int r = bitmapIdx & 63;
        assert (bitmap[q] >>> r & 1) == 0;
	// 对应位置值设置为1表示当前element已经被分配， 这几句看起来很郁闷，转换成我们常见的BitSet，其实就是bitSet.set(q, true)
        bitmap[q] |= 1L << r;

	// 如果当前page没有可用的内存则从arena的pool中移除
        if (-- numAvail == 0) {
            removeFromPool();
        }

        return toHandle(bitmapIdx);
    }

    // 释放指定element
    boolean free(int bitmapIdx) {
 if (elemSize == 0) {
 return true;
 }
  // 下面这几句转换成我们常见的BitSet，其实就是bitSet.set(q, false)
 int q = bitmapIdx >>> 6;
 int r = bitmapIdx & 63;
 assert (bitmap[q] >>> r & 1) != 0;
 bitmap[q] ^= 1L << r;
  // 将这个index设置为可用, 下次分配时会直接分配这个位置的内存
 setNextAvail(bitmapIdx);
        // numAvail=0说明之前已经从arena的pool中移除了，现在变回可用，则再次交给arena管理
 if (numAvail ++ == 0) {
 addToPool();
 return true;
 }

 if (numAvail != maxNumElems) {
 return true;
 } else {
            // 注意这里的特殊处理，如果arena的pool中没有可用的subpage，则保留，否则将其从pool中移除。
            // 这样尽可能的保证arena分配小内存时能直接从pool中取，而不用再到chunk中去获取。
 // Subpage not in use (numAvail == maxNumElems)
 if (prev == next) {
 // Do not remove if this subpage is the only one left in the pool.
 return true;
 }

 // Remove this subpage from the pool if there are other subpages left in the pool.
 doNotDestroy = false;
 removeFromPool();
 return false;
 }
 }

前面的代码忽略了查找可用element的index的分析，虽然很简单，还是忍不住贴出来，省得自己后面记不清了。

 

 

private int getNextAvail() {
        // nextAvail>=0时，表示明确的知道这个element未被分配，此时直接返回就可以了
        // >=0 有两种情况：1、刚初始化；2、有element被释放且还未被分配
        // 每次分配完成nextAvail就被置为-1，因为这个时候除非计算一次，否则无法知道下一个可用位置在哪
       int nextAvail = this.nextAvail;
        if (nextAvail >= 0) {
            this.nextAvail = -1;
            return nextAvail;
        }

       return findNextAvail();
    }

    private int findNextAvail() {
        // 没有明确的可用位置时则挨个查找
        final long[] bitmap = this.bitmap;
        final int bitmapLength = this.bitmapLength;
        for (int i = 0; i < bitmapLength; i ++) {
            long bits = bitmap[i];
            // 说明这个位置段中还有可以分配的element
           if (~bits != 0) {
                return findNextAvail0(i, bits);
            }
        }
        return -1;
    }

    private int findNextAvail0(int i, long bits) {
        final int maxNumElems = this.maxNumElems;
        final int baseVal = i << 6;

        for (int j = 0; j < 64; j ++) {
             // 如果该位置的值为0，表示还未分配
            if ((bits & 1) == 0) {
                int val = baseVal | j;
                if (val < maxNumElems) {
                    return val;
                } else {
                    break;
                }
            }
            bits >>>= 1;
        }
        return -1;
    }

下面我们再总结下，前文讲到chunk进行内存分配时会将小块内存(<8K)交给PageSubpage管理，PageSubpage将一个完整的page再次细分成多个element。这里带来了一个新问题，chunk并没有暴露出PageSubpage，所以PageSubpage只好自寻出路，越过chunk将自己交给chunk的管理者arena来管理。其实并不是chunk不想管理subpage, 而是通过将subpage前置到arena中，小内存的分配性能更高。而这里说到的arena是内存分配的一个更高的管理者， 好吧，填了一个坑又挖出来一个坑，到底什么时候才能了解内存池的全貌！？不要急，先留下几个问题，让我们带着问题来进行后面的分析：

 

1、 chunk管理着一段大小为64M(默认情况下）的内存，如果超过64M应该如何处理，是不是需要一个类来管理多个chunk? 前面提到的arena是这个管理类吗？（虽然前面确实是有chunk.arena可以供我们大胆猜测）

2、Poolsubpage将自己交给arena管理，但subpage的element size存在很多可能的值，且其内部可能会被瓜分得七零八落的，arena是如何高效的处理，使其可以更快的定位到可分配足够内存的subpage的？