STL源码:空间配置器(三)内存的配置和释放、SGI的两级适配器

空间的配置与释放std::alloc

        之前了解了内存配置后的对象构造和内存释放前的对象析构行为,现在分析内存配置和释放。

对象构造前的空间配置和对象析构后的空间释放,由负责,SGI对此的设计哲学如下:

        1. 向 system heap 要求空间。

        2. 考虑多线程(multi-threads)状态。

        3. 考虑内存不足时的应变措施。

        4. 考虑过多“小型区块”可能造成的内存碎片(fragment)问题。

        考虑到小型区块所可能造成的内存破碎问题,SGI设计了双层级配置器,第一级配置器直接使用 malloc() 和 free() ,第二级配置器则视情况采用不同的策略:当配置区块超过 128 bytes时,视之为“足够大”,便调用第一级配置器;当配置区块小于 128 bytes时,视之为“过小”,为了降低额外负担,便采用复杂的 memory pool 整理方式,而不再求助于第一级配置器。

        在SGI的整个设计究竟只开放第一级配置器,或是同时开放第二级配置器,取决于 __USE_MALLOC 是否被定义。

#ifdef  __USE_MALLOC
...
typedef __malloc_alloc_template<0>  malloc_alloc;
typedef malloc_alloc  alloc;  // 令 alloc 为第一级配置器
#else
...
// 令 alloc 为第二级配置器
typedef __default_alloc_template<__NODE_ALLOCATOR_THREADS, 0>  alloc;
#endif /* ! __USE_MALLOC */
         __malloc_alloc_template 就是第一级配置器,__default_alloc_template 就是第二级配置器。SGI STL并未定义 __USE_MALLOC,所以SGI使用第二级配置器。


        无论alloc被定义为第一级或第二级配置器, SGI 还为 alloc 包装了一个接口如下,使配置器的接口能够符合 STL 规格,其内部四个成员函数其实都是单纯的转调用,调用传递给配置器的成员函数。SGI STL容器全部使用这个 simple_alloc 接口:

template
class simple_alloc {

public:
    static T *allocate(size_t n)
                { return 0 == n? 0 : (T*) Alloc::allocate(n * sizeof (T)); }
    static T *allocate(void)
                { return (T*) Alloc::allocate(sizeof (T)); }
    static void deallocate(T *p, size_t n)
                { if (0 != n) Alloc::deallocate(p, n * sizeof (T)); }
    static void deallocate(T *p)
                { Alloc::deallocate(p, sizeof (T)); }
};

        SGI STL容器全部使用这个simple_alloc接口,例如:

template     //缺省使用alloc为配置器
class vector {
   protected:
        //专属之空间配置器,每次配置一个元素大小
        typedef simple_alloc data_allocator;

         void deallocate() {
            if (...)
                 data_allocator::deallocate(start, end_of_storate - start);
         }
    ...
};

第一级配置器__malloc_alloc_template

// 注意,无"template型别参数"。至于"非型别参数"inst,则完全没派上用场
template 
class __malloc_alloc_template {

private:
// 函数指针,以下函数将用来处理内存不足的情况
//用于设置__malloc_alloc_oom_handler情况下循环分配内存,知道成功为止
// oom : out of memory
static void *oom_malloc(size_t);

static void *oom_realloc(void *, size_t);

//如果编译器支持模板静态成员,则使用错误处理函数,
//类似C++的set_new_handler(),默认值为0,
//如果不设置,则内存分配失败直接__THROW_BAD_ALLOC
 #ifndef __STL_STATIC_TEMPLATE_MEMBER_BUG
    static void (* __malloc_alloc_oom_handler)();
#endif

public:

//分配指定大小的内存,如果分配失败,进入循环分配阶段
//循环分配前提是保证正确设置了__malloc_alloc_oom_handler
static void * allocate(size_t n)
{
    void *result = malloc(n); // 第一级配置器直接使用 malloc()
    // 以下无法满足需求时,改用 oom_malloc()
    if (0 == result) result = oom_malloc(n);
    return result;
}

//后面的size_t是为了兼容operator delete
static void deallocate(void *p, size_t /* n */)
{
    free(p); // 第一级配置器直接使用 free()
}

//重新分配内存大小,第二个参数是为了兼容operator new
static void * reallocate(void *p, size_t /* old_sz */, size_t new_sz)
{
    void * result = realloc(p, new_sz); // 第一级配置器直接使用 realloc()
    // 以下无法满足需求时,改用 oom_realloc()
    if (0 == result) result = oom_realloc(p, new_sz);
    return result;
}

// 以下仿真C++的 set_new_handler()。换句话说,可以通过它
// 指定你自己的 out-of-memory handler
//设置错误处理函数,返回原来函数指针,不是C++标准规定的接口
static void (* set_malloc_handler(void (*f)()))()
{
    void (* old)() = __malloc_alloc_oom_handler;
    __malloc_alloc_oom_handler = f;
    return(old);
}

};

// malloc_alloc out-of-memory handling
#ifndef __STL_STATIC_TEMPLATE_MEMBER_BUG
// 初值为 0。有待客端设定
template 
void (* __malloc_alloc_template::__malloc_alloc_oom_handler)() = 0;
#endif

 //如果设置了__malloc_alloc_oom_handler,则首先执行错误处理,然后循环分配直到成功
//如果未设置,__THROW_BAD_ALLOC
template 
void * __malloc_alloc_template::oom_malloc(size_t n)
{
    void (* my_malloc_handler)();
    void *result;

    for (;;) { // 不断尝试释放、配置、再释放、再配置...
        my_malloc_handler = __malloc_alloc_oom_handler;
        if (0 == my_malloc_handler) { __THROW_BAD_ALLOC; }
        (*my_malloc_handler)(); // 调用处理例程,企图释放内存
        result = malloc(n);     // 再次尝试配置内存
        if (result) return(result);
    }
}

template 
void * __malloc_alloc_template::oom_realloc(void *p, size_t n)
{
    void (* my_malloc_handler)();
    void *result;

    for (;;) { // 不断尝试释放、配置、再释放、再配置...
        my_malloc_handler = __malloc_alloc_oom_handler;
        if (0 == my_malloc_handler) { __THROW_BAD_ALLOC; }
        (*my_malloc_handler)(); // 调用处理例程,企图释放内存
        result = realloc(p, n); // 再次尝试配置内存
        if (result) return(result);
    }
}

// 注意,以下直接将参数 inst 指定为 0
typedef __malloc_alloc_template<0> malloc_alloc;

         
   第一级配置器以 malloc(),free(),realloc()等 C 函数执行实际的内存配置、释放、重配置操作,并实现出类似 C++ new-handler 的机制。(所谓 
  C++ new handler 机制是,你可以要求系统在内存配置需求无法被满足时,调用一个你所指定的函数。换句话说,一旦 ::operator new 无法完成任务,在丢出 std::bad_alloc 异常状态之前,会先调用由客端指定的处理例程。) 
  

        使用“类似C++ new-handler机制”而不是直接运用该机制,因为它并非使用::operator new 来配置内存。

        SGI第一级配置器的allocate()和realloc()都是在调用malloc()和realloc()不成功后,改调用oom_malloc() 和oom_realloc()。后两者都有内循环,不断调用“内存不足处理例程”,期望某次调用后,获得足够的内存而圆满完成任务。

第二级配置器 __default_alloc_template

         第二级配置器多了一些机制,避免太多小额区块造成内存的碎片。小额区块带来的其实不仅是内存碎片,配置时的额外负担也是一个大问题。额外负担永远无法避免,毕竟系统要靠这多出来的空间来管理内存。但是区块越小,额外负担所占的比例越大,越显得浪费。如下图。

STL源码:空间配置器(三)内存的配置和释放、SGI的两级适配器_第1张图片

        SGI第二级配置器做法是,如果区块够大,超过128bytes时,将移交第一级配置器处理。当小于128bytes,则以内存池管理,此法又称为次级配置:每次配置一大块内存,并维护对应之自由链表free-lists。下次若有相同大小的内存需求,直接从free-lists中拨出。如果客端释放小额块区,就由配置器回收到free-lists中——是的,别忘了,配置器除了负责配置,还负责回收。为了方便管理,SGI第二级配置器主动将任何小额块区的内存需求量上调至8的倍数(如,客端要求30bytes,则自动调整为32bytes),并维护16个free-lists,各自分别管理大小为8、16、24、32、……、120、128bytes的小额块区

这种做法有两个优点:        (1)小对象的快速分配。小对象是从内存池分配的,这个内存池是系统调用一次malloc分配一块足够大的区域给程序备用,当内存池耗尽时再向系统申请一块新的区域,整个过程类似于批发和零售,起先是由allocator向总经商批发一定量的货物,然后零售给用户,与每次都总经商要一个货物再零售给用户的过程相比,显然是快捷了。当然,这里的一个问题时,内存池会带来一些内存的浪费,比如当只需分配一个小对象时,为了这个小对象可能要申请一大块的内存池,但这个浪费还是值得的,况且这种情况在实际应用中也并不多见。        (2)避免了内存碎片的生成。程序中的小对象的分配极易造成内存碎片,给操作系统的内存管理带来了很大压力,系统中碎片的增多不但会影响内存分配的速度,而且会极大地降低内存的利用率。以内存池组织小对象的内存,从系统的角度看,只是一大块内存池,看不到小对象内存的分配和释放。

        free-lists的节点结构如下:

  union obj {
        union obj * free_list_link;
        char client_data[1];    /* The client sees this. */
  };
注意:

        为了维护链表,每个节点需要额外的指针指向下一个节点,这不就造成了额外负担吗?

        答:使得,但是注意上述obj所用的是union,由于union之故,从其第一个字段观之,obj可被视为一个指针,指向相同形式的另一个obj;从其第二字段观之,obj可被视为一个指针,指向实际区块。一物二用的结果是,不会为了维护链表所必须的指针而造成内存的另一种浪费。该技巧在强型语言如java中行不通,但在非强型语言如C++中很普遍。

STL源码:空间配置器(三)内存的配置和释放、SGI的两级适配器_第2张图片

// 以下是第二级配置器
// 注意,无"template型别参数",且第二参数完全没派上用场
// 第一参数用于多线程环境
template 
class __default_alloc_template {

private:
  // Really we should use static const int x = N
  // instead of enum { x = N }, but few compilers accept the former.
# ifndef __SUNPRO_CC
    enum {__ALIGN = 8};                          // 小型区块的上调边界
    enum {__MAX_BYTES = 128};                    // 小型区块的上限
    enum {__NFREELISTS = __MAX_BYTES/__ALIGN};   // free-lists 个数
# endif

// ROUND_UP()将 bytes 上调至 8 的倍数
// 向上舍入操作  
// 解释一下, __ALIGN - 1指明的是实际内存对齐的粒度  
// 例如__ALIGN = 8时, 我们只需要7就可以实际表示8个数(0~7)  
// 那么~(__ALIGN - 1)就是进行舍入的粒度  
// 我们将(bytes) + __ALIGN-1)就是先进行进位, 然后截断  
// 这就保证了我是向上舍入的  
// 例如byte = 100, __ALIGN = 8的情况  
// ~(__ALIGN - 1) = (1 000)B  
// ((bytes) + __ALIGN-1) = (1 101 011)B  
// (((bytes) + __ALIGN-1) & ~(__ALIGN - 1)) = (1 101 000 )B = (104)D  
// 104 / 8 = 13, 这就实现了向上舍入  
// 对于byte刚好满足内存对齐的情况下, 结果保持byte大小不变  
// 记得《Hacker's Delight》上面有相关的计算  
// 这个表达式与下面给出的等价  
// ((((bytes) + _ALIGN - 1) * _ALIGN) / _ALIGN)  
// 但是SGI STL使用的方法效率非常高  
 static size_t ROUND_UP(size_t bytes) {
        return (((bytes) + __ALIGN-1) & ~(__ALIGN - 1));
  }


__PRIVATE:
// 管理内存链表用   // 为了尽最大可能减少内存的使用, 这里使用一个union  
// 如果使用第一个成员, 则指向另一个相同的union obj  
// 而如果使用第二个成员, 则指向实际的内存区域  
// 这样就实现了链表结点只使用一个指针的大小空间, 却能同时做索引和指向内存区域  
// 这个技巧性非常强, 值得学习  
  union obj { // free-lists的节点构造
        union obj * free_list_link;
        char client_data[1];    /* The client sees this. */
  };
private:
# ifdef __SUNPRO_CC
    static obj * __VOLATILE free_list[]; 
        // Specifying a size results in duplicate def for 4.1
# else
	// 16个free-lists,对应的内存链容量为8、16、24、……、128
    static obj * __VOLATILE free_list[__NFREELISTS]; 
# endif
	// 以下函数根据区块大小,决定使用第 n 号free-list。n从0起算
	static  size_t FREELIST_INDEX(size_t bytes) {
		return (((bytes) + __ALIGN-1)/__ALIGN - 1);
	}

	// 返回一个大小为 n 的对象,并可能加入大小为 n 的其他区块到 free list
  	static void *refill(size_t n);
	// 配置一大块空间,可容纳 nobjs 个大小为"size"的区块
	// 如果配置 nobjs 个区块有所不便,nobjs可能会降低
	static char *chunk_alloc(size_t size, int &nobjs);

  	// Chunk allocation state.
  	static char *start_free; // 内存池起始位置。只在 chunk_alloc() 中变化
  	static char *end_free;   // 内存池结束位置。只在 chunk_alloc() 中变化
  	static size_t heap_size; //已经在堆上分配的空间大小

// 下面三个条件编译给多线程条件下使用锁提供必要支持
# ifdef __STL_SGI_THREADS
    static volatile unsigned long __node_allocator_lock;
    static void __lock(volatile unsigned long *); 
    static inline void __unlock(volatile unsigned long *);
# endif

# ifdef __STL_PTHREADS
    static pthread_mutex_t __node_allocator_lock;
# endif

# ifdef __STL_WIN32THREADS
    static CRITICAL_SECTION __node_allocator_lock;
    static bool __node_allocator_lock_initialized;

  public:
    __default_alloc_template() {
	// This assumes the first constructor is called before threads
	// are started.
        if (!__node_allocator_lock_initialized) {
            InitializeCriticalSection(&__node_allocator_lock);
            __node_allocator_lock_initialized = true;
        }
    }
  private:
# endif

    // 用于多线程环境下锁定操作
    class lock {
        public:
            lock() { __NODE_ALLOCATOR_LOCK; }
            ~lock() { __NODE_ALLOCATOR_UNLOCK; }
    };
    friend class lock;

public:
  static void * allocate(size_t n);
  static void deallocate(void *p, size_t n);
  static void * reallocate(void *p, size_t old_sz, size_t new_sz);
} ;

// 以下是 static data member 的定义与初值设定
template 
char *__default_alloc_template::start_free = 0;

template 
char *__default_alloc_template::end_free = 0;

template 
size_t __default_alloc_template::heap_size = 0;

template 
__default_alloc_template::obj * __VOLATILE
__default_alloc_template ::free_list[
# ifdef __SUNPRO_CC
    __NFREELISTS
# else
    __default_alloc_template::__NFREELISTS
# endif
] = {0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, };


空间配置函数 allocate()

        此函数首先判断区块大小,大于 128 bytes 就调用第一级配置器,小于 128 bytes 就检查对应的 free list。如果 free list 之内有可用的区块,就直接拿来用,如果没有可用区块,就将区块大小上调至 8 倍数边界,然后调用 refill(),准备为 free list 重新填充空间。

 /* n must be > 0 */
static void * allocate(size_t n)
{
    obj * __VOLATILE * my_free_list;
    obj * __RESTRICT result;

    // 大于128 就调用第一级配置器
    if (n > (size_t) __MAX_BYTES) {
        return(malloc_alloc::allocate(n));
    }
    // 寻找 16 个free lists中适当的一个
    my_free_list = free_list + FREELIST_INDEX(n);
    // Acquire the lock here with a constructor call.
    // This ensures that it is released in exit or during stack
    // unwinding.
    #ifndef _NOTHREADS
    /*REFERENCED*/
    lock lock_instance;
    #endif
    result = *my_free_list;
    if (result == 0) {
        // 没找到可用的 free list,准备重新填充 free list
        void *r = refill(ROUND_UP(n));
        return r;
    }
    // 调整 free list
    *my_free_list = result -> free_list_link;
    return (result);
};
STL源码:空间配置器(三)内存的配置和释放、SGI的两级适配器_第3张图片

空间释放函数deallocate()

该函数首先判断区块大小,大于 128 bytes 就调用第一级配置器,小于 128 bytes 就找出对应的 free list,将区块回收。

  	/* p 不可以是 0 */
static void deallocate(void *p, size_t n)
{
	obj *q = (obj *)p;
    	obj * __VOLATILE * my_free_list;

	// 大于 128 就调用第一级配置器
    	 if (n > (size_t) __MAX_BYTES) {
                malloc_alloc::deallocate(p, n);
        	return;
    	}

	// 寻找对应的 free list
    	my_free_list = free_list + FREELIST_INDEX(n);
    	// acquire lock
        #ifndef _NOTHREADS
        /*REFERENCED*/
        lock lock_instance;
        #endif /* _NOTHREADS */

	// 调整 free list,回收区块
    	q -> free_list_link = *my_free_list;
    	*my_free_list = q;
    	// lock is released here
}
STL源码:空间配置器(三)内存的配置和释放、SGI的两级适配器_第4张图片


重新填充 free lists

          前面的 allocate(),当它发现 free list 中没有可用区块时,就调用 refille(),准备为 free list 重新填充空间。新的空间将取自内存池(经由 chunk_alloc()完成)。缺省取得 20 个新节点(新区块),但万一内存池空间不足,获得的节点数(区块数)可能小于 20。

// 返回一个大小为 n 的对象,并且有时候会为适当的 free list 增加节点
// 假设 n 已经适当上调至 8 的倍数
/* We hold the allocation lock. */
template 
void* __default_alloc_template::refill(size_t n)
{
    int nobjs = 20;
    // 调用 chunk_alloc(),尝试取得 nobjs 个区块作为 free list 的新节点
    // 注意参数 nobjs 是 pass by reference
    char * chunk = chunk_alloc(n, nobjs);
    obj * __VOLATILE * my_free_list;
    obj * result;
    obj * current_obj, * next_obj;
    int i;

    // 如果只获得一个区块,这个区块就分配给调用者用,free list无新节点
    if (1 == nobjs) return(chunk);
    // 否则准备调整 free list,纳入新节点
    my_free_list = free_list + FREELIST_INDEX(n);

    // 以下在 chunk 空间内建立 free list
    result = (obj *)chunk; // 这一块准备返回给客户端

    // 以下导引 free list 指向新配置的空间(取自内存池)
    *my_free_list = next_obj = (obj *)(chunk + n);
    // 以下将 free list的各节点串接起来
    for (i = 1; ; i++) { // 从 1 开始,因为第 0 个将返回给客端
        current_obj = next_obj;
        next_obj = (obj *)((char *)next_obj + n);
        if (nobjs - 1 == i) {
            current_obj -> free_list_link = 0;
            break;
        } else {
            current_obj -> free_list_link = next_obj;
        }
	}

    return(result);
}


内存池

          从内存池中取空间给 free list使用,是chunk_alloc()的工作:

// 假设 size 已经适当上调至 8 的倍数
// 注意参数 nobjs 是 pass by reference
template 
char*
__default_alloc_template::chunk_alloc(size_t size, int& nobjs)
{
    char * result;
    size_t total_bytes = size * nobjs;
    size_t bytes_left = end_free - start_free; // 内存池剩余空间

    if (bytes_left >= total_bytes) {
	// 内存池剩余空间完全满足需求量
        result = start_free;
        start_free += total_bytes;
        return(result);
    } else if (bytes_left >= size) {
    	// 内存池剩余空间不能完全满足需求量,但足够供应一个(含)以上的区块
        nobjs = bytes_left/size;
        total_bytes = size * nobjs;
        result = start_free;
        start_free += total_bytes;
        return(result);
    } else {
    	// 内存池剩余空间连一个区块的大小都无法提供
        size_t bytes_to_get = 2 * total_bytes + ROUND_UP(heap_size >> 4);
        // 以下试着让内存池中的残余零头还有利用价值(零头也应该是 8 的倍数)
        if (bytes_left > 0) {
			// 内存池内还有一些零头,先配给适当的free list
			// 首先寻找适当的 free list
            obj * __VOLATILE * my_free_list =
                        free_list + FREELIST_INDEX(bytes_left);

			// 调整 free list,将内存池中的残余空间编入
            ((obj *)start_free) -> free_list_link = *my_free_list;
            *my_free_list = (obj *)start_free;
        }

		// 配置 heap 空间,用来补充内存池
        start_free = (char *)malloc(bytes_to_get);
        if (0 == start_free) {
			// heap空间不足,malloc()失败
            int i;
            obj * __VOLATILE * my_free_list, *p;
            // Try to make do with what we have.  That can't
            // hurt.  We do not try smaller requests, since that tends
            // to result in disaster on multi-process machines.
            // 试着检视我们手上拥有的东西。这不会造成伤害。我们不打算尝试配置
            // 较小的区块,因为那在多进程(multi-process)机器上容易导致灾难
            // 以下搜寻适当的 free list
            // 所谓适当是指"尚有未用区块,且区块够大"之 free list
            for (i = size; i <= __MAX_BYTES; i += __ALIGN) {
                my_free_list = free_list + FREELIST_INDEX(i);
                p = *my_free_list;
                if (0 != p) { // free list内尚有未用区块
                	// 调整free list以释出未用区块
                    *my_free_list = p -> free_list_link;
                    start_free = (char *)p;
                    end_free = start_free + i;
		    // 递归调用自己,为了修正 nobjs
                    return(chunk_alloc(size, nobjs));
		    // 注意,任何残余零头终将被编入适当的free-list中备用
                }
            }

	end_free = 0;	// 如果出现意外,到处都没内存可用
	// 调用第一级配置器,看看 out-of-memory 机制能否尽点力
	start_free = (char *)malloc_alloc::allocate(bytes_to_get);
        // 这会导致抛出异常(exception),或内存不足的情况获得改善
        }
        heap_size += bytes_to_get;
        end_free = start_free + bytes_to_get;
	// 递归调用自己,为了修正 nobjs
        return(chunk_alloc(size, nobjs));
    }
}

        上述的chunk_alloc()函数以 end_free - start_free 来判断内存池的水量。如果水量充足,就直接调用 20 个区块返回给 free list。如果水量不足以提供 20 个区块,但还最后供应一个以上的区块,就拔出这不足 20 个区块的空间出去。这时候其 pass by reference的nobjs参数将被修改为实际能够供应的区块数。如果内存池连一个区块空间都无法供应,对客端显然无法交待,此时便需利用 malloc() 从head中配置内存,为内存池注入源头活水以应付需求。新水量的大小为需求量的两倍,再加上一个随着配置次数增加而愈来愈大的附加量。


你可能感兴趣的:(STL源码分析)