浅析Linux内存管理

http://hi.baidu.com/noah1618/blog/item/3de7342ff74346311f30898a.html

浅析Linux内存管理

原文：http://blog.csdn.net/littlehedgehog/archive/2008/08/31/2856933.aspx 看得懂一段kernel代码，但就是不太清楚这段代码在Linux中究竟有什么作用，可能很多的Linux kernel初学爱好者都对此深有感触吧。这里其实是看内核的一个绊脚石，很多的初学者对Linux其实并不是很熟悉的，或者是只是简单的在Linux环境"游历"了一番，并没有进行Linux环境下编程(或者说调用过Linux API)，这样很多人模模糊糊读懂了一大段内核代码，知其然而不知其所以然，这就是缺乏对Linux熟悉而造成的阅读障碍。可以想象，如果起先有Linux编程经验，那么他读kernel的时候尽可以做到知其然亦知其所以然。所以建议读者们，在研读内核代码的同时看看网上有关的应用编程举例，这里我重点推荐可以研读一些黑客小程序代码，短小精悍，特别适合作为系统调用参照代码。 下面这个也是从应用角度出发逐步剖析Linux内核内存管理。这对于内核程序员来说都是很简单的内容。 好，我们切入正题。 一提到内存管理，我们头脑中闪出的两个概念，就是虚拟内存，与物理内存。这两个概念主要来自于linux内核的支持。Linux在内存管理上份为两类，一类是线性区，类似于00c73000-00c88000，对应于虚拟内存，它实际上不占用实际物理内存；一级是具体的物理页面，它对应我们机器上的物理内存。 这里要提到一个很重要的概念，内存的延迟分配。Linux内核在用户申请内存的时候，只是给它分配了一个线性区（也就是虚存），并没有分配实际物理内存；只有当用户使用这块内存的时候，内核才会分配具体的物理页面给用户，这时候才占用宝贵的物理内存。内核释放物理页面是通过释放线性区，找到其所对应的物理页面，将其全部释放的过程。 char *p=malloc(2048); //这里只是分配了虚拟内存2048，并不占用实际内存。 strcpy(p,”123”) ;//分配了物理页面，虽然只是使用了3个字节，但内存还是为它分配了2048字节的物理内存。 free(p) ;//通过虚拟地址，找到其所对应的物理页面，释放物理页面，释放线性区。 我们知道用户的进程和内核是运行在不同的级别，进程与内核之间的通讯是通过系统调用来完成的。进程在申请和释放内存，主要通过brk,sbrk,mmap,unmmap这几个系统调用，传递的参数主要是对应的虚拟内存。 注意一点，在进程只能访问虚拟内存，它实际上是看不到内核物理内存的使用，这对于进程是完全透明的。 glibc内存管理器 那么我们每次调用malloc来分配一块内存，都进行相应的系统调用呢？ 答案是否定的，这里我要引入一个新的概念，glibc的内存管理器。 我们知道malloc和free等函数都是包含在glibc库里面的库函数，我们试想一下，每做一次内存操作，都要调用系统调用的话，那么程序将多么的低效。实际上glibc采用了一种批发和零售的方式来管理内存。glibc每次通过系统调用的方式申请一大块内存（虚拟内存），当进程申请内存时，glibc就从自己获得的内存中取出一块给进程。 内存管理器面临的困难 我们在写程序的时候，每次申请的内存块大小不规律，而且存在频繁的申请和释放，这样不可避免的就会产生内存碎块。而内存碎块，直接会导致大块内存申请无法满足，从而更多的占用系统资源；如果进行碎块整理的话，又会增加cpu的负荷，很多都是互相矛盾的指标，这里我就不细说了。 我们在写程序时，涉及内存时，有两个概念heap和stack。传统的说法stack的内存地址是向下增长的，heap的内存地址是向上增长的。 函数malloc和free，主要是针对heap进行操作，由程序员自主控制内存的访问。在这里heap的内存地址向上增长，这句话不完全正确。glibc对于heap内存申请大于128k的内存申请，glibc采用mmap的方式向内核申请内存，这不能保证内存地址向上增长；小于128k的则采用brk，对于它来讲是正确的。128k的阀值，可以通过glibc的库函数进行设置。 这里我先讲大块内存的申请，也即对应于mmap系统调用。 对于大块内存申请，glibc直接使用mmap系统调用为其划分出另一块虚拟地址，供进程单独使用；在该块内存释放时，使用unmmap系统调用将这块内存释放，这个过程中间不会产生内存碎块等问题。 针对小块内存的申请，在程序启动之后，进程会获得一个heap底端的地址，进程每次进行内存申请时，glibc会将堆顶向上增长来扩展内存空间，也就是我们所说的堆地址向上增长。在对这些小块内存进行操作时，便会产生内存碎块的问题。实际上brk和sbrk系统调用，就是调整heap顶地址指针。 那么heap堆的内存是什么时候释放呢？ 当glibc发现堆顶有连续的128k的空间是空闲的时候，它就会通过brk或sbrk系统调用，来调整heap顶的位置，将占用的内存返回给系统。这时，内核会通过删除相应的线性区，来释放占用的物理内存。 下面我要讲一个内存空洞的问题： 一个场景，堆顶有一块正在使用的内存，而下面有很大的连续内存已经被释放掉了，那么这块内存是否能够被释放？其对应的物理内存是否能够被释放？ 很遗憾，不能。 这也就是说，只要堆顶的部分申请内存还在占用，我在下面释放的内存再多，都不会被返回到系统中，仍然占用着物理内存。为什么会这样呢？ 这主要是与内核在处理堆的时候，过于简单，它只能通过调整堆顶指针的方式来调整调整程序占用的线性区；而又只能通过调整线性区的方式，来释放内存。所以只要堆顶不减小，占用的内存就不会释放。 代码占用的内存 数据部分占用内存，那么我们写的程序是不是也占用内存呢？ 在linux中，程序的加载，涉及到两个工具，linker 和loader。Linker主要涉及动态链接库的使用，loader主要涉及软件的加载。 1、 exec执行一个程序 2、 elf为现在非常流行的可执行文件的格式，它为程序运行划分了两个段，一个段是可以执行的代码段，它是只读，可执行；另一个段是数据段，它是可读写，不能执行。 3、 loader会启动，通过mmap系统调用，将代码端和数据段映射到内存中，其实也就是为其分配了虚拟内存，注意这时候，还不占用物理内存；只有程序执行到了相应的地方，内核才会为其分配物理内存。 4、 loader会去查找该程序依赖的链接库，首先看该链接库是否被映射进内存中，如果没有使用mmap，将代码段与数据段映射到内存中，否则只是将其加入进程的地址空间。这样比如glibc等库的内存地址空间是完全一样。 因此一个2M的程序，执行时，并不意味着为其分配了2M的物理内存，这与其运行了的代码量，与其所依赖的动态链接库有关。