Linux内核如何装载和启动一个可执行程序
一、理论知识
Linux中，可以从c源代码生产一个可执行程序，这其中要经过预处理、编译和链接的过程。可以参考以下图来理解这个过程：
可执行文件的格式：
在 Linux 平台下主要有以下三种可执行文件格式：
1、a.out（assembler and link editor output 汇编器和链接编辑器的输出）
2、COFF（Common Object File Format 通用对象文件格式）
3、ELF（Executable and Linking Format 可执行和链接格式）。
可执行文件的创建过程
从 C/C++ 源文件生成一个可被系统加载和启动的可执行文件，需要经过预处理、编译和链接这几个过程。
预处理：把include 的文件包含进来，进行宏替换等。
编译：编译器将预处理文件编译成汇编代码；汇编器将汇编代码编译成目标代码
链接：将目标代码链接为可执行文件。根据链接方式的不同，可分为静态链接与动态链接。动态链接又可分为可执行程序装载时动态链接与运行时动态链接。
预处理：加入头文件执行宏替换等操作 gcc -E hello.c -o hello.i
编译：检查无误后转为汇编语言 gcc –S hello.i –o hello.s
汇编：转为二进制 gcc –c hello.s –o hello.o
链接：生成可执行文件 gcc hello.o –o hello
一步完成的命令为：gcc hello.c -o hello
elf文件分为又分为三种类型：共享目标文件（库文件，后缀为.so）、可执行文件、可重定位文件（目标文件，后缀为.o）。
其中，目标文件中至少有编译后的机器指令代码、数据，也还包括了链接时所须要的一些信息，比如符号表、调试信息、字符串等。这Linux中，可执行文件的格式现在主要是ELF格式（对应于Windows中PE格式）。ELF的格式如下：
查看elf文件的文件头可以用readelf
程序的入口地址是0x8048000
链接，是收集、组织程序所需的不同代码和数据的过程，以便程序能被装入内存并被执行。链接过程分为两步:1.空间与地址分配；2.符号解析与重定位。
在Linux中，一个程序的执行是做为一个新的进程，使用execve系统调用完成的。execve对应的系统调用是sys_execve，在其内部会解析可执行文件格式。对应的内核代码，就是，在search_binary_handler中寻找符合文件格式对应的解析模块。
对于ELF文件，retval = fmt->load_binary(bprm)实际上执行的就是load_elf_binary，其内部就是按照ELF文件格式来加载ELF文件的。这里，我们也可以看到Linux是可以支持多种可执行文件格式的，所有的格式处里信息用一个结构体存储在一个链表中，其中的load_binary是一个函数指针，对应于该中格式的可执行文件的加载方式；要想支持一种新的可执行文件，只需要向链表中注册一个新的format结构体就可以了，此种设计类似观察者模式，具有很好的扩展性。
通常可执行文件是由 shell 程序启动的。在 shell 环境下，用户输入可执行程序名及其参数后，shell 程序会调用 execve 将命令行参数和环境参数传递给可执行程序的main函数。通过以下层层调用，最终完成可执行程序的启动过程：
do_execve–>do_execve_common–>exec_binprm–>search_binary_handler–>load_elf_binary–>start_thread
二、实验过程
打开实验楼中的虚拟机，在shell中依次运行以下命令，获取本次实验的代码，并编译运行
cd LinuxKernel
rm menu -rf
git clone https://github.com/mengning/menu.git
cd menu
mv test_exec.c test.c
make rootfs
效果如下：
关闭QEMU窗口，在shell窗口中，cd LinuxKernel回退到LinuxKernel目录，使用下面的命令启动内核并在CPU运行代码前停下以便调试：
qemu -kernel linux-3.18.6/arch/x86/boot/bzImage -initrd rootfs.img -s -S
接下来，我们就可以水平分割一个新的shell窗口出来，依次使用下面的命令启动gdb调试
gdb
(gdb) file linux-3.18.6/vmlinux
(gdb) target remote:1234
并在系统调用sys_execve的入口处设置断点
(gdb) b sys_execve
继续运行程序，在QEMU窗口中输入exec，系统就会停在上面设置的断点处，如图：
接下来我们可以单步跟踪sys_execve的内核代码，也可以通过设置以下断点
b load_elf_binary
b start_thread
来完整地跟踪进程的创建和启动代码！
三、总结
Linux系统可以通过execve API启动一个新进程，该API又调用sys_execve，负责将新的程序代码和数据替换到新的进程中，打开可执行 文件，载入依赖的库文件，
申请新的内存空间，最后执行 start_thread(regs, elf_entry, bprm->p) ，设置 new_ip, new_sp ，完成新进程的代码和数据替换，然后返回，接下来就是执行新的进程代码了。
《Linux内核分析》MOOC课程http://mooc.study.163.com/course/USTC-1000029000