Nginx父子进程的创建及主体工作函数

根据Nginx（0.7.67版本）的代码，对Nginx基本的进程创建，进程主体以及事件处理进行了简要的分析。

 

基本上，父进程（即主进程）一开始会初始化及读取配置，并加载各模块的功能，然后fork()出N个子进程（即工作进程），具有相同的工作逻辑 和功能。父进程负责监听信号（如HUP，QUIT等），通过socket pair把信号传递给子进程（子进程间一般不通信）。子进程通过事件来处理父进程传递的信号。因为每个子进程都共享服务监听端口（如http 80），当用户发送请求时，会触发子进程的事件调用函数。因此在accept()请求的时候，需要用到mutex，保证只有一个工作进程接受并处理请求。

 

Nginx主进程的入口是跟一般的程序一样的main()函数，它的代码是这样的：

int ngx_cdecl main(int argc, char *const *argv)
{
    /*...*/

    //nginx 启动的时候会尝试从环境变量中读取前次执行时候的监听套接口的id，
    //并会创建对应数量的ngx_listening_t结构变量（存于 cycle->listening数组中），
    //然后调用这个接口通过getsockname,getsockopt等系统调用把原来套接口的属性信息和
    //设置参数读取出来去设置那些新创建的ngx_listening_t结构变量，这样就继承了前次执行
    //时候的监听套接口了，这个接口是在 ngx_init_cycle之前调用的

    if (ngx_add_inherited_sockets(&init_cycle) != NGX_OK) {
        return 1;
    }

    /*...*/

    //ngx_modules数组在objs/ngx_modules.c定义
    ngx_max_module = 0;
    for (i = 0; ngx_modules[i]; i++) {
        ngx_modules[i]->index = ngx_max_module++; //将每个模块编号
    }

    //ngx_init_cycle()函数，这是个比较重要的函数，被main, ngx_master_process_cycle
    //和ngx_single_process_cycle 调用， 其中后两者是在reconfigure的时候被调用的。
    //它主要工作是，初始化cycle是基于旧有的cycle进行的; 会继承old cycle的很多属性，
    //比如log等， 但是同时会对很多资源重新分配, 比如pool, shared mem, file handler,
    //bind/listen socket等，同时清除旧有的cycle的资源
    //读取配置文件也是在这里完成的
    cycle = ngx_init_cycle(&init_cycle);

    if (ngx_process == NGX_PROCESS_SINGLE) {
        ngx_single_process_cycle(cycle);
    }
    else {
        //一般采用多进程处理请求
        ngx_master_process_cycle(cycle);
    }
}

 

 

 

//ngx_start_worker_processes()函数，这个函数按指定数目n，以ngx_worker_process_cycle()函
//数为参数调用ngx_spawn_process()创建work进程并初始化相关资源和属性；
//执行子进程的执行函数ngx_worker_process_cycle；向之前已经创建的所有worker广播当前创建的
//worker进程的信息；每个进程打开一个通道(ngx_pass_open_channel())
//n是worker process的数目
//type 即创建新进程式的方式，如NGX_PROCESS_RESPAWN, NGX_PROCESS_JUST_RESPAWN
static void ngx_start_worker_processes(ngx_cycle_t *cycle, ngx_int_t n, ngx_int_t type)
{
    ngx_int_t      i;
    ngx_channel_t  ch;

    ch.command = NGX_CMD_OPEN_CHANNEL;

    for (i = 0; i < n; i++) {
        //从config读取CPU的分配
        cpu_affinity = ngx_get_cpu_affinity(i);
        //ngx_spawn_process中设置ngx_process_slot为被分配到子进程的
        //空闲slot
        ngx_spawn_process(cycle, ngx_worker_process_cycle, NULL,
                    "worker process", type);

        ch.pid = ngx_processes[ngx_process_slot].pid;
        ch.slot = ngx_process_slot;
        ch.fd = ngx_processes[ngx_process_slot].channel[0];
        //ngx_pass_open_channel 把这个worker的channel[0]和进程id
        //在进程表中的偏移slot广播(ngx_write_channel())给所有其他已经
        //创建的worker。
        //这样，创建完所有进程之后，每个worker就获得了所有其他worker的
        //channel[0]了
        ngx_pass_open_channel(cycle, &ch);
    }
}

 

 

 

ngx_pid_t ngx_spawn_process(ngx_cycle_t *cycle, ngx_spawn_proc_pt proc, void *data, char *name, ngx_int_t respawn)
{
    /*...*/
    //如果类型为NGX_PROCESS_DETACHED，则说明是热代码替换(热代码替换也是通过这
    //个函数进行处理的)，因此不需要新建socketpair。
    if (respawn != NGX_PROCESS_DETACHED) {
        //建立socketpair
        //创建socketpair用于进程间通信，master进程为每个worker创建一对
        //socket， master进程空间打开所有socketpair的channel[0]，
        //channel[1]两端句柄。
        //当创建一个worker的时候，这个worker会继承master当前已经创建并
        //打开的所有socketpair。
        //这个worker初始化的时候（调用ngx_worker_process_init）会关闭
        //本进程对应socketpair的channel[0]和其他worker对应的
        //channel[1]，保持打开本进程对应socketpair的channel[1]和其他
        //worker对应的channel[0]，并监听本进程对应socketpair的
        //channel[1]的可读事件。这样，每个worker就拥有了其他worker的
        //channel[0]，可以sendmsg(channel[0], ...)向其他worker发送消息
        /*...*/
    }

    /*...*/
    //创建子进程
    pid = fork();
    switch (pid) {
        case -1:
            ngx_log_error(NGX_LOG_ALERT, cycle->log, ngx_errno,
                "fork() failed while spawning "%s"", name);
            ngx_close_channel(ngx_processes[s].channel, cycle->log);
            return NGX_INVALID_PID;
        //在子进程里，执行传递进来的子进程的函数
        case 0:
            ngx_pid = ngx_getpid();
            //调用ngx_worker_process_cycle()
            //注意：这个函数中定义了子进程处理事件的循环，即子进程不会
            //执行这个函数之后的语句
            proc(cycle, data);
            break;
        default:
            break;
    }
}

 

 

//worker进程的主体
static void ngx_worker_process_cycle(ngx_cycle_t *cycle, void *data)
{
    //设置一些环境变量
    //调用所有模块的init_process钩子函数
    //将其他进程的channel[1]关闭，自己的除外
    //子进程继承了父进程的ngx_processes数组，但子进程只监听自己的channel[1]
    //将自己的channel[0]关闭
    //因为自己的channel[0]是给其他子进程，用来发送消息的sendmsg
    //调用ngx_add_channel_event()函数，给ngx_channel注册一个读事件处理函数。
    ngx_worker_process_init(cycle, 1);
    //主循环，处理事件
    for ( ;; ) {

        /*...*/

        //调用epoll，周期性监听事件
        //先接收连接(并不处理事件)，以及处理进程间信号(如有)
        //处理accept queue和event queue里面的事件
        ngx_process_events_and_timers(cycle);

        /*...*/
    }

    /*...*/
}