linux调度器源码分析 - 初始化(二)

本文为原创，转载请注明：http://www.cnblogs.com/tolimit/

 

引言

　　上期文章linux调度器源码分析 - 概述(一)已经把调度器相关的数据结构介绍了一遍，本篇着重通过代码说明调度器在系统启动初始化阶段是如何初始化和工作的。通过上期文章我们知道，在多核CPU和SMP系统中，每个CPU(多核COU中的每个核)都有自己的struct rq队列，而rq队列中又有着自己的struct cfs_rq和struct rt_rq。在初始化时就是对这三个结构进行初始化。

 

init_task和init进程

　　当linux启动时，最先会通过汇编代码进行硬件和CPU的初始化，最后会跳转到C代码，而最初跳转到的C代码入口为

/* 代码地址： linux/init/Main.c */ asmlinkage __visible void __init start_kernel(void)

 　　在start_kerenl函数中，进行了系统启动过程中几乎所有重要的初始化(有一部分在boot中初始化，有一部分在start_kernel之前的汇编代码进行初始化)，包括内存、页表、必要数据结构、信号、调度器、硬件设备等。而这些初始化是由谁来负责的？就是由init_task这个进程。init_task是静态定义的一个进程，也就是说当内核被放入内存时，它就已经存在，它没有自己的用户空间，一直处于内核空间中运行，并且也只处于内核空间运行。当它执行到最后，将start_kernel中所有的初始化执行完成后，会在内核中启动一个kernel_init内核线程和一个kthreadd内核线程，kernel_init内核线程执行到最后会通过execve系统调用执行转变为我们所熟悉的init进程，而kthreadd内核线程是内核用于管理调度其他的内核线程的守护线程。在最后init_task将变成一个idle进程，用于在CPU没有进程运行时运行它，它在此时仅仅用于空转。

 

 

sched_init

　　在start_kernel中对调度器进行初始化的函数就是sched_init，其主要工作为

• 对相关数据结构分配内存
• 初始化root_task_group
• 初始化每个CPU的rq队列(包括其中的cfs队列和实时进程队列)
• 将init_task进程转变为idle进程

　　需要说明的是init_task在这里会被转变为idle进程，但是它还会继续执行初始化工作，相当于这里只是给init_task挂个idle进程的名号，它其实还是init_task进程，只有到最后init_task进程开启了kernel_init和kthreadd进程之后，才转变为真正意义上的idle进程。

  1 /* 代码路径： 内核源代码目录/kernel/sched/Core.c */
  2 
  3 /* 执行到此时内核只有一个进程init_task，current就为init_task。之后的init进程在初始化到最后的rest_init中启动 */
  4 void __init sched_init(void)
  5 {
  6     int i, j;
  7     unsigned long alloc_size = 0, ptr;
  8 
  9     /* 计算所需要分配的数据结构空间 */
 10 #ifdef CONFIG_FAIR_GROUP_SCHED    
 11     alloc_size += 2 * nr_cpu_ids * sizeof(void **);
 12 #endif
 13 
 14 #ifdef CONFIG_RT_GROUP_SCHED
 15     alloc_size += 2 * nr_cpu_ids * sizeof(void **);
 16 #endif
 17 #ifdef CONFIG_CPUMASK_OFFSTACK
 18     alloc_size += num_possible_cpus() * cpumask_size();
 19 #endif
 20     if (alloc_size) {
 21         /* 分配内存 */
 22         ptr = (unsigned long)kzalloc(alloc_size, GFP_NOWAIT);
 23 
 24 #ifdef CONFIG_FAIR_GROUP_SCHED
 25         /* 设置 root_task_group 每个CPU上的调度实体指针se */
 26         root_task_group.se = (struct sched_entity **)ptr;
 27         ptr += nr_cpu_ids * sizeof(void **);
 28 
 29         /* 设置 root_task_group 每个CPU上的CFS运行队列指针cfs_rq */
 30         root_task_group.cfs_rq = (struct cfs_rq **)ptr;
 31         ptr += nr_cpu_ids * sizeof(void **);
 32 
 33 #endif /* CONFIG_FAIR_GROUP_SCHED */
 34 #ifdef CONFIG_RT_GROUP_SCHED
 35         /* 设置 root_task_group 每个CPU上的实时调度实体指针se */
 36         root_task_group.rt_se = (struct sched_rt_entity **)ptr;
 37         ptr += nr_cpu_ids * sizeof(void **);
 38 
 39         /* 设置 root_task_group 每个CPU上的实时运行队列指针rt_rq */
 40         root_task_group.rt_rq = (struct rt_rq **)ptr;
 41         ptr += nr_cpu_ids * sizeof(void **);
 42 
 43 #endif /* CONFIG_RT_GROUP_SCHED */
 44 #ifdef CONFIG_CPUMASK_OFFSTACK
 45         for_each_possible_cpu(i) {
 46             per_cpu(load_balance_mask, i) = (void *)ptr;
 47             ptr += cpumask_size();
 48         }
 49 #endif /* CONFIG_CPUMASK_OFFSTACK */
 50     }
 51     /* 初始化实时进程的带宽限制，用于设置实时进程在CPU中所占用比的 */
 52     init_rt_bandwidth(&def_rt_bandwidth,
 53             global_rt_period(), global_rt_runtime());
 54     init_dl_bandwidth(&def_dl_bandwidth,
 55             global_rt_period(), global_rt_runtime());
 56 
 57 #ifdef CONFIG_SMP
 58     /* 初始化默认的调度域，调度域包含一个或多个CPU，负载均衡是在调度域内执行的，相互之间隔离 */
 59     init_defrootdomain();
 60 #endif
 61 
 62 #ifdef CONFIG_RT_GROUP_SCHED
 63     /* 初始化实时进程的带宽限制，用于设置实时进程在CPU中所占用比的 */
 64     init_rt_bandwidth(&root_task_group.rt_bandwidth,
 65             global_rt_period(), global_rt_runtime());
 66 #endif /* CONFIG_RT_GROUP_SCHED */
 67 
 68 #ifdef CONFIG_CGROUP_SCHED
 69     /* 将分配好空间的 root_task_group 加入 task_groups 链表 */
 70     list_add(&root_task_group.list, &task_groups);
 71     INIT_LIST_HEAD(&root_task_group.children);
 72     INIT_LIST_HEAD(&root_task_group.siblings);
 73     /* 自动分组初始化，每个tty(控制台)动态的创建进程组，这样就可以降低高负载情况下的桌面延迟 */
 74     autogroup_init(&init_task);
 75 
 76 #endif /* CONFIG_CGROUP_SCHED */
 77     /* 遍历设置每一个CPU */
 78     for_each_possible_cpu(i) {
 79         struct rq *rq;
 80         /* 获取CPUi的rq队列 */
 81         rq = cpu_rq(i);
 82         /* 初始化rq队列的自旋锁 */
 83         raw_spin_lock_init(&rq->lock);
 84         /* CPU运行队列中调度实体(sched_entity)数量为0 */
 85         rq->nr_running = 0;
 86         /* CPU负载 */
 87         rq->calc_load_active = 0;
 88         /* 负载下次更新时间 */
 89         rq->calc_load_update = jiffies + LOAD_FREQ;
 90         /* 初始化CFS运行队列 */
 91         init_cfs_rq(&rq->cfs);
 92         /* 初始化实时进程运行队列 */
 93         init_rt_rq(&rq->rt, rq);
 94         init_dl_rq(&rq->dl, rq);
 95 #ifdef CONFIG_FAIR_GROUP_SCHED
 96         root_task_group.shares = ROOT_TASK_GROUP_LOAD;
 97         INIT_LIST_HEAD(&rq->leaf_cfs_rq_list);
 98         /*
 99          * How much cpu bandwidth does root_task_group get?
100          *
101          * In case of task-groups formed thr' the cgroup filesystem, it
102          * gets 100% of the cpu resources in the system. This overall
103          * system cpu resource is divided among the tasks of
104          * root_task_group and its child task-groups in a fair manner,
105          * based on each entity's (task or task-group's) weight
106          * (se->load.weight).
107          *
108          * In other words, if root_task_group has 10 tasks of weight
109          * 1024) and two child groups A0 and A1 (of weight 1024 each),
110          * then A0's share of the cpu resource is:
111          *
112          *    A0's bandwidth = 1024 / (10*1024 + 1024 + 1024) = 8.33%
113          *
114          * We achieve this by letting root_task_group's tasks sit
115          * directly in rq->cfs (i.e root_task_group->se[] = NULL).
116          */
117         /* 初始化CFS的带宽限制，用于设置普通进程在CPU中所占用比的 */
118         init_cfs_bandwidth(&root_task_group.cfs_bandwidth);
119         init_tg_cfs_entry(&root_task_group, &rq->cfs, NULL, i, NULL);
120 #endif /* CONFIG_FAIR_GROUP_SCHED */
121 
122         rq->rt.rt_runtime = def_rt_bandwidth.rt_runtime;
123 #ifdef CONFIG_RT_GROUP_SCHED
124         init_tg_rt_entry(&root_task_group, &rq->rt, NULL, i, NULL);
125 #endif
126         /* 初始化该队列所保存的每个CPU的负载情况 */
127         for (j = 0; j < CPU_LOAD_IDX_MAX; j++)
128             rq->cpu_load[j] = 0;
129         /* 该队列最后一次更新cpu_load的时间值为当前 */
130         rq->last_load_update_tick = jiffies;
131 
132 #ifdef CONFIG_SMP
133         /* 这些参数都是负载均衡使用的 */
134         rq->sd = NULL;
135         rq->rd = NULL;
136         rq->cpu_capacity = SCHED_CAPACITY_SCALE;
137         rq->post_schedule = 0;
138         rq->active_balance = 0;
139         rq->next_balance = jiffies;
140         rq->push_cpu = 0;
141         rq->cpu = i;
142         rq->online = 0;
143         rq->idle_stamp = 0;
144         rq->avg_idle = 2*sysctl_sched_migration_cost;
145         rq->max_idle_balance_cost = sysctl_sched_migration_cost;
146 
147         INIT_LIST_HEAD(&rq->cfs_tasks);
148         /* 将CPU运行队列加入到默认调度域中 */
149         rq_attach_root(rq, &def_root_domain);
150 #ifdef CONFIG_NO_HZ_COMMON
151         /* 动态时钟使用的标志位，初始时动态时钟是不使用的 */
152         rq->nohz_flags = 0;
153 #endif
154 #ifdef CONFIG_NO_HZ_FULL
155         /* 也是动态时钟才使用的标志位，用于保存上次调度tick发生时间 */
156         rq->last_sched_tick = 0;
157 #endif
158 #endif
159         /* 初始化运行队列定时器，这个是高精度定时器，但是只是初始化，这时并没有使用 */
160         init_rq_hrtick(rq);
161         atomic_set(&rq->nr_iowait, 0);
162     }
163     /* 设置 init_task 进程的权重 */
164     set_load_weight(&init_task);
165 
166 #ifdef CONFIG_PREEMPT_NOTIFIERS
167     /* 初始化通知链 */
168     INIT_HLIST_HEAD(&init_task.preempt_notifiers);
169 #endif
170 
171     /*
172      * The boot idle thread does lazy MMU switching as well:
173      */
174     atomic_inc(&init_mm.mm_count);
175     enter_lazy_tlb(&init_mm, current);
176 
177     /*
178      * Make us the idle thread. Technically, schedule() should not be
179      * called from this thread, however somewhere below it might be,
180      * but because we are the idle thread, we just pick up running again
181      * when this runqueue becomes "idle".
182      */
183     /* 将当前进程初始化为idle进程，idle进程用于当CPU没有进程可运行时运行，空转 */
184     init_idle(current, smp_processor_id());
185     /* 下次负载更新时间(是一个相对时间) */
186     calc_load_update = jiffies + LOAD_FREQ;
187 
188     /*
189      * During early bootup we pretend to be a normal task:
190      */
191     /* 设置idle进程使用CFS调度策略 */
192     current->sched_class = &fair_sched_class;
193 
194 #ifdef CONFIG_SMP
195     zalloc_cpumask_var(&sched_domains_tmpmask, GFP_NOWAIT);
196     /* May be allocated at isolcpus cmdline parse time */
197     if (cpu_isolated_map == NULL)
198         zalloc_cpumask_var(&cpu_isolated_map, GFP_NOWAIT);
199     idle_thread_set_boot_cpu();
200     set_cpu_rq_start_time();
201 #endif
202     init_sched_fair_class();
203     /* 这里只是标记调度器开始运行了，但是此时系统只有一个init_task(idle)进程，并且定时器都还没启动。并不会调度到其他进程，也没有其他进程可供调度 */
204     scheduler_running = 1;
205 }

　　

总结

　　调度器的初始化还是比较简单的，毕竟调度器的核心不在此，重头戏在它的运行时处理，之后的文章会详细分析调度器的运行时处理。