Docker_LXC 容器在 Linux 中正确获取 Loadavg 的解决方案
背景
本文主要解决如何在 Linux 容器中正确获取 Loadavg 信息。
我们 cat /proc/loadavg 时会发现如下值：
$ > cat /proc/loadavg
0.64 0.81 0.86 3/364 6930
这些值的含义依次为：
- 0.64：1-分钟平均负载。
- 0.81：5-分钟平均负载。
- 0.86：15-分钟平均负载。
- 3: 在采样时刻，运行队列的任务的数目。
- 364: 在采样时刻，系统中活跃的任务的个数（不包括运行已经结束的任务）。
- 6930: 最大的 pid 值，包括轻量级进程，即线程。
平均负载定义：在特定时间间隔内运行队列中的平均进程数。
进程状态定义
- R (TASK_RUNNING)，可执行状态。
- S (TASK_INTERRUPTIBLE)，可中断的睡眠状态。
- D (TASK_UNINTERRUPTIBLE)，不可中断的睡眠状态。
- T (TASK_STOPPED or TASK_TRACED)，暂停状态或跟踪状态。
- Z (TASK_DEAD – EXIT_ZOMBIE)，退出状态，进程成为僵尸进程。
- X (TASK_DEAD – EXIT_DEAD)，退出状态，进程即将被销毁。
如何计算 Loadavg?
计算公式：
load(t) = load(t-1) * exp(-5/60R) + n(t) * (1 – exp(5/60R))
n(t) 是系统活动的进程数， R 对应1、5、15分钟（如当计算15分钟的平均负载时，R 的值就为15）。
Linux 内核认为进程的生存时间服从参数为 1 的指数分布，指数分布的概率密度为：内核计算负载 load1 为例，设相邻两个计算时刻之间系统活动的进程集合为 S0。从 1 分钟前到当前计算时刻这段时间里面活动的 load1 的进程，设他们的集合是 S1，内核认为的概率密度是：λe-λx，而在当前时刻活动的 n 个进程，设他们的集合是 Sn 内核认为的概率密度是 1-λe-λx。其中 x = 5 / 60，因为相邻两个计算时刻之间进程所耗的 CPU 时间为 5 秒，而考虑的时间段是 1 分钟(60 秒)。那么可以求出最近 1 分钟系统运行队列的长度：
load1 = |S1| * λe-λx + |Sn| * (1-λe-λx) = load1 * λe-λx + n * (1-λe-λx)
其中 λ = 1， x = 5 / 60， |S1| 和 |Sn| 是集合元素的个数。
Linux 内核定义一个 unsigned long 类型数组 avenrun[3]，因为内核不能使用浮点数，就将低 11位 用于存放负载的小数部分，高 21 位用于存放整数部分。
-
avenrun[0] 对应前1分钟系统负载；
-
avenrun[1] 对应前5分钟系统负载；
-
avenrun[2] 对应前15分钟系统负载；
内核每隔 5秒钟 更新一次 load average 的值。
内核如何实现 Loadavg?
在内核中 Loadavg 计算部分与读取部分是分开的。
注：使用 3.10.107 版本内核源码
- 读取部分。
由下列源码我们可以看出，根据输出格式，LOAD_INT 对应计算的是 load 的整数部分，LOAD__FRAC 计算的是 load 的小数部分。loadavg_proc_show 读取 get_avenrun 来获取 1、5、15 分钟的系统负载值。
文件：fs/proc/loadavg.c
#define LOAD_INT(x) ((x) >> FSHIFT)
#define LOAD_FRAC(x) LOAD_INT(((x) & (FIXED_1-1)) * 100)
static int loadavg_proc_show(struct seq_file *m, void *v)
{
unsigned long avnrun[3];
get_avenrun(avnrun, FIXED_1/200, 0);
seq_printf(m, "%lu.%02lu %lu.%02lu %lu.%02lu %ld/%d %d\n",
LOAD_INT(avnrun[0]), LOAD_FRAC(avnrun[0]),
LOAD_INT(avnrun[1]), LOAD_FRAC(avnrun[1]),
LOAD_INT(avnrun[2]), LOAD_FRAC(avnrun[2]),
nr_running(), nr_threads,
task_active_pid_ns(current)->last_pid);
return 0;
}
文件：kernel/sched/core.c
unsigned long avenrun[3];
void get_avenrun(unsigned long *loads, unsigned long offset, int shift)
{
loads[0] = (avenrun[0] + offset) << shift;
loads[1] = (avenrun[1] + offset) << shift;
loads[2] = (avenrun[2] + offset) << shift;
}
unsigned long nr_running(void)
{
unsigned long i, sum = 0;
for_each_online_cpu(i)
sum += cpu_rq(i)->nr_running;
return sum;
}
- 计算部分。
内核设计一个定时器，时钟一到就会去调用 xtime_update（）-> do_timer()-> calc_global_load() 函数，如果超时 5s 那么就会更新一次 load 数据，即：avenrun 数组。具体如下内核源码：
//文件：include/linux/sched.h
#define FSHIFT 11 /* nr of bits of precision */
#define FIXED_1 (1<> FSHIFT;
}
static unsigned long calc_load_update;
/*
* calc_load - update the avenrun load estimates 10 ticks after the
* CPUs have updated calc_load_tasks.
*/
void calc_global_load(unsigned long ticks)
{
long active, delta;
if (time_before(jiffies, calc_load_update + 10))
return;
/*
* Fold the 'old' idle-delta to include all NO_HZ cpus.
*/
delta = calc_load_fold_idle();
if (delta)
atomic_long_add(delta, &calc_load_tasks);
active = atomic_long_read(&calc_load_tasks);
active = active > 0 ? active * FIXED_1 : 0;
avenrun[0] = calc_load(avenrun[0], EXP_1, active);
avenrun[1] = calc_load(avenrun[1], EXP_5, active);
avenrun[2] = calc_load(avenrun[2], EXP_15, active);
calc_load_update += LOAD_FREQ;
/*
* In case we idled for multiple LOAD_FREQ intervals, catch up in bulk.
*/
calc_global_nohz();
}
容器中获取 Loadavg 方案
如果想在容器中获取正确 Loadavg 信息的那么就要具备以下几点：
- 获取运行在容器中的所有进程（包括：线程）。
- 获取运行在容器中的进程总数。
- 获取运行在容器中的所有进程运行状态。
- Loadavg 计算公式。
目前 cgroup 已实现了获取容器中所有的进程 ID，具体如下：
../cgroup/pids///tasks
922
2038
2545
2546
2547
2548
Cgroup 中也可以获取运行在容器中的运行进程总数，具体如下：
../cgroup/pids///pids.current
128
获取运行在容器中的所有进程后可以通过系统 proc 来获取进程状态，具体如下:
cat /proc/2546/status
Name: connmaster
State: S (sleeping)
Tgid: 2546
Ngid: 0
Pid: 2546
PPid: 2545
TracerPid: 0
Uid: 669 669 669 669
Gid: 669 669 669 669
FDSize: 1024
Groups: 669
VmPeak: 4621592 kB
VmSize: 4621592 kB
VmLck: 0 kB
VmPin: 0 kB
VmHWM: 157948 kB
VmRSS: 152624 kB
RssAnon: 149084 kB
RssFile: 3540 kB
RssShmem: 0 kB
VmData: 4606308 kB
VmStk: 136 kB
VmExe: 8860 kB
VmLib: 1972 kB
VmPTE: 600 kB
VmSwap: 0 kB
Threads: 34
SigQ: 0/600000
SigPnd: 0000000000000000
ShdPnd: 0000000000000000
SigBlk: fffffffe7bfa7a25
SigIgn: 0000000000000001
SigCgt: ffffffffffc1fefe
CapInh: 0000001fffffffff
CapPrm: 0000000000000000
CapEff: 0000000000000000
CapBnd: 0000001fffffffff
CapAmb: 0000000000000000
Seccomp: 0
Cpus_allowed: 000c,000003fc
Cpus_allowed_list: 2-9,34-35
Mems_allowed: 00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000003
Mems_allowed_list: 0-1
voluntary_ctxt_switches: 88
nonvoluntary_ctxt_switches: 1
或
cat /proc/2546/stat
2546 (connmaster) S 2545 2545 2545 0 -1 1077944320 1279939 0 109 0 568906 239100 0 0 20 0 34 0 448464477 4732510208 38156 18446744073709551615 4194304 13266708 140727468767200 140727468766640 4591875 0 2080012837 1 2143420158 18446744073709551615 0 0 17 6 0 0 12 0 0 15363864 15540872 21028864 140727468774844 140727468774891 140727468774891 140727468777449 0
Loadavg 计算公式上面已得知。
总结
综合上面分析，只要在了解 Loadavg 的实现原理，那么就可以根据自己需求完成容器中正确获取 Loadavg 信息。