Docker_LXC 容器在 Linux 中正确获取 Loadavg 的解决方案

背景

本文主要解决如何在 Linux 容器中正确获取 Loadavg 信息。

我们 cat /proc/loadavg 时会发现如下值:

$ > cat /proc/loadavg
0.64 0.81 0.86 3/364 6930

这些值的含义依次为:

  • 0.64:1-分钟平均负载。
  • 0.81:5-分钟平均负载。
  • 0.86:15-分钟平均负载。
  • 3: 在采样时刻,运行队列的任务的数目。
  • 364: 在采样时刻,系统中活跃的任务的个数(不包括运行已经结束的任务)。
  • 6930: 最大的 pid 值,包括轻量级进程,即线程。

平均负载定义:在特定时间间隔内运行队列中的平均进程数。

进程状态定义

  • R (TASK_RUNNING),可执行状态。
  • S (TASK_INTERRUPTIBLE),可中断的睡眠状态。
  • D (TASK_UNINTERRUPTIBLE),不可中断的睡眠状态。
  • T (TASK_STOPPED or TASK_TRACED),暂停状态或跟踪状态。
  • Z (TASK_DEAD – EXIT_ZOMBIE),退出状态,进程成为僵尸进程。
  • X (TASK_DEAD – EXIT_DEAD),退出状态,进程即将被销毁。

如何计算 Loadavg?

计算公式:
load(t) = load(t-1) * exp(-5/60R) + n(t) * (1 – exp(5/60R))

n(t) 是系统活动的进程数, R 对应1、5、15分钟(如当计算15分钟的平均负载时,R 的值就为15)。

Linux 内核认为进程的生存时间服从参数为 1 的指数分布,指数分布的概率密度为:内核计算负载 load1 为例,设相邻两个计算时刻之间系统活动的进程集合为 S0。从 1 分钟前到当前计算时刻这段时间里面活动的 load1 的进程,设他们的集合是 S1,内核认为的概率密度是:λe-λx,而在当前时刻活动的 n 个进程,设他们的集合是 Sn 内核认为的概率密度是 1-λe-λx。其中 x = 5 / 60,因为相邻两个计算时刻之间进程所耗的 CPU 时间为 5 秒,而考虑的时间段是 1 分钟(60 秒)。那么可以求出最近 1 分钟系统运行队列的长度:

load1 = |S1|  * λe-λx + |Sn| * (1-λe-λx) = load1 * λe-λx + n * (1-λe-λx)

其中 λ = 1, x = 5 / 60, |S1| 和 |Sn| 是集合元素的个数。

Linux 内核定义一个 unsigned long 类型数组 avenrun[3],因为内核不能使用浮点数,就将低 11位 用于存放负载的小数部分,高 21 位用于存放整数部分。

  • avenrun[0] 对应前1分钟系统负载;

  • avenrun[1] 对应前5分钟系统负载;

  • avenrun[2] 对应前15分钟系统负载;

内核每隔 5秒钟 更新一次 load average 的值。

内核如何实现 Loadavg?

在内核中 Loadavg 计算部分与读取部分是分开的。

注:使用 3.10.107 版本内核源码

  • 读取部分。

由下列源码我们可以看出,根据输出格式,LOAD_INT 对应计算的是 load 的整数部分,LOAD__FRAC 计算的是 load 的小数部分。loadavg_proc_show 读取 get_avenrun 来获取 1、5、15 分钟的系统负载值。

文件:fs/proc/loadavg.c
#define LOAD_INT(x) ((x) >> FSHIFT)
#define LOAD_FRAC(x) LOAD_INT(((x) & 	(FIXED_1-1)) * 100)

static int loadavg_proc_show(struct seq_file *m, void *v)
{
	unsigned long avnrun[3];

	get_avenrun(avnrun, FIXED_1/200, 0);

	seq_printf(m, "%lu.%02lu %lu.%02lu %lu.%02lu %ld/%d %d\n",
			LOAD_INT(avnrun[0]), LOAD_FRAC(avnrun[0]),
			LOAD_INT(avnrun[1]), LOAD_FRAC(avnrun[1]),
			LOAD_INT(avnrun[2]), LOAD_FRAC(avnrun[2]),
			nr_running(), nr_threads,
			task_active_pid_ns(current)->last_pid);
	return 0;
}

文件:kernel/sched/core.c
unsigned long avenrun[3];
void get_avenrun(unsigned long *loads, unsigned long offset, int shift)
{
	loads[0] = (avenrun[0] + offset) << shift;
	loads[1] = (avenrun[1] + offset) << shift;
	loads[2] = (avenrun[2] + offset) << shift;
}

unsigned long nr_running(void)
{
	unsigned long i, sum = 0;

	for_each_online_cpu(i)
		sum += cpu_rq(i)->nr_running;

	return sum;
}
	
  • 计算部分。

内核设计一个定时器,时钟一到就会去调用 xtime_update()-> do_timer()-> calc_global_load() 函数,如果超时 5s 那么就会更新一次 load 数据,即:avenrun 数组。具体如下内核源码:

//文件:include/linux/sched.h
#define FSHIFT		11		/* nr of bits of precision */
#define FIXED_1		(1<> FSHIFT;
}

static unsigned long calc_load_update;
/*
 * calc_load - update the avenrun load estimates 10 ticks after the
 * CPUs have updated calc_load_tasks.
 */
void calc_global_load(unsigned long ticks)
{
	long active, delta;

	if (time_before(jiffies, calc_load_update + 10))
		return;

	/*
	 * Fold the 'old' idle-delta to include all NO_HZ cpus.
	 */
	delta = calc_load_fold_idle();
	if (delta)
		atomic_long_add(delta, &calc_load_tasks);

	active = atomic_long_read(&calc_load_tasks);
	active = active > 0 ? active * FIXED_1 : 0;

	avenrun[0] = calc_load(avenrun[0], EXP_1, active);
	avenrun[1] = calc_load(avenrun[1], EXP_5, active);
	avenrun[2] = calc_load(avenrun[2], EXP_15, active);

	calc_load_update += LOAD_FREQ;

	/*
	 * In case we idled for multiple LOAD_FREQ intervals, catch up in bulk.
	 */
	calc_global_nohz();
}

容器中获取 Loadavg 方案

如果想在容器中获取正确 Loadavg 信息的那么就要具备以下几点:

  • 获取运行在容器中的所有进程(包括:线程)。
  • 获取运行在容器中的进程总数。
  • 获取运行在容器中的所有进程运行状态。
  • Loadavg 计算公式。

目前 cgroup 已实现了获取容器中所有的进程 ID,具体如下:

../cgroup/pids///tasks
922
2038
2545
2546
2547
2548

Cgroup 中也可以获取运行在容器中的运行进程总数,具体如下:

../cgroup/pids///pids.current
128

获取运行在容器中的所有进程后可以通过系统 proc 来获取进程状态,具体如下:

cat /proc/2546/status
Name:	connmaster
State:	S (sleeping)
Tgid:	2546
Ngid:	0
Pid:	2546
PPid:	2545
TracerPid:	0
Uid:	669	669	669	669
Gid:	669	669	669	669
FDSize:	1024
Groups:	669
VmPeak:	 4621592 kB
VmSize:	 4621592 kB
VmLck:	       0 kB
VmPin:	       0 kB
VmHWM:	  157948 kB
VmRSS:	  152624 kB
RssAnon:	  149084 kB
RssFile:	    3540 kB
RssShmem:	       0 kB
VmData:	 4606308 kB
VmStk:	     136 kB
VmExe:	    8860 kB
VmLib:	    1972 kB
VmPTE:	     600 kB
VmSwap:	       0 kB
Threads:	34
SigQ:	0/600000
SigPnd:	0000000000000000
ShdPnd:	0000000000000000
SigBlk:	fffffffe7bfa7a25
SigIgn:	0000000000000001
SigCgt:	ffffffffffc1fefe
CapInh:	0000001fffffffff
CapPrm:	0000000000000000
CapEff:	0000000000000000
CapBnd:	0000001fffffffff
CapAmb:	0000000000000000
Seccomp:	0
Cpus_allowed:	000c,000003fc
Cpus_allowed_list:	2-9,34-35
Mems_allowed:	00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000000,00000003
Mems_allowed_list:	0-1
voluntary_ctxt_switches:	88
nonvoluntary_ctxt_switches:	1
或
cat /proc/2546/stat
2546 (connmaster) S 2545 2545 2545 0 -1 1077944320 1279939 0 109 0 568906 239100 0 0 20 0 34 0 448464477 4732510208 38156 18446744073709551615 4194304 13266708 140727468767200 140727468766640 4591875 0 2080012837 1 2143420158 18446744073709551615 0 0 17 6 0 0 12 0 0 15363864 15540872 21028864 140727468774844 140727468774891 140727468774891 140727468777449 0

Loadavg 计算公式上面已得知。

总结

综合上面分析,只要在了解 Loadavg 的实现原理,那么就可以根据自己需求完成容器中正确获取 Loadavg 信息。

你可能感兴趣的:(云计算,开源)