如果你的Linux服务器突然负载暴增，告警短信快发爆你的手机，如何在最短时间内找出Linux性能问题所在？Netflix性能工程团队的Brendan Gregg写下了这篇博文，来看他们是怎样通过十条命令在一分钟内对机器性能问题进行诊断。
1. 概述
1. uptime
2. dmesg | tail
3. vmstat 1
4. mpstat -P ALL 1
5. pidstat 1
6. iostat -xz 1
7. free -m
8. sar -n DEV 1
9. sar -n TCP,ETCP 1
10. top
其中一些命令需要安装sysstat包，有一些由procps包提供。这些命令的输出，有助于快速定位性能瓶颈，检查出所有资源（CPU、内存、磁盘IO等）的利用率（utilization）、饱和度（saturation）和错误（error）度量，也就是所谓的USE方法。
2. 命令介绍
- uptime命令
[root@Dev-Test-203 ~]# uptime
16:44:05 up 14 days, 11 min, 2 users, load average: 0.03, 0.06, 0.11
这个命令可以快速查看机器的负载情况。在Linux系统中，这些数据表示等待CPU资源的进程和阻塞在不可中断IO进程（进程状态为D）的数量。这些数据可以让我们对系统资源使用有一个宏观的了解。
命令的输出分别表示1分钟、5分钟、15分钟的平均负载情况。通过这三个数据，可以了解服务器负载是在趋于紧张还是区域缓解。如果1分钟平均负载很高，而15分钟平均负载很低，说明服务器正在命令高负载情况，需要进一步排查CPU资源都消耗在了哪里。反之，如果15分钟平均负载很高，1分钟平均负载较低，则有可能是CPU资源紧张时刻已经过去。
上面例子中的输出，可以看见最近1分钟的平均负载非常高，且远高于最近15分钟负载，因此我们需要继续排查当前系统中有什么进程消耗了大量的资源。可以通过下文将会介绍的vmstat、mpstat等命令进一步排查。
-
dmesg | tail命令
[root@Dev-Test-203 ~]# dmesg | tail
[1210442.606862] udevadm[27145]: Successfully loaded SELinux database in 4.303ms, size on heap is 314K.
[1210442.606882] udevadm[27145]: calling: info
[1210442.616993] udevadm[27147]: Successfully loaded SELinux database in 15.054ms, size on heap is 314K.
[1210442.617028] udevadm[27147]: calling: info
[1210442.624811] udevadm[27150]: Successfully loaded SELinux database in 8.161ms, size on heap is 314K.
[1210442.624832] udevadm[27150]: calling: info
[1210442.633353] udevadm[27153]: Successfully loaded SELinux database in 5.328ms, size on heap is 314K.
[1210442.633380] udevadm[27153]: calling: info
[1210442.646637] udevadm[27158]: Successfully loaded SELinux database in 4.374ms, size on heap is 314K.
[1210442.646656] udevadm[27158]: calling: info
该命令会输出系统日志的最后10行。这些日志可以帮助排查性能问题。千万不要忘了这一步。
-
vmstat 1命令
[root@Dev-Test-203 ~]# vmstat 1
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
r b swpd free buff cache si so bi bo in cs us sy id wa st
0 0 32608 233992 916 2008624 0 0 1 10 7 7 3 3 94 0 0
5 0 32608 231060 916 2008652 0 0 0 9 4505 6121 8 15 77 0 0
0 0 32608 233396 916 2008688 0 0 0 0 7646 10633 12 14 74 0 0
0 0 32608 232608 916 2008648 0 0 0 114 7189 11091 8 5 86 1 0
0 0 32608 233028 916 2008656 0 0 0 0 1338 1987 2 1 98 0 0
0 0 32608 233028 916 2008660 0 0 0 0 1243 1876 1 1 98 0 0
0 0 32608 232604 916 2008660 0 0 0 18 2001 2659 3 2 95 1 0
0 0 32608 232656 916 2008668 0 0 0 0 1481 2167 1 1 98 0 0
0 0 32608 232636 916 2008676 0 0 0 151 1666 2315 5 1 94 1 0
0 0 32608 232532 916 2008680 0 0 0 0 1302 1758 2 1 97 0 0
0 0 32608 232532 916 2008684 0 0 0 0 1516 2335 2 1 97 0 0
5 0 32608 230012 916 2008688 0 0 0 9 3579 5516 10 13 77 0 0
vmstat命令，每行会输出一些系统核心指标，这些指标可以让我们更详细的了解系统状态。后面跟的参数1，表示每秒输出一次统计信息，表头提示了每一列的含义，这几介绍一些和性能调优相关的列：
r：等待在CPU资源的进程数。这个数据比平均负载更加能够体现CPU负载情况，数据中不包含等待IO的进程。如果这个数值大于机器CPU核数，那么机器的CPU资源已经饱和。
free：系统可用内存数（以千字节为单位），如果剩余内存不足，也会导致系统性能问题。下文介绍到的free命令，可以更详细的了解系统内存的使用情况。
si, so：交换区写入和读取的数量。如果这个数据不为0，说明系统已经在使用交换区（swap），机器物理内存已经不足。
us, sy, id, wa, st：这些都代表了CPU时间的消耗，它们分别表示用户时间（user）、系统（内核）时间（sys）、空闲时间（idle）、IO等待时间（wait）和被偷走的时间（stolen，一般被其他虚拟机消耗）。
上述这些CPU时间，可以让我们很快了解CPU是否出于繁忙状态。一般情况下，如果用户时间和系统时间相加非常大，CPU出于忙于执行指令。如果IO等待时间很长，那么系统的瓶颈可能在磁盘IO。
-
mpstat -P ALL 1命令
[root@Dev-Test-203 ~]# mpstat -P ALL 1
Linux 3.10.0-514.6.1.el7.x86_64 (Dev-Test-203) 05/09/2017 _x86_64_ (4 CPU)
04:52:23 PM CPU %usr %nice %sys %iowait %irq %soft %steal %guest %gnice %idle
04:52:24 PM all 1.75 0.00 1.00 0.00 0.00 0.00 0.00 0.00 0.00 97.24
04:52:24 PM 0 3.00 0.00 2.00 0.00 0.00 0.00 0.00 0.00 0.00 95.00
04:52:24 PM 1 2.00 0.00 1.00 0.00 0.00 0.00 0.00 0.00 0.00 97.00
04:52:24 PM 2 1.00 0.00 1.00 0.00 0.00 0.00 0.00 0.00 0.00 98.00
04:52:24 PM 3 1.00 0.00 1.00 0.00 0.00 0.00 0.00 0.00 0.00 98.00
该命令可以显示每个CPU的占用情况，如果有一个CPU占用率特别高，那么有可能是一个单线程应用程序引起的。
-
pidstat 1命令
[root@Dev-Test-203 ~]# pidstat 1
Linux 3.10.0-514.6.1.el7.x86_64 (Dev-Test-203) 05/09/2017 _x86_64_ (4 CPU)
04:54:13 PM UID PID %usr %system %guest %CPU CPU Command
04:54:14 PM 102 4768 0.96 0.96 0.00 1.92 1 redis-server
04:54:14 PM 106 7208 0.00 0.96 0.00 0.96 0 haproxy
04:54:14 PM 0 8994 0.96 2.88 0.00 3.85 3 pidstat
04:54:14 PM 0 12940 4.81 0.96 0.00 5.77 0 dockerd
04:54:14 PM 0 12960 0.00 0.96 0.00 0.96 3 loop0
04:54:14 PM 0 16610 0.96 0.00 0.00 0.96 3 rancher-metadat
04:54:14 PM 0 17338 0.96 0.00 0.00 0.96 1 plugin-manager
04:54:14 PM 0 24713 10.58 9.62 0.00 20.19 1 cadvisor
04:54:14 PM 109 27286 1.92 1.92 0.00 3.85 3 beam.smp
04:54:14 PM 999 27733 0.96 0.96 0.00 1.92 1 daphne
pidstat命令输出进程的CPU占用率，该命令会持续输出，并且不会覆盖之前的数据，可以方便观察系统动态。
-
iostat -xz 1命令
[root@Dev-Test-203 ~]# iostat -xz 1
Linux 3.10.0-514.6.1.el7.x86_64 (Dev-Test-203) 05/09/2017 _x86_64_ (4 CPU)
avg-cpu: %user %nice %system %iowait %steal %idle
3.49 0.00 2.65 0.23 0.00 93.63
Device: rrqm/s wrqm/s r/s w/s rkB/s wkB/s avgrq-sz avgqu-sz await r_await w_await svctm %util
sda 0.01 0.15 0.08 2.08 2.06 21.69 22.02 0.03 12.92 5.26 13.21 5.21 1.12
dm-0 0.00 0.00 0.08 2.13 2.00 21.28 21.10 0.03 13.65 5.29 13.94 5.08 1.12
dm-1 0.00 0.00 0.01 0.10 0.03 0.40 8.01 0.00 19.17 8.54 20.04 0.25 0.00
dm-2 0.00 0.00 0.00 0.00 0.00 0.00 27.20 0.00 10.77 6.23 17.66 5.07 0.00
dm-3 0.00 0.00 0.03 0.09 0.57 1.63 38.43 0.00 8.55 2.50 10.28 4.03 0.05
dm-4 0.00 0.00 0.00 0.00 0.04 0.01 59.16 0.00 3.76 3.44 5.59 2.00 0.00
dm-5 0.00 0.00 0.00 0.00 0.01 0.00 53.15 0.00 2.74 1.85 11.37 1.02 0.00
dm-7 0.00 0.00 0.00 0.00 0.01 0.09 41.04 0.00 6.63 3.26 7.06 4.42 0.00
dm-8 0.00 0.00 0.00 0.00 0.01 0.08 36.56 0.00 4.91 1.87 5.22 4.78 0.00
dm-9 0.00 0.00 0.00 0.01 0.02 0.09 29.21 0.00 6.90 2.31 7.40 3.35 0.00
dm-10 0.00 0.00 0.00 0.00 0.04 0.00 64.19 0.00 1.60 1.01 11.22 0.64 0.00
dm-11 0.00 0.00 0.00 0.00 0.01 0.00 40.18 0.00 7.79 6.85 18.77 1.47 0.00
dm-12 0.00 0.00 0.00 0.00 0.01 0.00 43.22 0.00 1.72 1.69 1.98 1.33 0.00
dm-13 0.00 0.00 0.00 0.00 0.02 0.00 52.31 0.00 3.18 2.19 14.03 0.96 0.00
dm-6 0.00 0.00 0.00 0.00 0.02 0.00 63.19 0.00 1.49 0.90 6.86 1.13 0.00
dm-14 0.00 0.00 0.00 0.00 0.02 0.00 60.85 0.00 4.88 3.77 17.47 1.37 0.00
dm-15 0.00 0.00 0.00 0.00 0.03 0.01 51.59 0.00 5.24 3.76 6.88 3.00 0.00
dm-16 0.00 0.00 0.00 0.00 0.06 0.03 52.55 0.00 4.52 3.33 6.92 2.56 0.00
dm-17 0.00 0.00 0.01 0.04 0.09 0.97 45.18 0.00 11.00 4.92 11.77 7.90 0.04
dm-18 0.00 0.00 0.00 0.00 0.01 0.00 43.23 0.00 4.25 1.18 27.08 1.24 0.00
dm-19 0.00 0.00 0.00 0.00 0.03 0.00 35.95 0.00 1.69 0.09 18.49 0.17 0.00
iostat命令主要用于查看机器磁盘IO情况。该命令输出的列，主要含义是：
r/s, w/s, rkB/s, wkB/s：分别表示每秒读写次数和每秒读写数据量（千字节）。读写量过大，可能会引起性能问题。
await：IO操作的平均等待时间，单位是毫秒。这是应用程序在和磁盘交互时，需要消耗的时间，包括IO等待和实际操作的耗时。如果这个数值过大，可能是硬件设备遇到了瓶颈或者出现故障。
avgqu-sz：向设备发出的请求平均数量。如果这个数值大于1，可能是硬件设备已经饱和（部分前端硬件设备支持并行写入）。
%util：设备利用率。这个数值表示设备的繁忙程度，经验值是如果超过60，可能会影响IO性能（可以参照IO操作平均等待时间）。如果到达100%，说明硬件设备已经饱和。
如果显示的是逻辑设备的数据，那么设备利用率不代表后端实际的硬件设备已经饱和。值得注意的是，即使IO性能不理想，也不一定意味这应用程序性能会不好，可以利用诸如预读取、写缓存等策略提升应用性能。
-
free –m命令
[root@Dev-Test-203 ~]# free -m
total used free shared buff/cache available
Mem: 3790 1620 197 211 1973 1633
Swap: 3967 31 3936
free命令可以查看系统内存的使用情况，-m参数表示按照兆字节展示。最后两列分别表示用于IO缓存的内存数，和用于文件系统页缓存的内存数。需要注意的是，如果出现行-/+ buffers/cache，看上去缓存占用了大量内存空间。这是Linux系统的内存使用策略，尽可能的利用内存，如果应用程序需要内存，这部分内存会立即被回收并分配给应用程序。因此，这部分内存一般也被当成是可用内存。
如果可用内存非常少，系统可能会动用交换区（如果配置了的话），这样会增加IO开销（可以在iostat命令中提现），降低系统性能。
-
sar -n DEV 1命令
[root@Dev-Test-203 ~]# sar -n DEV 1
Linux 3.10.0-514.6.1.el7.x86_64 (Dev-Test-203) 05/09/2017 _x86_64_ (4 CPU)
04:58:58 PM IFACE rxpck/s txpck/s rxkB/s txkB/s rxcmp/s txcmp/s rxmcst/s
04:58:59 PM veth4e7f1d9f 4.00 4.00 0.98 3.39 0.00 0.00 0.00
04:58:59 PM veth36889dc3 0.00 0.00 0.00 0.00 0.00 0.00 0.00
04:58:59 PM veth3d7a6375 7.00 8.00 0.48 0.65 0.00 0.00 0.00
04:58:59 PM veth5b95b0ac 0.00 0.00 0.00 0.00 0.00 0.00 0.00
04:58:59 PM vethbed2b08d 0.00 0.00 0.00 0.00 0.00 0.00 0.00
04:58:59 PM vethf6fc7307 0.00 0.00 0.00 0.00 0.00 0.00 0.00
04:58:59 PM lo 0.00 0.00 0.00 0.00 0.00 0.00 0.00
04:58:59 PM enp4s0 48.00 34.00 9.72 4.64 0.00 0.00 0.00
04:58:59 PM enp6s0 0.00 0.00 0.00 0.00 0.00 0.00 0.00
04:58:59 PM veth5c95e8a 0.00 0.00 0.00 0.00 0.00 0.00 0.00
04:58:59 PM vethd0c9b86 14.00 13.00 82.92 1.42 0.00 0.00 0.00
04:58:59 PM veth852aa04f 23.00 23.00 6.19 6.25 0.00 0.00 0.00
04:58:59 PM vethab289cc8 0.00 0.00 0.00 0.00 0.00 0.00 0.00
04:58:59 PM docker_gwbridge 0.00 0.00 0.00 0.00 0.00 0.00 0.00
04:58:59 PM docker0 25.00 25.00 84.73 6.21 0.00 0.00 0.00
sar命令在这里可以查看网络设备的吞吐率。在排查性能问题时，可以通过网络设备的吞吐量，判断网络设备是否已经饱和。
-
sar -n TCP,ETCP 1命令
[root@Dev-Test-203 ~]# sar -n TCP,ETCP 1
Linux 3.10.0-514.6.1.el7.x86_64 (Dev-Test-203) 05/09/2017 _x86_64_ (4 CPU)
05:20:58 PM active/s passive/s iseg/s oseg/s
05:20:59 PM 2.00 0.00 32.00 38.00
05:20:58 PM atmptf/s estres/s retrans/s isegerr/s orsts/s
05:20:59 PM 0.00 0.00 0.00 0.00 0.00
05:20:59 PM active/s passive/s iseg/s oseg/s
05:21:00 PM 9.00 0.00 63.00 204.00
05:20:59 PM atmptf/s estres/s retrans/s isegerr/s orsts/s
05:21:00 PM 4.00 0.00 0.00 0.00 8.00
05:21:00 PM active/s passive/s iseg/s oseg/s
05:21:01 PM 0.00 0.00 12.00 13.00
05:21:00 PM atmptf/s estres/s retrans/s isegerr/s orsts/s
05:21:01 PM 0.00 0.00 0.00 0.00 0.00
05:21:01 PM active/s passive/s iseg/s oseg/s
05:21:02 PM 0.00 0.00 22.00 27.00
05:21:01 PM atmptf/s estres/s retrans/s isegerr/s orsts/s
05:21:02 PM 0.00 0.00 0.00 0.00 0.00
sar命令在这里用于查看TCP连接状态，其中包括：
- active/s：每秒本地发起的TCP连接数，既通过connect调用创建的TCP连接；
- passive/s：每秒远程发起的TCP连接数，即通过accept调用创建的TCP连接；
- retrans/s：每秒TCP重传数量；
TCP连接数可以用来判断性能问题是否由于建立了过多的连接，进一步可以判断是主动发起的连接，还是被动接受的连接。TCP重传可能是因为网络环境恶劣，或者服务器压力过大导致丢包。
-
top命令
[root@Dev-Test-203 ~]# top
top - 17:23:42 up 14 days, 50 min, 2 users, load average: 6.79, 2.41, 0.96
Tasks: 397 total, 1 running, 396 sleeping, 0 stopped, 0 zombie
%Cpu(s): 9.9 us, 11.2 sy, 0.0 ni, 78.7 id, 0.0 wa, 0.0 hi, 0.2 si, 0.0 st
KiB Mem : 3881888 total, 203632 free, 1657044 used, 2021212 buff/cache
KiB Swap: 4063228 total, 4030692 free, 32536 used. 1676340 avail Mem
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
24713 root 20 0 513752 157296 7476 S 7.0 4.1 100:58.55 cadvisor
11943 root 20 0 1086896 35264 9264 S 6.3 0.9 133:55.98 telegraf
9561 root 20 0 1097140 38020 9232 S 6.0 1.0 136:29.51 telegraf
19998 root 20 0 648876 30200 9456 S 4.3 0.8 96:42.35 telegraf
12940 root 20 0 2558440 92736 20692 S 3.0 2.4 53:01.38 dockerd
12948 root 20 0 1424740 19336 4492 S 2.7 0.5 14:51.40 docker-containe
27286 109 20 0 2253776 96864 3268 S 2.7 2.5 57:25.64 beam.smp
27733 polkitd 20 0 265736 75964 8556 S 2.0 2.0 35:29.90 daphne
11698 telegraf 20 0 497988 23824 9232 S 1.7 0.6 45:52.80 telegraf
4768 102 20 0 36996 3104 1348 S 1.0 0.1 4:20.36 redis-server
513 root 20 0 36820 5756 5468 S 0.7 0.1 16:51.69 systemd-journal
922 root 20 0 467664 7584 6496 S 0.7 0.2 15:57.66 rsyslogd
32741 root 20 0 157980 2576 1532 R 0.7 0.1 0:00.21 top
9 root 20 0 0 0 0 S 0.3 0.0 15:43.40 rcu_sched
586 106 20 0 38492 1656 388 S 0.3 0.0 0:00.01 haproxy
15710 root 20 0 142904 5140 3876 S 0.3 0.1 0:00.28 sshd
top命令包含了前面好几个命令的检查的内容。比如系统负载情况（uptime）、系统内存使用情况（free）、系统CPU使用情况（vmstat）等。因此通过这个命令，可以相对全面的查看系统负载的来源。同时，top命令支持排序，可以按照不同的列排序，方便查找出诸如内存占用最多的进程、CPU占用率最高的进程等。
但是，top命令相对于前面一些命令，输出是一个瞬间值，如果不持续盯着，可能会错过一些线索。这时可能需要暂停top命令刷新，来记录和比对数据。