老李分享:apache日志分析及系统cpu,内存,负载情况监控

老李分享:apache日志分析及系统cpu,内存,负载情况监控

1.根据Apache Log,获取当天秒并发数最多的记录

tail -10000 ./demo.fdipzone.com_access_log.2014-01-16_01 | cut -d"[" -f 2 | awk '{print $1;}' | sort | uniq -c | sort -nr | head

tail -10000 ./demo.fdipzone.com_access_log.2014-01-16_01 | awk -F"[" '{print $2;}' | awk '{print $1;}' | sort | uniq -c | sort -nr | head

运行结果:

fdipzone@ubuntu:~$ tail -100000 ./demo.fdipzone.com_access_log.2014-01-16_01 | cut -d"[" -f 2 | awk '{print $1;}' | sort | uniq -c | sort -nr | head 
109 16/Jan/2014:22:51:16
95 16/Jan/2014:22:46:56
87 16/Jan/2014:23:56:30
87 16/Jan/2014:22:48:27
80 16/Jan/2014:23:55:52
79 16/Jan/2014:23:51:29
74 16/Jan/2014:23:00:33
72 16/Jan/2014:23:28:04
72 16/Jan/2014:23:17:35
70 16/Jan/2014:23:05:38

tail -10000 为access log 最大行数,此处请根据实际设置,如access log最大行数是500000 则使用tail -500000

head 默认会显示头10行,如要修改则可以加 -n 参数,例如 head -n 100 会显示头100行内容

每分钟最高访问数
awk '{print $4}' access_log |cut -c 14-18|sort|uniq -c|sort -nr|head

每小时最高访问数
awk '{print $4}' access_log |cut -c 14-15|sort|uniq -c|sort -nr|head -n 24

指定某分钟的每秒访问数
grep '01/Nov/2013:15:59' access.log | cut -d"[" -f 2 | awk '{print $1;}' | sort | uniq -c | sort -nr | head -60

2.记录cpu与内存使用到Log

vmstat命令是最常见的Linux/Unix监控工具,可以展现给定时间间隔的服务器的状态值,包括服务器的CPU使用率,内存使用,虚拟内存交换情况,IO读写情况。

vmstat 共有两个参数,一个是每次采集的时间间隔,另一个是采集的次数。

vmstat 1 11 表示每次采集时间为1秒,共采集11次。因为vmstat第一次采集的记录是不正确的,所以如果要采集10次,请设置次数为11,这样才可以获取到10条有用的记录。

fdipzone@ubuntu:~$ vmstat 1 11
procs -----------memory---------- ---swap-- -----io---- -system-- ----cpu----
r b swpd free buff cache si so bi bo in cs us sy id wa
0 0 0 335240 52072 241320 0 0 689 42 234 460 4 13 80 3
1 0 0 335860 52072 241320 0 0 0 0 352 528 2 2 97 0
2 0 0 336364 52072 241320 0 0 0 0 564 692 4 3 94 0
0 0 0 336992 52072 241320 0 0 0 0 316 483 1 2 97 0
2 0 0 336432 52076 241476 0 0 156 0 332 554 2 6 91 2
0 0 0 336928 52084 241480 0 0 0 84 349 494 1 3 96 0
0 0 0 337564 52084 241476 0 0 0 0 263 437 0 2 98 0
0 0 0 338068 52084 241476 0 0 0 0 299 456 1 2 97 0
0 0 0 338696 52084 241476 0 0 0 0 321 473 1 3 96 0
1 0 0 339200 52084 241476 0 0 0 0 271 461 0 2 98 0
0 0 0 339828 52084 241476 0 0 0 0 255 429 1 2 96 0

vmstat 1 >> vmstat.log 每秒采集,写入vmstat.log

 

vmstat 输出的每个参数说明:

r 表示运行队列(就是说多少个进程真的分配到CPU),当这个值超过了CPU数目,就会出现CPU瓶颈了。这个也和top的负载有关系,一般负载超过了3就比较高,超过了5就高,超过了10就不正常了,服务器的状态很危险。top的负载类似每秒的运行队列。如果运行队列过大,表示你的CPU很繁忙,一般会造成CPU使用率很高。

b 表示阻塞的进程。

swpd 虚拟内存已使用的大小,如果大于0,表示你的机器物理内存不足了,如果不是程序内存泄露的原因,那么你该升级内存了或者把耗内存的任务迁移到其他机器。

free   空闲的物理内存的大小,我的测试机器内存总共1G,剩余330M。

buff   Linux/Unix系统是用来存储,目录里面有什么内容,权限等的缓存,我本机大概占用500多M

cache cache直接用来记忆我们打开的文件,给文件做缓冲,(这里是Linux/Unix的聪明之处,把空闲的物理内存的一部分拿来做文件和目录的缓存,是为了提高 程序执行的性能,当程序使用内存时,buffer/cached会很快地被使用。)

si  每秒从磁盘读入虚拟内存的大小,如果这个值大于0,表示物理内存不够用或者内存泄露了,要查找耗内存进程解决掉。

so  每秒虚拟内存写入磁盘的大小,如果这个值大于0,同上。

bi  块设备每秒接收的块数量,这里的块设备是指系统上所有的磁盘和其他块设备,默认块大小是1024byte。

bo 块设备每秒发送的块数量,例如我们读取文件,bo就要大于0。bi和bo一般都要接近0,不然就是IO过于频繁,需要调整。

in 每秒CPU的中断次数,包括时间中断

cs 每秒上下文切换次数,例如我们调用系统函数,就要进行上下文切换,线程的切换,也要进程上下文切换,这个值要越小越好,太大了,要考虑调低线程或者进程的数目,例如在apache和nginx这种web服务器中,我们一般做性能测试时会进行几千并发甚至几万并发的测试,选择web服务器的进程可以由进程或者线程的峰值一直下调,压测,直到cs到一个比较小的值,这个进程和线程数就是比较合适的值了。系统调用也是,每次调用系统函数,我们的代码就会进入内核空间,导致上下文切换,这个是很耗资源,也要尽量避免频繁调用系统函数。上下文切换次数过多表示你的CPU大部分浪费在上下文切换,导致CPU干正经事的时间少了,CPU没有充分利用,是不可取的。

us 用户CPU时间,高于70%则表示CPU有压力。

sy 系统CPU时间,如果太高,表示系统调用时间长,例如是IO操作频繁。

id  空闲 CPU时间,一般来说,id + us + sy = 100,一般我认为id是空闲CPU使用率,us是用户CPU使用率,sy是系统CPU使用率。

wt 等待IO CPU时间。


你可能感兴趣的:(软件测试开发)