正在赶写演讲的ppt,突然听到短信想起,没理会,以为是广告呢。刚放下念头,短信接连不断的响起来,不用想
,准是哪个服务器报警了。
打开nagios监控见面,发现3个服务器(3个服务器处于同一个集群下,业务为论坛,同时在线人数大概4万人)的
load过高,处于warning状态
1、 先查看访问流量,通过对比,跟以前没什么差别。
2、 查看每个服务器的进程数和cpu使用情况,跟以前也没什么差别。
3、 查看系统日志,每个服务器都有“TCP: Treason uncloaked! Peer 113.247.241.146:21345/80 shrinks
window 2128147967:2128149427. Repaired.”
4、 查看php日志,大量“[WARNING] fpm_request_check_timed_out(), line 158: child 25379, script
'/mnt/html/bbs/forum.php' (pool default) execution timed out (120.306361 sec), terminating”。打
开论坛首页,居然花了120多秒。我在php配置文件里设置的执行中断时间是120秒,超过这个值则关闭该子进程。
看来应该从这里下手了。
先问问其他人,最近有没有改程序,有没有加插件?答:“没有”。我再仔细检查了系统:
(1) 查看有没有文件系统损坏而不能写入
(2) 查看分区是否满(实际上满了的话,有短信报警的)
(3) 查看tcp连接状态,还没以前多呢,看来不是系统的问题
那么,与之有关联的还有数据库、nfs文件系统以及memchached。先检查容易的,好!先检查nfs,正常;再检查
memcached,正常。看来估计数据库有什么问题了。
登录数据库,先查看数据库错误日志,tail –f 一下,滚动输出,看来问题找到了。输入的内容主要有一下几行
:
[ERROR] Got error 134 when reading table './uc_mumayi/cdb_uc_members'
[ERROR] Got error 134 when reading table './uc_mumayi_net/cdb_uc_members'
[ERROR] /usr/local/mysql/libexec/mysqld: The table 'pre_common_session' is full
接下来,从处理表满开始,把它的行数值设置巨大一点,我设置的是1000万,指令为:mysql>ALTER TABLE
pre_common_session MAX_ROWS=10000000; 完毕后3个web服务器的负载马上就下降了。从报错信息中,可以判断
有2个表可能损坏了。检查一下,如果真坏了,就修复一下吧!
(1)检查第一个表:mysql> check table cdb_uc_notelist;输出为
+---------------------------+-------+----------+-----------------------------------------------
------------+
| Table | Op | Msg_type | Msg_text
|
+---------------------------+-------+----------+-----------------------------------------------
------------+
| uc_mumayi.cdb_uc_notelist | check | warning | 11 clients are using or haven't closed the table
properly |
| uc_mumayi.cdb_uc_notelist | check | warning | Size of datafile is: 260372 Should be:
259760 |
| uc_mumayi.cdb_uc_notelist | check | error | Wrong bytesec: 101-114-110 at linkstart: 258412
|
| uc_mumayi.cdb_uc_notelist | check | error | Corrupt
|
+---------------------------+-------+----------+-----------------------------------------------
------------+
4 rows in set (0.04 sec)真损坏了,修复一把:
mysql> repair table cdb_uc_notelist;
输出为
+---------------------------+--------+----------+----------------------------------------------
-+
| Table | Op | Msg_type | Msg_text
|
+---------------------------+--------+----------+----------------------------------------------
-+
| uc_mumayi.cdb_uc_notelist | repair | info | Wrong bytesec: 101-114-110 at 258412; Skipped
|
| uc_mumayi.cdb_uc_notelist | repair | warning | Number of rows changed from 5715 to 5742 |
| uc_mumayi.cdb_uc_notelist | repair | status | OK
|
+---------------------------+--------+----------+----------------------------------------------
-+
(2)修复第2个表,方法同上。
(3)再次检查表状态。
(4)让管理员从后台登录,查看是否正常。