Linux日志分析和管理

目录

日志的作用、分类、管理、轮转和级别

rsyslog服务

Journal守护进程

/var/log下相关的日志文件

日志服务器的建立

---

日志的作用、分类、管理、轮转和级别

日志的作用：

• 用于记录系统、程序运行中发生的各种事件
• 通过阅读日志，有助于诊断，解决系统故障

日志文件的分类：

• 内核及系统日志：由系统服务 rsyslog 统一管理，日志格式相似
• 用户日志：记录系统用户登录及退出系统的相关信息
• 程序日志：由各种应用程序独立管理的日志文件，格式不统一

日志管理策略
日志也并不是完全可靠的，高级的黑客在入侵系统后，会删除相应的日志记录，因此需要做好日志的管理工作：

• 日志的备份和归档
• 延长日志的保存期限
• 控制日志的访问权限
• 集中管理日志。比如，将服务器的日志文件发送到统一到日志文件服务器，这样便于日志信息的统一收集、整理和分析，还可以杜绝日志信息的意外丢失、恶意修改和删除

日志的轮转和切割
随着时间的推移，日志文件肯定会越来越大，而且这个趋势是呈线性增长。所以，需要对之前的日志文件做一些处理。日志轮转和切割指的是实现对当前日志归档，开始新的日志，删除早期的日志。Linux中，日志轮转和切割这个服务是由 logrotate 提供的。logrotate这个程序的目录：/etc/cron.daily/logrotate  。logrotate 是作为 corn 的一个每日任务，周期性执行的。它具备自动轮转、压缩、搬迁 和 邮件通知到日志系统的多项功能。每一个日志文件都可以按照每天、每周、每月周期性处理，或是增长到多大而触发处理。

日志消息的级别

日志消息的级别

level等级	状况
0 EMERG（紧急）	会导致主机系统不可用的情况
1 ALERT （警告）	必须马上采取措施解决的情况
2 CRIT （严重）	比较严重的情况
3 ERR （错误）	运行出现错误
4 WARNING (提醒)	可能会影响系统功能的事件
5 NOTICE (注意)	不会影响系统但值得注意
6 INFO （注意）	一般信息
7 DEBUG（调试）	程序或系统调试信息等

rsyslog服务

rsyslog服务是由 rsyslogd 程序提供的。rsyslogd 程序负责收集和管理与系统有关的日志

• 程序目录：/sbin/rsyslogd  
• rsyslogd配置文件所在目录：/etc/rsyslog.conf 
• rsyslogd相关文件：/etc/sysconfig/rsyslog  
• 和日志轮转(切割)相关文件：/etc/logrotate.d/syslog

系统中的程序，在收集日志的时候，都是调用 syslog() 函数，这个函数的作用是发送日志消息给系统的 logger，然后由logger 根据 rsyslogd 程序的配置文件 /etc/rsyslog.conf 中的规则，将日志消息按照不同的格式写入不同的文件中。

syslog() 函数内部有不同的设备，不同的程序有可能对应相同的设备，也有可能对应不同的设备。通过 man  3  syslog  可查看syslog中的不同设备和不同预警级别。程序所对应的设备大部分不可修改，都已经编译好。但是有的程序的配置文件中允许修改设备。比如sshd程序，在其配置文件 /etc/ssh/sshd_config 中可修改设备。LOCAL0 ~ LOCAL6 是自定义设备。不建议修改程序所对应的默认设备。程序所对应的设备这个不是我们所关心的，是开发者已经配置好的。

rsyslogd 中有不同的规则，指定了不同的设备的不同预警级别对应的不同文件。logger 就是根据  rsyslogd 中的规则进行日志写入。rsyslogd 中的规则我们自己可以定义修改增加。所以如果我们关闭 rsyslogd 程序的话，logger就不知道该将日志文件写入哪里，所以就会产生错误。 

一些程序所对应的设备

程序 Program	设备 Facility
/usr/sbin/sshd	LOG_AUTHPRIV
/usr/bin/su	LOG_AUTHPRIV
/usr/bin/login	LOG_AUTHPRIV
/usr/sbin/vsftpd	LOG_FTP
/usr/bin/at	LOG_CRON
/usr/sbin/crond	LOG_CRON
/usr/sbin/portfix	LOG_MAIL

rsyslogd的配置文件 /etc/rsyslog.conf 中的一些规则

设备 Facility 和 级别	对应的文件
*.info; mail.none; authpriv.none; cron.none (任何设备的这些级别)	/var/log/messages
authpriv.*  (authpriv设备的所有级别)	/var/log/secure
mail.* (mail设备的所有级别)	-/var/log/maillog
cron.*  (cron设备的所有级别)	/var/log/cron
*.emery (所有设备的emery级别)	:omusrmsg:*   （打印到终端）
local0.*   ~  local6.*	自己可定义文件

但是像我们很多自己的应用,不是由 rsyslogd进程收集和管理日志，因为他们不调用 syslog()函数。比如apache、nginx、mysql、httpd 都有自己的日志进程负责收集和管理日志。
日志文件默认都是保存在 /var/log/ 目录下。

常见的日志文件目录

名称	路径
内核、公共消息日志、系统主日志文件	/var/log/messages
用户登录日志	/var/log/secure
计划任务日志	/var/log/cron
跟yum安装有关	/var/log/yum.log
系统引导日志	/var/log/dmesg
邮件系统日志，跟postfix有关	/var/log/maillog
当前登录的用户，二进制文件，可用 last 查看	/var/log/wtmp
最近登录的用户 , 二进制文件  ，可用 lastb 查看	/var/log/btmp
所有用户的登录情况，二进制文件，可用 lastlog 查看	/var/log/lastlog

这个是  /var/log/secure 里的登录日志 ，第一行说明root用户登录xie登录成功。第二三行说明xie用户想登录bob用户然后认证失败了，也就是密码错误。第四行说明xie用户退出登录了。

 grep 'Fail' /var/log/secure | awk '{print $11}' | sort |uniq -c | sort -k1 -n -r | head -5     查看登录失败的那一行，然后打印出第11列(从后数)， 然后排序，然后去除重复，然后按第一列排序 ，然后查看前五个

Journal守护进程

在Rhel7中，syslog 消息除了由 rsyslog 服务处理外，还新加了一个 journal 监听，日志文件在 /run/log/journal 目录中。
systemd-journald 守护进程提供了一个改进的日志管理服务。在使用其它工具时，日志往往被分散在整套系统当中，由不同的守护进程及进程负责处理，这意味着我们很难跨越多种应用程序对其内容进行解读。而 systemd 尝试提供一套集中化管理方案，从而统一打理全部内核及用户级进程的日志信息，这也就是我们journal。这套系统能够收集并管理日志内容，它从内核中收集消息：启动过程的早期阶段、标准输出和守护进程的错误。当它们启动和运行时，以及 syslog ，它将这些消息写入到结构化的事件日志。syslog消息也由 systemd-journald 转发到 rsyslog 服务，然后按类型(或设备)和优先级对消息进行排序，并将他们写入到 /var/log/ 日志目录中的持久文件中。

但是，我们的 /run/log/journal 目录下的日志信息并不能直接查看，该文件是二进制文件，需要借助命令查看

journal日志的查看

• journalctl                                   显示所有的日志信息
• journalctl  -n  10                        显示最近10条的日志信息
• journalctl  -u   nginx.service       查看nginx服务的日志自信息
• journalctl  _PID=1234                查看PID进程为1234的日志信息
• journalctl  _UID=0                     查看UDI为0的用户的日志信息
• journalctl  /usr/bin/bash             查看指定路径可执行文件的日志信息
• journalctl  --since  today            查看今天以来的日志的信息

/var/log下相关的日志文件

• /var/log/message:几乎所有的开机系统发生的错误都会在此记录;
• /var/log/secure：记录登录系统存取数据的文件，例如：ssh、pop3、telnet，ftp等都会记录在此.。
• /var/log/wtmp：记录ssh登录成功的记录，二进制文件
• /var/log/btmp：记录ssh登录失败的记录，二进制文件
• /var/log/lastlog 记录每个用户最后的登录信息;
• /var/log/boot.log：记录一些开机或者关机启动的一些服务显示的启动或者关闭的信息;
• /var/log/maillog：记录邮件的存取和往来;
• /var/log/cron：用来记录crontab定时任务的记录;
• /var/log/httpd：http服务的记录
•   /var/log/audit：包含被 Linux audit daemon储存的信息
• /var/log/dmesg：内核日志;
• /var/log/cpus： CPU的处理信息；
• /var/log/anaconda.log：在安装Linux时，所有的安装信息记录
• /var/log/syslog： 事件记录监控程序日志；
• /var/log/auth.log： 用户认证日志；
• /var/log/daemon.log： 系统进程日志；
• /var/log/mail.err ：邮件错误信息；
• /var/log/mail.info： 邮件信息；
• /var/log/mail.warn： 邮件警告信息；
• /var/log/daemon.log： 系统监控程序产生的信息;
• /var/log/kern： 内核产生的信息;
• /var/log/lpr ：  行打印机假脱机系统产生的信息;
• /var/log/sa：包含每日由sysstat软件包收集的sar文件。
• /var/log/yum.log：使用yum安装的软件包的记录

日志服务器的建立

文章：建立日志服务器