【拓展】Loguru：更为优雅、简洁的Python 日志管理模块
【一】引入
- 在 Python 开发中涉及到日志记录，我们或许通常会想到内置标准库 —— logging 。
- 虽然logging 库采用的是模块化设计，可以设置不同的 handler 来进行组合，但是在配置上较为繁琐。
- 同时在多线程或多进程的场景下，若不进行特殊处理还会导致日志记录会出现异常。
- 本文将介绍一个十分优雅、简洁的日志记录第三方库—— loguru ，我们可以通过导入其封装的logger 类的实例，即可直接进行调用。
【二】安装
- 使用 pip 安装即可，Python 3 版本的安装如下：
pip3 install loguru【三】基本使用
【1】使用方法
- 我们直接通过导入loguru 封装好的logger 类的实例化对象，不需要手动创建 logger，直接进行调用不同级别的日志输出方法。
【2】示例
from loguru import logger
logger.debug('This is debug information')
logger.info('This is info information')
logger.warning('This is warn information')
logger.error('This is error information')【3】样式
- 在 IDE 或终端运行时会发现
- loguru 在输出的不同级别信息时，带上了不同的颜色，使得结果更加直观
- 其中也包含了时间、级别、模块名、行号以及日志信息。
【4】不同日志级别与日志记录方法对应关系
- loguru 中不同日志级别与日志记录方法对应关系 如下：
| 级别名称 | 严重度值 | 记录器法 |
|---|---|---|
| TRACE | 5 | logger.trace() |
| DEBUG | 10 | logger.debug() |
| INFO | 20 | logger.info() |
| SUCCESS | 25 | logger.success() |
| WARNING | 30 | logger.warning() |
| ERROR | 40 | logger.error() |
| CRITICAL | 50 | logger.critical() |
- 简单语法
logger.trace('这是一条记录日志)
logger.debug('这是一条测试日志')
logger.info('这是一条信息日志')
logger.success('这是一条成功日志')
logger.warning('这是一条警告日志')
logger.error('这是一条错误日志')
logger.critical('这是一条严重错误日志')【5】日志规则
- 设置日志格式，过滤器，日志级别
from loguru import logger
logger.add("file.log", format="{time} {level} {message}", level="INFO")
logger.debug("这是一条测试日志")
logger.info("这是一条信息日志")- 终端展示
2023-08-07 23:16:25.307 | DEBUG | __main__::18 - 这是一条测试日志
2023-08-07 23:16:25.307 | INFO | __main__::19 - 这是一条信息日志 【6】保存到文件
from loguru import logger
logger.add("file.log")
logger.debug("这是一条debug日志")
logger.info("这是一条info日志")- 结果为目录多出一个日志文件：file.log
【7】日志文件拆分(add方法)
- 由于日志文件会非常大，所以实际情况中会对日志文件进行拆分。
from loguru import logger
logger.add("log_{time}.log", encoding='utf-8') # 以时间命名【四】loguru 配置日志文件
- logger 默认采用 sys.stderr 标准错误输出将日志输出到控制台中，假如想要将日志同时输出到其他的位置，比如日志文件，此时我们只需要使用一行代码即可实现。
- 例如，将日志信息输出到 2021-3-28.log 文件中，可以这么写：
from loguru import logger
logger.add("E:/Old Boy/day_projects/日志模块/log_2023-8-7.log",rotation="500MB", encoding="utf-8", enqueue=True, retention="10 days")
logger.info('This is info information')- 终端显示结果
2023-08-07 22:47:11.611 | INFO | __main__::19 - This is info information - 如上，loguru直接通过 add() 方法，完成了日志文件的配置。
【五】日志内容的字符串格式化
- loguru 在输出 日志的时候，还提供了非常灵活的字符串格式化输出日志的功能，如下：
import platform
from loguru import logger
rounded_value = round(0.345, 2)
trace= logger.add('2023-8-7.log')
logger.info('If you are using Python {version}, prefer {feature} of course!', version=platform.python_version(), feature='f-strings')- 执行上述代码，输出结果为
2023-08-07 22:46:03.812 | INFO | __main__::21 - If you are using Python 3.9.13, prefer f-strings of course! 【六】loguru日志常用参数配置解析
- sink：可以传入一个 file 对象(file-like object)，或一个 str 字符串或者 pathlib.Path 对象，或一个方法(coroutine function)，或 logging 模块的 Handler(logging.Handler)。
- level (int or str, optional) ：应将已记录消息发送到接收器的最低严重级别。
- format (str or callable, optional) ：格式化模块，在发送到接收器之前，使用模板对记录的消息进行格式化。
- filter (callable, str or dict, optional) ：用于决定每个记录的消息是否应该发送到接收器。
- colorize (bool, optional) – 是否应将格式化消息中包含的颜色标记转换为用于终端着色的Ansi代码，或以其他方式剥离。如果None，根据水槽是否为TTY自动作出选择。
- serialize (bool, optional) ：在发送到接收器之前，记录的消息及其记录是否应该首先转换为JSON字符串。
- backtrace (bool, optional) ：格式化的异常跟踪是否应该向上扩展，超出捕获点，以显示生成错误的完整堆栈跟踪。
- diagnose (bool, optional) ：异常跟踪是否应该显示变量值以简化调试。在生产中，这应该设置为“False”，以避免泄漏敏感数据。
- enqueue (bool, optional) ：要记录的消息在到达接收器之前是否应该首先通过多进程安全队列。当通过多个进程将日志记录到文件中时，这是非常有用的。这还具有使日志调用非阻塞的优点。
- catch (bool, optional) ：是否应该自动捕获接收器处理日志消息时发生的错误。如果True上显示异常消息 sys.stderr。但是，异常不会传播到调用者，从而防止应用程序崩溃。
如果当接收器(sink)是文件路径( pathlib.Path )时，可以应用下列参数，同时add() 会返回与所添加的接收器相关联的标识符：
- rotation：分隔日志文件，何时关闭当前日志文件并启动一个新文件的条件，;例如，"500 MB"、"0.5 GB"、"1 month 2 weeks"、"10h"、"monthly"、"18:00"、"sunday"、"monday at 18:00"、"06:15"
- retention (str, int, datetime.timedelta or callable, optional) ，可配置旧日志的最长保留时间，例如，"1 week, 3 days"、"2 months"
- compression (str or callable, optional) ：日志文件在关闭时应转换为的压缩或归档格式，例如，"gz"、"bz2"、"xz"、"lzma"、"tar"、"tar.gz"、"tar.bz2"、"tar.xz"、"zip"
- delay (bool, optional)：是否应该在配置了接收器之后立即创建文件，或者延迟到第一个记录的消息。默认为' False '。
- mode (str, optional) ：与内置open()函数一样的打开模式。默认为' "a"(以附加模式打开文件)。
- buffering (int, optional) ：内置open()函数的缓冲策略，它默认为1(行缓冲文件)。
- encoding (str, optional) ：文件编码与内置的' open() '函数相同。如果' None '，它默认为'locale.getpreferredencoding() 。
【七】loguru 日志常用方式
【1】停止日志记录到文件中
- add 方法 添加 sink 之后我们也可以对其进行删除， 删除的时候根据刚刚 add 方法返回的 id 进行删除即可，还原到标准输出。如下：
from loguru import logger
trace = logger.add('2021-8-7.log')
logger.error('This is error information')
logger.remove(trace)
logger.warning('This is warn information')- 终端显示结果
2023-08-07 22:50:37.834 | ERROR | __main__::17 - This is error information
2023-08-07 22:50:37.834 | WARNING | __main__::20 - This is warn information - 日志
2023-8-7.log内容如下
2023-08-07 22:50:37.834 | ERROR | __main__::17 - This is error information - 将 sink 对象移除之后，在这之后的内容不会再输出到日志文件中。
- 只输出到文本，不在console输出
- 通过 logger.remove(handler_id=None) 删除以前添加的处理程序，并停止向其接收器发送日志。然后通过add 添加输出日志文件，即可 实现 只输出到文本，不在console输出，如下：
from loguru import logger
# 清除之前的设置
logger.remove(handler_id=None)
trace = logger.add('2023-8-7.log')
logger.error('This is error information')
logger.warning('This is warn information')【2】filter 配置日志过滤规则
- 如下，我们通过实现自定义方法error_only，判断日志级别
- 当日志级别为ERROR，返回TRUE，我们在add方法设置filter参数时，设置为error_only，即可过滤掉ERROR以外的所有日志 。
from loguru import logger
def error_only(record):
"""
error 日志 判断
Args:
record:
Returns: 若日志级别为ERROR, 输出TRUE
"""
return record["level"].name == "ERROR"
# ERROR以外级别日志被过滤掉
logger.add("2023-8-7.log", filter=error_only)
logger.error('This is error information')
logger.warning('This is warn information')- 终端显示
2023-08-07 22:53:14.679 | ERROR | __main__::32 - This is error information
2023-08-07 22:53:14.680 | WARNING | __main__::33 - This is warn information - 在
2023-8-7.log日志中，我们可以看到仅记录了ERROR级别日志。
2023-08-07 22:53:14.679 | ERROR | __main__::32 - This is error information 【3】format 配置日志记录格式化模板
from loguru import logger
def format_log():
"""
Returns:
"""
trace = logger.add('2023-8-7.log',
format="{time:YYYY-MM-DD HH:mm:ss} {level} From {module}.{function} : {message}")
logger.warning('This is warn information')
if __name__ == '__main__':
format_log()- 终端显示
2023-08-07 22:54:11.901 | WARNING | __main__:format_log:26 - This is warn information- 如下，我们可以看到在
2023-8-7.log日志文件中，如 "{time:YYYY-MM-DD HH:mm:ss} {level} From {module}.{function} : {message}" 格式模板进行记录：
2023-08-07 22:54:11 WARNING From 01 日志模块测试.format_log : This is warn information【4】enqueue 异步写入
logger.add("2023-8-7.log", enqueue=True)- 使用enqueue，可保证线程安全，多线程安全。
【5】其它的格式化模板属性 如下：
| Key | Description |
|---|---|
| elapsed | 从程序开始经过的时间差 |
| exception | 格式化异常(如果有)，否则为' None ' |
| extra | 用户绑定的属性字典(参见bind()) |
| file | 进行日志记录调用的文件 |
| function | 进行日志记录调用的函数 |
| level | 用于记录消息的严重程度 |
| line | 源代码中的行号 |
| message | 记录的消息(尚未格式化) |
| module | 进行日志记录调用的模块 |
| name | 进行日志记录调用的__name__ |
| process | 进行日志记录调用的进程名 |
| thread | 进行日志记录调用的线程名 |
| time | 发出日志调用时的可感知的本地时间 |
(1)通过 extra bind() 添加额外属性来为结构化日志提供更多属性信息
- 如下：
from loguru import logger
def format_log():
"""
Returns:
"""
trace = logger.add('2023-8-7.log',
format="{time:YYYY-MM-DD HH:mm:ss} {extra[ip]} {extra[username]} {level} From {module}.{function} : {message}")
extra_logger = logger.bind(ip="192.168.0.1", username="张三")
extra_logger.info('This is info information')
extra_logger.bind(username="李四").error("This is error information")
extra_logger.warning('This is warn information')
if __name__ == '__main__':
format_log()- 终端显示
2023-08-07 22:56:16.435 | INFO | __main__:format_log:27 - This is info information
2023-08-07 22:56:16.435 | ERROR | __main__:format_log:28 - This is error information
2023-08-07 22:56:16.436 | WARNING | __main__:format_log:30 - This is warn information- 如下，我们可以看到在 2023-8-7.log 日志文件中，看到日志按上述模板记录，如下：
2023-08-07 22:56:16 192.168.0.1 张三 INFO From 01 日志模块测试.format_log : This is info information
2023-08-07 22:56:16 192.168.0.1 李四 ERROR From 01 日志模块测试.format_log : This is error information
2023-08-07 22:56:16 192.168.0.1 张三 WARNING From 01 日志模块测试.format_log : This is warn information(2)level 配置日志最低日志级别
from loguru import logger
trace = logger.add('2023-8-7.log', level='ERROR')(3)rotation 配置日志滚动记录的机制
- 我们想周期性的创建日志文件，或者按照文件大小自动分隔日志文件，我们可以直接使用 add 方法的 rotation 参数进行配置。
- 例如，每 200MB 创建一个日志文件，避免每个 log 文件过大，如下：
from loguru import logger
trace = logger.add('2023-8-7.log', rotation="200 MB")- 例如，每天6点 创建一个日志文件，如下：
from loguru import logger
trace = logger.add('2023-8-7.log', rotation='06:00')- 例如，每隔2周创建一个 日志文件，如下：
from loguru import logger
trace = logger.add('2023-8-7.log', rotation='2 week')- 例如，定时清理 日志文件，如下：
from loguru import logger
logger.add("2023-8-7.log", retention="10 days")(4)retention 配置日志保留机制
- 通常，一些久远的日志文件，需要周期性的去清除，避免日志堆积，浪费存储空间。
- 我们可以通过add方法的 retention 参数可以配置日志的最长保留时间。
- 例如，设置日志文件最长保留 7 天，如下：
from loguru import logger
trace = logger.add('2023-8-7.log', retention='7 days')(5)compression 配置日志压缩格式
- loguru 还可以配置文件的压缩格式，比如使用 zip 文件格式保存，示例如下：
from loguru import logger
trace = logger.add('2023-8-7.log', compression='zip')- 通过设置compression参数，来选择文件压缩格式，如 zip、tar、gz 等。
(6)serialize 日志序列化
- 如果我们希望输出类似于Json-line格式的结构化日志，我们可以通过 serialize 参数，将日志信息序列化的json格式写入log 文件，最后可以将日志文件导入类似于MongoDB、ElasticSearch 中用作后续的日志分析，代码示例如下：
from loguru import logger
import platform
rounded_value = round(0.345, 2)
trace= logger.add('2023-8-7.log', serialize=True)
logger.info('If you are using Python {version}, prefer {feature} of course!', version=platform.python_version(), feature = 'f-strings')- 终端显示
2023-08-07 23:01:14.356 | INFO | __main__::21 - If you are using Python 3.9.13, prefer f-strings of course! - 在2023-8-7.log日志文件，我们可以看到每条日志信息都被序列化后存在日志文件中，如下：
{
"text": "2023-08-07 23:01:14.356 | INFO | __main__::21 - If you are using Python 3.9.13, prefer f-strings of course!\n",
"record": {
"elapsed": {
"repr": "0:00:00.018001",
"seconds": 0.018001
},
"exception": null,
"extra": {
"version": "3.9.13",
"feature": "f-strings"
},
"file": {
"name": "01 日志模块测试.py",
"path": "E:\\day_projects\\日志模块\\01 日志模块测试.py"
},
"function": "",
"level": {
"icon": "\u2139\ufe0f",
"name": "INFO",
"no": 20
},
"line": 9,
"message": "If you are using Python 3.9.13, prefer f-strings of course!",
"module": "01 日志模块测试",
"name": "__main__",
"process": {
"id": 21636,
"name": "MainProcess"
},
"thread": {
"id": 28612,
"name": "MainThread"
},
"time": {
"repr": "2023-08-07 23:01:14.356111+08:00",
"timestamp": 1691420474.356111
}
}
} (7)Traceback 记录(异常追溯)
- loguru集成了一个名为 better_exceptions 的库，不仅能够将异常和错误记录，并且还能对异常进行追溯
- 如下，我们通过在遍历列表的过程中删除列表元素，以触发IndexError 异常，
- 通过catch装饰器的方式实现异常捕获，代码示例如下：
from loguru import logger
trace = logger.add('2023-8-7.log')
@logger.catch
def index_error(custom_list: list):
for index in range(len(custom_list)):
index_value = custom_list[index]
if custom_list[index] < 2:
custom_list.remove(index_value)
print(index_value)
if __name__ == '__main__':
index_error([1, 2, 3])- 运行上述代码，我们可以发现loguru输出的 Traceback 日志信息， Traceback 日志信息中同时输出了当时的变量值，如下：
- 在 2023-8-7.log 日志文件中也同样输出了上述格式的异常追溯信息，如下。
2023-08-07 23:08:12.010 | ERROR | __main__::30 - An error has been caught in function '', process 'MainProcess' (17440), thread 'MainThread' (26612):
Traceback (most recent call last):
> File "E:\Old Boy\day_projects\日志模块\01 日志模块测试.py", line 30, in
index_error([1, 2, 3])
└
File "E:\Old Boy\day_projects\日志模块\01 日志模块测试.py", line 22, in index_error
index_value = custom_list[index]
│ └ 2
└ [2, 3]
IndexError: list index out of range - 同时，附上对类中的类方法和静态方法的代码实例，以供参考
from loguru import logger
trace = logger.add('2023-8-7.log')
class Demo:
@logger.catch
def index_error(self, custom_list: list):
for index in range(len(custom_list)):
index_value = custom_list[index]
if custom_list[index] < 2:
custom_list.remove(index_value)
@staticmethod
@logger.catch
def index_error_static(custom_list: list):
for index in range(len(custom_list)):
index_value = custom_list[index]
if custom_list[index] < 2:
custom_list.remove(index_value)
if __name__ == '__main__':
# Demo().index_error([1, 2, 3])
Demo.index_error_static([1, 2, 3])(8)通过 logger.exception 方法也可以实现异常的捕获与记录：
from loguru import logger
trace = logger.add('2023-8-7.log')
def index_error(custom_list: list):
for index in range(len(custom_list)):
try:
index_value = custom_list[index]
except IndexError as err:
logger.exception(err)
break
if custom_list[index] < 2:
custom_list.remove(index_value)
if __name__ == '__main__':
index_error([1, 2, 3])- 终端打印
2023-08-07 23:11:16.587 | ERROR | __main__:index_error:24 - list index out of range
Traceback (most recent call last):
File "E:\Old Boy\day_projects\日志模块\01 日志模块测试.py", line 32, in
index_error([1, 2, 3])
└
> File "E:\Old Boy\day_projects\日志模块\01 日志模块测试.py", line 22, in index_error
index_value = custom_list[index]
│ └ 2
└ [2, 3]
IndexError: list index out of range - 运行上述代码，我们可以发现loguru输出的 Traceback 日志信息， Traceback 日志信息中同时输出了当时的变量值，如下：
