一、慢查询分析(查询日志:所谓慢查询日志就是系统在命令执行前后计算每条命令的执行时间,当超过预设阀值,就将这条命令的相关信息(例如:发生时间,耗时,命令的详细信息)记录下来,Redis也提供了类似的功能。)
Redis客户端执行一条命令分为如下4个部分:1)发送命令 2)命令排队 3)命令执行 4)返回结果
(需要注意,慢查询只统计步骤3的时间,所以没有慢查询并不代表客户端没有超时问题。)
1、慢查询参数配置:
·预设阀值怎么设置?(slowlog-log-slower-than)
(它的单位是微秒(1秒=1000毫秒=1000000微秒),默认值是10000,假如执行了一条“很慢”的命令(例如keys*),如果它的执行时间超过了10000微秒,那么它将被记录在慢查询日志中)
·慢查询记录存放在哪?(slowlog-max-len)
(实际上Redis使用了一个列表来存储慢查询日志,slowlog-max-len就是列表的最大长度。一个新的命令满足慢查询条件时被插入到这个列表中,当慢查询日志列表已处于其最大长度时,最早插入的一个命令将从列表中移出,例如slowlog-max-len设置为5,当有第6条慢查询插入的话,那么队头的第一条数据就出列,第6条慢查询就会入列)
2、在Redis中有两种修改配置的方法,一种是修改配置文件,另一种是使用config set命令动态修改。
例如下面使用config set命令将slowlog-log-slower-than设置为20000微秒,slowlog-max-len设置为1000:
config set slowlog-log-slower-than 20000
config set slowlog-max-len 1000
config rewrite
(如果要Redis将配置持久化到本地配置文件,需要执行config rewrite命令)
3、慢查询日志的访问和管理
虽然慢查询日志是存放在列表中的,但redis并没有暴露这个键,而是通过一组命令来实现对慢查询日志的访问和管理:
·获取慢查询日志 slowlog get [n] 参数n可以指定条数
·获取慢查询日志列表当前的长度 slowlog len
·慢查询日志重置 slowlog reset 实际是对列表做清理操作
4、最佳实践:
慢查询功能可以有效地帮助我们找到Redis可能存在的瓶颈,但在实际使用过程中要注意以下几点:
1、·slowlog-max-len配置建议:线上建议调大慢查询列表,记录慢查询时Redis会对长命令做截断操作,并不会占用大量内存。增大慢查询列表可以
减缓慢查询被剔除的可能,例如线上可设置为1000以上。
2、·slowlog-log-slower-than配置建议:默认值超过10毫秒判定为慢查询,需要根据Redis并发量调整该值。由于Redis采用单线程响应命令,对于高流
量的场景,如果命令执行时间在1毫秒以上,那么Redis最多可支撑OPS不到1000。因此对于高OPS场景的Redis建议设置为1毫秒。
3、·慢查询只记录命令执行时间,并不包括命令排队和网络传输时间。因此客户端执行命令的时间会大于命令实际执行时间。因为命令执行排队机
制,慢查询会导致其他命令级联阻塞,因此当客户端出现请求超时,需要检查该时间点是否有对应的慢查询,从而分析出是否为慢查询导致的命令级联阻塞。
4、·由于慢查询日志是一个先进先出的队列,也就是说如果慢查询比较多的情况下,可能会丢失部分慢查询命令,为了防止这种情况发生,可以定期
执行slow get命令将慢查询日志持久化到其他存储中(例如MySQL),然后可以制作可视化界面进行查询,
二、Redis Shell(Redis提供了redis-cli、redis-server、redis-benchmark等Shell工具它们虽然比较简单,但是麻雀虽小五脏俱全,有时可以很巧妙地解决一些问题)
1、redis-cli
-r(-r(repeat)选项代表将命令执行多次,例如下面操作将会执行三次ping命令: redis-cli -r 3 ping)
-i((interval)选项代表每隔几秒执行一次命令,但是-i选项必须和-r选项一起使用,下面的操作会每隔1秒执行一次ping命令,一共执行5次:redis-cli -r 5 -i 1 ping)
-x(-x选项代表从标准输入(stdin)读取数据作为redis-cli的最后一个参数,例如下面的操作会将字符串world作为set hello的值:echo "world" | redis-cli -x set hello)
-c(-c(cluster)选项是连接Redis Cluster节点时需要使用的,-c选项可以防止moved和ask异常)
-a(如果Redis配置了密码,可以用-a(auth)选项,有了这个选项就不需要手动输入auth命令)
--scan和--pattern(--scan选项和--pattern选项用于扫描指定模式的键,相当于使用scan命令)
--slave(--slave选项是把当前客户端模拟成当前Redis节点的从节点,可以用来获取当前Redis节点的更新操作)
--rdb(--rdb选项会请求Redis实例生成并发送RDB持久化文件,保存在本地。可使用它做持久化文件的定期备份)
--pipe(--pipe选项用于将命令封装成Redis通信协议定义的数据格式,批量发送给Redis执行)
--bigkeys(--bigkeys选项使用scan命令对Redis的键进行采样,从中找到内存占用比较大的键值,这些键可能是系统的瓶颈)
--eval(--eval选项用于执行指定Lua脚本)
--latency(latency有三个选项,分别是--latency、--latency-history、--latency-dist。它们都可以检测网络延迟,对于Redis的开发和运维非常有帮助)
(1)--latency:该选项可以测试客户端到目标Redis的网络延迟
(2)--latency-history:--latency的执行结果只有一条,如果想以分时段的形式了解延迟信息
(3)--latency-dist:该选项会使用统计图表的形式从控制台输出延迟统计信息
--stat:--stat选项可以实时获取Redis的重要统计信息,虽然info命令中的统计信息更全,但是能实时看到一些增量的数据(例如requests)对于Redis的运维还是有一定帮助的
--raw和--no-raw:--no-raw选项是要求命令的返回结果必须是原始的格式(二进制),--raw恰恰相反,返回格式化后的结果。
2、redis-server(redis-server除了启动Redis外,还有一个--test-memory选项。redis-server--test-memory可以用来检测当前操作系统能否稳定地分配指定容量的内存给Redis,通过这种检测可以有效避免因为内存问题造成Redis崩溃)
redis-server --test-memory 1024:检测当前操作系统能否提供1G的内存给Redis
3、redis-benchmark(redis-benchmark可以为Redis做基准性能测试,它提供了很多选项帮助开发和运维人员测试Redis的相关性能,下面分别介绍这些选项。)
-c:-c(clients)选项代表客户端的并发数量(默认是50)
-n
-q:-q选项仅仅显示redis-benchmark的requests per second信息
--csv:--csv选项会将结果按照csv格式输出,便于后续处理,如导出到Excel等。
三、Pipeline
Redis提供了批量操作命令(例如mget、mset等),有效地节约RTT。但大部分命令是不支持批量操作的,例如要执行n次hgetall命令,并没有mhgetall命令存在,需要消耗n次RTT。Pipeline(流水线)机制能改善上面这类问题,它能将一组Redis命令进行组装,通过一次RTT传输给Redis,再将这组Redis命令的执行结果按顺序返回给客户端,redis-cli的--pipe选项实际上就是使用Pipeline机制,目前大部分Redis客户端都支持Pipeline。
可以使用Pipeline模拟出批量操作的效果,但是在使用时要注意它与原生批量命令的区别,具体包含以下几点:
·原生批量命令是原子的,Pipeline是非原子的。
·原生批量命令是一个命令对应多个key,Pipeline支持多个命令。
·原生批量命令是Redis服务端支持实现的,而Pipeline需要服务端和客户端的共同实现。
最佳实践:Pipeline虽然好用,但是每次Pipeline组装的命令个数不能没有节制,否则一次组装Pipeline数据量过大,一方面会增加客户端的等待时间,另一方面会造成一定的网络阻塞,可以将一次包含大量命令的Pipeline拆分成多次较小的Pipeline来完成
四、事务与Lua
1、事务:Redis提供了简单的事务功能,将一组需要一起执行的命令放到multi和exec两个命令之间,如果要停止事务的执行,可以使用discard命令代替exec命令即可。(Redis并不支持回滚功能)
127.0.0.1:6379> multi OK 127.0.0.1:6379> set name rdb QUEUED 127.0.0.1:6379> set age 12 QUEUED 127.0.0.1:6379> exec 1) OK 2) OK 127.0.0.1:6379>
2、Lua脚本
在Redis中执行Lua脚本有两种方法:eval和evalsha。
参考资料:《Redis开发与运维》