keys * # 查看当前库中的所有 key
set k1 v1 # 往库中存放或修改 key-value(仅适用于单个 value 的情况)
set k2 v2
get k1 # 获取指定 key 的 value(仅适用于单个 value 的情况)
exists k1 # 判断某个 key 是否存在,1表示存在,0表示不存在
type k1 # 查看 key 的类型
# 删除 key(两种方式)
del k1 # 直接删除 key-value,返回1表示删除成功,返回0表示当前 key 不存在
unlink k1 # 仅将 key 从 keyspace 元数据中删除,真正的删除会在后续异步操作
# 给 key 设置过期时间
expire k2 10 # 设置过期时间10s
# 查看指定 key 还有多少秒过期
ttl k2 # -1表示永不过期,-2表示已经过期
其它命令:
# 查看当前库中的 key-value 的数量
dbsize
# 切换数据库
select 1
# 清空当前库(慎用)
flushdb
# 通杀全部库(慎用)
flushall
String 的数据结构为简单动态字符串 (Simple Dynamic String, 缩写 SDS),是可以修改的字符串,内部结构实现上类似于 Java 的 ArrayList,采用预分配冗余空间的方式来减少内存的频繁分配。
如图所示,内部为当前字符串实际分配的空间 capacity 一般要高于实际字符串长度 len。当字符串长度小于 1M 时,扩容都是加倍现有的空间,如果超过 1M,扩容时一次只会多扩 1M 的空间。
append k1 v00 # 将 v00 追加到 k1 对应 value 后面,返回值是新的 value 的长度
strlen k1 # 获取 key 对应 value 的长度
setnx k3 v3 # 只有当 key 不存在时,才能设置成功
set k4 100 # 设置一个数值型 value
incr k4 # 给 k4 对应的 value 加 1
decr k4 # 给 k4 对应的 value 减 1
incrby k4 5 # 给 k4 对应的 value 加 5
decrby k4 3 # 给 k4 对应的 value 减 3
mset k5 v5 k6 v6 # 同时设置多个 key-value
mget k1 k2 k3 # 同时获取多个 key 对应的 value
msetnx k7 v7 k8 v8 # 同时设置多个 key-value,当且仅当所有的 key 都不存在时设置成功,一个失败则全部失败
set name jack
getrange name 0 2 # jac,获取 key 对应 value 的指定范围值
setrange name 1 hhh # jhhh,从指定索引处开始覆盖 key 对应的 value
getset name aaa # aaa,获取 key 的旧值的同时设置新值
setex age 20 v18 # 设置 key-value 的同时设置过期时间,age-v18 的过期时间为20s
Redis 的 加/减 操作都是原子性的,指不会被线程调度打断,因为 Redis 是 单线程+多路IO复用。
多路复用是指使用一个线程来检查多个文件描述符(Socket)的就绪状态,比如调用 select 和 poll 函数,传入多个文件描述符,如果有一个文件描述符就绪,则返回,否则阻塞直到超时。得到就绪状态后进行真正的操作可以在同一个线程里执行,也可以启动线程执行(比如使用线程池)。
单键多值:Redis 列表是简单的字符串列表,按照插入顺序排序。可以添加一个元素到列表的头部(左边)或者尾部(右边)。它的底层实际是个双向链表,对两端的操作性能很高,通过索引下标的操作中间的节点性能会较差。
lpush k1 v11 v12 v13 # 从左边插入多个值,内部的实际存储状态是 k1 : [v13, v12, v11]
lpush k2 v21 v22 v23 # 从右边插入多个值,内部的实际存储状态是 k2 : [v21, v22, v23]
lrange k1 0 -1 # 从左边开始获取 k1 指定索引范围内的值,-1表示最后一个
# 值在键在,值无键无,即一个 key 对应的 value 都弹出了以后,这个 key 也就不存在了
lpop k1 2 # 从左边开始弹出 k1 的2个 value,弹出数量可不写,默认为1
rpop k2 3 # 从右边开始弹出 k2 的3个 value
rpoplpush k1 k2 # 从 k1 的右边取出一个值插入 k2 的值的左边
lindex k2 1 # 从左边获取 k2 的第1个索引处的值
llen k2 # 获取 k2 对应列表的长度
linsert k2 before v21 newv21 # 在 k2 对应列表中的 v21 前面插入 newv21
linsert k2 after v22 newv22 # 在 k2 对应列表中的 v22 后面插入 newv22
lrem k2 2 newv21 # 从左边删除两个 k2 对应列表中的 newv21,如果只有1个 newv21,则只删除1个
lset k2 2 v00 # 将 k2 对应列表中的第2个索引(从左往右)处的值替换为 v00
sadd k1 v11 v12 v11 # 给 k1 添加 v11,v12 两个值,自动去重
smembers k1 # 查看 k1 的所有值
sismember k1 v11 # 判断 v11 是不是 k1 的值,1表示是,0表示不是
scard k1 # 查看 k1 的值的数量
srem k1 v11 v13 # 从 k1 对应的集合中删除 v11,v13 两个值,没有 v13,所以只删除了 v11
spop k1 2 # 从 k1 对应的集合中随机弹出2个值
srandmember k1 2 # 从 k1 对应的集合中随机获取2个值
smove k1 k2 v12 # 把 k1 对应集合中的 v12 移入 k2 对应的集合中
sinter k1 k2 # 返回 k1 和 k2 的交集
sunion k1 k2 # 返回 k1 和 k2 的并集
sdiff k1 k2 # 返回 k1 减 k2 的差集,即属于 k1 但不属于 k2
Hash 类型对应的数据结构是两种:ziplist(压缩列表),hashtable(哈希表)。当 field-value 长度较短且个数较少时,使用 ziplist,否则使用 hashtable。
hset user01 id 1 name Tom # 把 user01 作为 key,将其id设为1,name设为Tom(id和name 都是 field)
hget user01 id # 获取单个 field 的值
hmget user01 id name # 获取多个 field 的值
hexists user01 id # 判断 user01 是否有 id 这个 field
hkeys user01 # 列出 user01 的所有 field
hvals user01 # 列车 user01 的所有 value
hincrby user01 id 2 # 给 user01 的 id 值加2(只有 integer 类型的值才可以)
hsetnx user01 id 5 age 20 # 当 user01 的 id和age 都不存在时,才能设置成功
Zset 底层使用了两种数据结构:
有序集合在生活中比较常见,例如根据成绩对学生排名,根据得分对玩家排名等。对于有序集合的底层实现,可以用数组、平衡树、链表等。数组不便元素的插入、删除;平衡树或红黑树虽然效率高但结构复杂;链表查询需要遍历所有效率低。Redis 采用的是跳跃表,跳跃表效率堪比红黑树,实现远比红黑树简单。
对比有序链表和跳跃表,从链表中查询出 51:
① 有序链表:
要查找值为 51 的元素,需要从第一个元素开始依次查找、比较才能找到。共需要 6 次比较。
② 跳跃表:
zadd topn 100 java 200 python 300 js # 将多个 member 元素及其 score 值加入到有序集合 topn 中
zrange topn 0 -1 # 返回有序集合 topn 中指定索引范围内的元素
zrange topn 0 -1 withscores # 返回有序集合 topn 中指定索引范围内的元素及其 score 值
zrangebyscore topn 100 200 # 返回有序集合 topn 中指定分数范围内的元素(由小到大)
zrangebyscore topn 100 200 withscores # 返回有序集合 topn 中指定分数范围内的元素及其 score 值
zrevrangebyscore topn 300 200 # 返回有序集合 topn 中指定分数范围内的元素(由大到小)
zrevrangebyscore topn 300 200 withscores # 返回有序集合 topn 中指定分数范围内的元素及其 score 值
zincrby topn 50 java # 给有序集合 topn 中的 java 的 score 值加50
zrem topn js python # 删除有序集合 topn 中的指定元素
zcount topn 100 300 # 统计有序集合 topn 中指定分数区间的元素个数
zrank topn java # 返回 java 在有序集合 topn 中的排名(由小到大,从0开始)
Redis 发布订阅(pub/sub)是一种消息通信模式:发布者(pub)发送消息,订阅者(sub)接收消息,二者均是通过频道(channel)来进行消息通信的。一个 Redis 客户端可以订阅多个频道。
客户端1:充当订阅者
subscribe ch1 # 订阅频道 ch1
public ch1 hello # 通过频道 ch1 发布消息 hello,返回订阅频道 ch1 的订阅者的数量
假设网站有 1 亿用户, 每天独立访问的用户有 5 千万, 如果每天用集合类型和 Bitmaps 分别存储活跃用户可以得到表:
set 和 Bitmaps 存储一天活跃用户对比 | |||
---|---|---|---|
数据类型 | 每个用户 id 占用空间 | 需要存储的用户量 | 全部内存量 |
Set | 64 位 | 50000000 | 64 位 * 50000000 = 400MB |
Bitmaps | 1位 | 100000000 | 1 位 * 100000000 = 12.5MB |
很明显, 这种情况下使用 Bitmaps 能节省很多的内存空间, 尤其是随着时间推移节省的内存还是非常可观的。
set 和 Bitmaps 存储独立用户空间对比 | |||
---|---|---|---|
数据类型 | 一天 | 一月 | 一年 |
Set | 400 MB | 12GB | 144GB |
Bitmaps | 12.5MB | 375MB | 4.5GB |
但 Bitmaps 并不是万金油, 假如该网站每天的独立访问用户很少, 例如只有 10 万(大量的僵尸用户) , 那么两者的对比如下表所示, 很显然, 这时候使用 Bitmaps 就不太合适了, 因为基本上大部分位都是 0。
set 和 Bitmaps 存储一天活跃用户对比(用户较少) | |||
---|---|---|---|
数据类型 | 每个用户 id 占用空间 | 需要存储的用户量 | 全部内存量 |
Set | 64 位 | 100000 | 64 位 * 100000 = 800KB |
Bitmaps | 1位 | 100000000 | 1 位 * 100000000 = 12.5MB |
# setbit
setbit users 5 1 # 设置 users 的第 5 个偏移量的值为 1
# getbit
getbit users 5 # 获取 users 的第 5 个偏移量的值
# bitcount [ ]
bitcount users # 统计 users 中值为1的偏移量的个数
bitcount users 0 2 # 统计 users 的前3个字节中值为1的偏移量的个数
# bitop and
bitop and u3 u1 u2 # 将 u1 和 u2 按位与的结果赋值给 u3
# bitop or
bitop or u4 u1 u2 # 将 u1 和 u2 按位或的结果赋值给 u4
在工作当中,我们经常会遇到与统计相关的功能需求,比如统计网站 PV(PageView 页面访问量),可以使用 Redis 的 incr、incrby 轻松实现。但像 UV(UniqueVisitor 独立访客)、独立 IP 数、搜索记录数等需要去重和计数的问题如何解决?这种求集合中不重复元素个数的问题称为基数问题。
解决基数问题有很多种方案:
以上的方案结果精确,但随着数据不断增加,导致占用空间越来越大,对于非常大的数据集是不切实际的。能否能够降低一定的精度来平衡存储空间?Redis 推出了 HyperLogLog。
什么是基数:基数是指一个集合中不同元素的个数。比如数据集 {1, 3, 5, 7, 5, 7, 8},那么这个数据集的基数集为 {1, 3, 5 ,7, 8},基数 为 5。 基数估计就是在误差可接受的范围内,快速计算基数。
pfadd k1 1 3 5 7 5 7 8 # 添加元素到 k1 中
pfcount k1 # 统计 k1 的基数
pfmerge k3 k1 k2 # 将 k1 和 k2 合并到 k3
Redis 3.2 中增加了对 GEO 类型的支持。GEO,Geographic,地理信息的缩写。该类型,就是元素的 2 维坐标,在地图上就是经纬度。redis 基于该类型,提供了经纬度设置、查询、范围查询、距离查询、经纬度Hash 等常见操作。
geoadd china:city 121.47 31.23 shanghai 116.38 39.90 beijing # 添加上海和北京的经纬度坐标
geopos china:city beijing # 获取北京的经纬度坐标
geodist china:city beijing shanghai km # 获取北京和上海的直线距离(单位可选:m、km、ft、mi,默认是 m)
georadius china:city 120 30 1000 km # 取出 china:city 中在东经120、北纬30坐标方圆1000km之内的元素
通过 Spring Initializr 进行创建:
依赖选择:Spring Web 和 Spring Data Redis。
host: 主机的 ip
port: redis服务的端口号,默认是 6379
RedisTemplate 默认使用的是 jdk 的序列化组件,如果不进行设置,存入 redis 中的 key 前面会出现类似 \xac\xed\x00\x05t\x00 这样的字符串 。
解决方法:添加一个 redis 配置类,具体代码如下。
@Configuration
public class RedisConfig {
@Bean
public RedisTemplate<String,String> redisTemplate(RedisConnectionFactory connectionFactory){
RedisTemplate<String,String> redisTemplate = new RedisTemplate<>();
redisTemplate.setConnectionFactory(connectionFactory);
//字符串序列化方法
redisTemplate.setKeySerializer(new StringRedisSerializer());
redisTemplate.setValueSerializer(new StringRedisSerializer());
redisTemplate.afterPropertiesSet();
return redisTemplate;
}
}
如果在组队阶段某个命令出错了,则执行时整个队列的命令都会被取消。
如果在执行阶段某个命令出错了,则只有报错的命令不执行,其他的命令都会执行。
如图:加入初始金额是10000,如果三个事务同时发出请求,那么最终会出现金额为负的情况,这就是事务冲突。
redis 中使用 watch 命令监视某个 key 对应的 value 是否更改。
set balance 100 # 让两个客户端都监视 balance
redis 中使用 unwatch 取消 watch 命令对所有 key 的监视。如果在执行 watch 命令之后,exec 或 discard 先被执行了的话,那么就不需要再执行 unwatch 了。
public class SecKill_redis {
//秒杀过程
public static boolean doSecKill(String uid,String prodid) throws IOException {
//1 uid和prodid非空判断
if(uid == null || prodid == null) {
return false;
}
//2 连接redis
Jedis jedis = new Jedis("172.22.109.205",6379);
//3 拼接key
// 3.1 库存key
String kcKey = "sk:"+prodid+":qt";
// 3.2 秒杀成功用户key
String userKey = "sk:"+prodid+":user";
//4 获取库存,如果库存null,秒杀还没有开始
String kc = jedis.get(kcKey);
if(kc == null) {
System.out.println("秒杀还没有开始,请等待");
jedis.close();
return false;
}
// 5 判断用户是否重复秒杀操作
if(jedis.sismember(userKey, uid)) {
System.out.println("已经秒杀成功了,不能重复秒杀");
jedis.close();
return false;
}
//6 判断如果商品数量,库存数量小于1,秒杀结束
if(Integer.parseInt(kc)<=0) {
System.out.println("秒杀已经结束了");
jedis.close();
return false;
}
//7.1 库存-1
jedis.decr(kcKey);
//7.2 把秒杀成功用户添加清单里面
jedis.sadd(userKey,uid);
System.out.println("秒杀成功了..");
jedis.close();
return true;
}
}
上述代码,在高并发情况下,会出现 超卖问题(即库存数量为负) 和 连接超时问题。
//监视库存
jedis.watch(kcKey);
//4 获取库存,如果库存null,秒杀还没有开始
.
.
.
//7 秒杀过程,使用事务
Transaction multi = jedis.multi();
//组队
multi.decr(kcKey);
multi.sadd(userKey,uid);
//执行
List<Object> results = multi.exec();
if(results == null || results.size()==0) {
System.out.println("秒杀失败了....");
jedis.close();
return false;
}
public class JedisPoolUtil {
private static volatile JedisPool jedisPool = null;
private JedisPoolUtil() {
}
public static JedisPool getJedisPoolInstance() {
if (null == jedisPool) {
synchronized (JedisPoolUtil.class) {
if (null == jedisPool) {
JedisPoolConfig poolConfig = new JedisPoolConfig();
poolConfig.setMaxTotal(200); //控制一个pool可分配多少个jedis实例,通过pool.getResource()来获取;如果赋值为-1,则表示不限制;如果pool已经分配了MaxTotal个jedis实例,则此时pool的状态为exhausted。
poolConfig.setMaxIdle(32); //控制一个pool最多有多少个状态为idle(空闲)的jedis实例;
poolConfig.setMaxWaitMillis(100*1000); //表示当borrow一个jedis实例时,最大的等待毫秒数,如果超过等待时间,则直接抛JedisConnectionException;
poolConfig.setBlockWhenExhausted(true); //获得一个jedis实例的时候是否检查连接可用性(ping());如果为true,则得到的jedis实例均是可用的;
poolConfig.setTestOnBorrow(true); // ping PONG,判断是否还存在
jedisPool = new JedisPool(poolConfig, "172.22.109.205", 6379, 60000 );
}
}
}
return jedisPool;
}
public static void release(JedisPool jedisPool, Jedis jedis) {
if (null != jedis) {
jedisPool.returnResource(jedis);
}
}
}
② 通过连接池工具类获取 Jedis 对象:
//2 连接redis
//Jedis jedis = new Jedis("192.168.44.168",6379);
//通过连接池得到jedis对象
JedisPool jedisPoolInstance = JedisPoolUtil.getJedisPoolInstance();
Jedis jedis = jedisPoolInstance.getResource();
由于乐观锁的存在,可能存在多个用户同时监视了同一个版本的 库存信息,当第一个用户秒杀成功后会修改库存信息,其他的用户就都会秒杀失败。因此即使参与秒杀的人数多于库存数,最终的库存数量也可能大于0。
LUA 脚本在 Redis 中的优势:
lua 脚本代码:
local userid=KEYS[1];
local prodid=KEYS[2];
local qtkey="sk:"..prodid..":qt";
local usersKey="sk:"..prodid.":usr';
local userExists=redis.call("sismember",usersKey,userid);
if tonumber(userExists)==1 then
return 2;
end
local num= redis.call("get" ,qtkey);
if tonumber(num)<=0 then
return 0;
else
redis.call("decr",qtkey);
redis.call("sadd",usersKey,userid);
end
return 1;
将 lua 脚本嵌入 java代码:
public class SecKill_redisByScript {
static String secKillScript ="local userid=KEYS[1];\r\n" +
"local prodid=KEYS[2];\r\n" +
"local qtkey='sk:'..prodid..\":qt\";\r\n" +
"local usersKey='sk:'..prodid..\":usr\";\r\n" +
"local userExists=redis.call(\"sismember\",usersKey,userid);\r\n" +
"if tonumber(userExists)==1 then \r\n" +
" return 2;\r\n" +
"end\r\n" +
"local num= redis.call(\"get\" ,qtkey);\r\n" +
"if tonumber(num)<=0 then \r\n" +
" return 0;\r\n" +
"else \r\n" +
" redis.call(\"decr\",qtkey);\r\n" +
" redis.call(\"sadd\",usersKey,userid);\r\n" +
"end\r\n" +
"return 1" ;
public static boolean doSecKill(String uid,String prodid) throws IOException {
JedisPool jedispool = JedisPoolUtil.getJedisPoolInstance();
Jedis jedis=jedispool.getResource();
String sha1= jedis.scriptLoad(secKillScript);
Object result= jedis.evalsha(sha1, 2, uid,prodid);
String reString=String.valueOf(result);
if ("0".equals( reString ) ) {
System.err.println("已抢空!!");
}else if("1".equals( reString ) ) {
System.out.println("抢购成功!!!!");
}else if("2".equals( reString ) ) {
System.err.println("该用户已抢过!!");
}else{
System.err.println("抢购异常!!");
}
jedis.close();
return true;
}
}
在 redis.conf 文件中,有关保存策略的配置项,默认是关闭的,如果要开启持久化操作,需要开放保存策略。
save 3600 1 : 表示在3600秒内至少有1个键发生变化时,进行持久化操作。
save 300 100 : 表示在300秒内至少有100个键发生变化时,进行持久化操作。
save 60 10000 : 表示在60秒内至少有10000个键发生变化时,进行持久化操作。
在不修改配置文件的情况下,禁用保存策略:
redis-cli config set save “” # save 后给空值,表示禁用保存策略。
开放保存策略后,默认开启的是 RDB 持久化方式。
RDB:即 Redis DataBase,在指定的时间间隔内将内存中的数据集快照写入磁盘, 也就是行话讲的 Snapshot 快照,它恢复时是将快照文件直接读到内存里。
Redis 会单独创建(fork)一个子进程来进行持久化,首先会将数据写入到一个临时文件中,待持久化过程都结束了,再用这个临时文件替换上次持久化好的文件。整个过程中,主进程是不进行任何 IO 操作的,这就确保了极高的性能。如果需要进行大规模数据的恢复,且对于数据恢复的完整性不是非常敏感,那 RDB 方式要比 AOF 方式更加的高效。
RDB 的缺点是最后一次持久化后的数据可能丢失。
Fork
优势:
劣势:
AOF 默认是不开启的,如果开启,需要将 appendonly 改为 yes,其持久化文件是 appendonly.aof,默认保存在 redis 的启动目录。
当 RDB 和 AOF 同时开启,优先 AOF。
AOF:即 Append Only File,以日志的形式来记录每个写操作(增量保存),将 Redis 执行过的所有写指令记录下来 (读操作不记录), 只许追加文件但不可以改写文件,redis 启动之初会读取该文件重新构建数据,换言之,redis 重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作。
AOF 采用文件追加方式,文件会越来越大,为避免出现此种情况,新增了重写机制,当 AOF 文件的大小超过所设定的阈值时,Redis 就会启动 AOF 文件的内容压缩,只保留可以恢复数据的最小指令集,可以使用命令 bgrewriteaof。
AOF 文件持续增长而过大时,会 fork 出一条新进程来将文件重写 (也是先写临时文件最后再 rename),redis4.0 版本后的重写,是指把 rdb 的快照,以二进制的形式附在新的 aof 头部,作为已有的历史数据,替换掉原来的流水账操作。
no-appendfsync-on-rewrite:
- 如果 no-appendfsync-on-rewrite=yes ,不写入 aof 文件只写入缓存,用户请求不会阻塞,但是在这段时间如果宕机会丢失这段时间的缓存数据。(降低数据安全性,提高性能);
- 如果 no-appendfsync-on-rewrite=no,还是会把数据往磁盘里刷,但是遇到重写操作,可能会发生阻塞。(数据安全,但是性能降低)
Redis 会记录上次重写时的 AOF 大小,默认配置是当 AOF 文件大小是上次 rewrite 后大小的一倍且文件大于 64M 时触发。
重写虽然可以节约大量磁盘空间,减少恢复时间。但是每次重写还是有一定的负担的,因此设定 Redis 要满足一定条件才会进行重写。
优势:
劣势:
官方推荐两个都启用:
include /myredis/redis.conf
pidfile /var/run/redis_6379.pid
port 6379
dbfilename dump6379.rdb
redis-cli shutdown # 关闭原来的 redis 服务
redis-server /myredis/redis6379.conf
redis-server /myredis/redis6380.conf
redis-server /myredis/redis6381.conf
ps -ef | grep redis # 查看 redis 进程信息,用以确认 redis 服务的开启情况
redis-cli -p 6379
info replication # 查看主机信息
其他两个是一样的操作,查看主机信息发现,3台都是主机,没有从机。127.0.0.1:6380> slaveof 127.0.0.1 6379
127.0.0.1:6381> slaveof 127.0.0.1 6379
如果某台从机(6381)突然挂掉,则该从机重启后会变成主机,需要重新执行 slaveof 127.0.0.1 6379 命令,成为 6379 的从机,这一过程中主机会把所有数据都复制到从机。
需要注意:从机重启时会从命令行目录下寻找 dump6381.rdb 文件,重启后会从该文件恢复数据。
如果主机突然挂掉,则从机仍然是从机,主机仍然是主机。
类似于接龙,比如把 6380 设为 6379 的从机,6381 设为 6380 的从机,查看信息发现:主机仍然只有一个 6379,6380 仍然是从机,只不过 6380 还有一个从机 6381。这样可以有效减轻主机的写压力,去中心化降低风险;风险是一旦某个从机宕机,后面的从机都没法备份,因为从机没法变成主机。
127.0.0.1:6380> slaveof 127.0.0.1 6379
127.0.0.1:6381> slaveof 127.0.0.1 6380
假设主机 6379 突然挂了,从机 6380 可以通过以下指令变成主机:
127.0.0.1:6380> slaveof no one
哨兵模式可以看作是反客为主的自动版,能够后台监控主机是否故障,如果故障了根据投票数自动将从机转换为主机。重启后的原主机会成为新主机的从机。
sentinel monitor mymaster 127.0.0.1 6379 1
sentinel:哨兵
monitor:监控
mymaster:主机的别名
127.0.0.1 6379:主机的 ip 和 端口号
1:至少有多少个哨兵同意迁移。
redis-sentinel sentinel.conf
Redis 采用的是无中心化集群模式,具体而言:
① Redis 集群(包括很多小集群)实现了对 Redis 的水平扩容,即启动 N 个 redis 节点,将整个数据库分布存储在这 N 个节点中,每个节点存储总数据的 1/N,即一个小集群存储 1/N 的数据,每个小集群里面维护好自己的 1/N 的数据。
② Redis 集群通过分区(partition)来提供一定程度的可用性(availability): 即使集群中有一部分节点失效或者无法进行通讯, 集群也可以继续处理命令请求。
③ 该模式的 redis 集群特点是:分治、分片。
将 /myredis 目录下的所有 .rdb、.aof 文件都删除:
rm -rf *.rdb
rm -rf *.aof
创建 redis6379.conf、redis6380.conf、redis6381.conf、redis6389.conf、redis6390.conf、redis6391.conf 6个配置文件。redis6379.conf 中的内容如下:
include /myredis/redis.conf
pidfile "/var/run/redis_6379.pid"
port 6379
dbfilename "dump6379.rdb"
cluster-enabled yes
cluster-config-file nodes-6379.conf
cluster-node-timeout 15000
cluster-enabled yes : 打开集群模式
cluster-config-file nodes-6379.conf : 设定节点配置文件名
cluster-node-timeout 15000 : 设定节点失联时间(毫秒),超过该时间节点自动进行主从切换
其他文件只需修改 6379 为对应端口号即可。通过 vim 打开配置文件,输入 “shift+:”,然后输入替换命令 “%s/6379/6380”,按下 “enter” 保存并退出即可。
将 6 个 redis 节点合为一个集群
# cd 到 redis 解压目录下的 src 目录,redis-6.2.7/src
cd /home/**/redis-6.2.7/src
# 执行以下命令,其中的 ip 是自己电脑的真实 ip,不能是 127.0.0.1 或 localhost
redis-cli --cluster create --cluster-replicas 1 ip:6379 ip:6380 ip:6381 192.168.0.110:6389 ip:6390 ip:6391
–cluster-replicas 1 : 表示为集群中的每个主节点创建一个从节点。
一个集群至少要有三个主节点。
中间会出现下面一句话:Can I set the above configuration? (type ‘yes’ to accept):
输入 yes 即可,最终会出现以下信息:
如果出错了,就把所有中途生成的文件删除,然后重新从第一步开始。
测试
# 以集群方式连接
redis-cli -c -p 6379 # 端口号可从6个里面任选
# 查看节点信息
cluster nodes
关闭集群
逐一关闭 6 个Redis 服务即可。
重启集群
① 若要保留数据,直接重启 6 个 Redis 服务即可。
② 若不保留数据,则将所有的 .rdb 文件删除,再重启 6 个 Redis 服务即可。
mset name{user} Tom age{user} 18
mget name{user} age{user}
# cluster keyslot :查询 key 所属插槽的索引
cluster keyslot k1
# cluster countkeysinslot :统计第 slot_index 号插槽中 key 的数量(该插槽必须属于当前主机)
cluster countkeysinslot 12706
# cluster getkeysinslot :返回第 slot_index 号插槽中的 n 个 key
cluster getkeysinslot 449 1
<dependency>
<groupId>redis.clientsgroupId>
<artifactId>jedisartifactId>
<version>4.0.1version>
dependency>
public class JedisClusterTest {
public static void main(String[] args) {
//1、创建 JedisCluster 对象
// 任选一台服务器都可进入 redis 集群,因为 redis 集群是无中心化模式
HostAndPort hostAndPort = new HostAndPort("xxx.xxx.x.x", 6379);
JedisCluster jedisCluster = new JedisCluster(hostAndPort);
//2、测试
jedisCluster.set("hello","world");
String hello = jedisCluster.get("hello");
System.out.println("hello: " + hello);
//3、关闭
jedisCluster.close();
}
}
某些 key 对应的数据在数据源中并不存在,当短时间内接收到大量访问这些 key 的请求时,由于缓存中查询不到,就会积压给数据源,从而导致数据源崩溃。
比如,用一个不存在的用户 id 获取用户信息,不论缓存还是数据库都没有,若黑客利用此漏洞进行攻击可能压垮数据库。
其实 redis 在这个过程中一直平稳运行,崩溃的是我们的数据库(如 MySQL)。
缓存穿透发生的原因:大都是由于黑客或其他非正常用户频繁进行很多非正常的 url 访问,使得 redis 查询不到而积压给数据库。
某些 key 对应的数据在数据源中存在,但在 redis 中过期了,此时若有大量并发请求过来,这些请求发现缓存过期一般都会从后端数据库加载数据并回设到缓存,这个时候大并发的请求可能会瞬间把后端数据库压垮。
整个过程中 redis 正常运行,只是其中某些热门的 key 过期了,恰巧此时有大量的并发请求访问这些 key,导致数据库访问压力瞬间激增而崩溃。
预先设置热门数据:在 redis 访问高峰之前,把一些热门数据提前存入 redis 里,加大这些热门数据 key 的时长。
实时调整:现场监控哪些数据热门,实时调整 key 的过期时长。
使用锁:就是在缓存失效的时候,不是立即去 load db,而是先使用缓存工具的某些带成功操作返回值的操作(比如 Redis 的 setnx),去 set 一个 mutex key。当操作返回成功时,再进行 load db 的操作,并回设缓存,最后删除 mutex key;当操作返回失败,证明有线程在 load db,当前线程睡眠一段时间再重试整个 get 缓存的方法。
Redsi 中大量 key 同时过期,此时若有大量并发请求过来,这些请求发现缓存过期一般都会从后端数据库加载数据并回设到缓存,这个时候大并发的请求可能会瞬间把后端数据库压垮。
随着业务发展的需要,原单体单机部署的系统被演化成分布式集群系统后,由于分布式系统多线程的特点以及分布在不同机器上,这将使原单机部署情况下的并发控制锁策略失效,单纯的 Java API 并不能提供分布式锁的能力。为了解决这个问题就需要一种跨 JVM 的互斥机制来控制共享资源的访问,这就是分布式锁要解决的问题!
根据实现方式,分布式锁还可以分为类 CAS 自旋式分布式锁以及 event 事件类型分布式锁:
不同分布式锁解决方案的优缺点:
setnx k1 v1
del k1
setnx k1 v1
expire k1 10
set k1 v1 nx ex 10
@GetMapping("/testLock")
public void testLock(){
//1获取锁,顺便设置过期时间
Boolean lock = redisTemplate.opsForValue().setIfAbsent("lock", "111",3,TimeUnit.SECONDS);
//2获取锁成功、查询num的值
if(lock){
Object value = redisTemplate.opsForValue().get("num");
//2.1判断num为空return
if(StringUtils.isEmpty(value)){
return;
}
//2.2有值就转成成int
int num = Integer.parseInt(value+"");
//2.3把redis的num加1
redisTemplate.opsForValue().set("num", ++num);
//2.4释放锁,del
redisTemplate.delete("lock");
}else{
//3获取锁失败、每隔0.1秒再获取
try {
Thread.sleep(100);
testLock();
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
上面的代码可能会出现一个问题:当前线程的锁被其他线程释放了。因此加个 UUID 防止误删,代码如下:
@GetMapping("/testLock")
public void testLock(){
String uuid = UUID.randomUUID().toString();
//1获取锁,顺便设置过期时间
Boolean lock = redisTemplate.opsForValue().setIfAbsent("lock", uuid, 3, TimeUnit.SECONDS);
//2获取锁成功、查询num的值
if(lock){
...
//2.4释放锁,del
String lockUuid = (String)redisTemplate.opsForValue().get("lock");
if(uuid.equals(lockUuid)){
redisTemplate.delete("lock");
}
}else{
...
}
}
上述代码仍然存在一个线程误删另一个线程的锁的问题:假设线程a已经比对过 uuid 了,即将执行删除操作,但是这时锁过期了,然后线程b拿到了锁,在线程b释放锁之前线程a有可能会把线程b的锁提前释放掉。通过 lua 脚本保证删除操作的原子性,代码如下:
@GetMapping("/testLock")
public void testLock(){
String uuid = UUID.randomUUID().toString();
//1、获取锁,顺便设置过期时间
Boolean lock = redisTemplate.opsForValue().setIfAbsent("lock", uuid, 3, TimeUnit.SECONDS);
//2、获取锁成功、查询num的值
if(lock){
...
//2.4释放锁
// 定义lua 脚本内容
String script = "if redis.call('get', KEYS[1]) == ARGV[1] then return redis.call('del', KEYS[1]) else return 0 end";
// 创建脚本对象
DefaultRedisScript<Long> redisScript = new DefaultRedisScript<>();
redisScript.setScriptText(script);
// 设置返回值类型为Long,因为 redis.call('del', KEYS[1]) 默认返回的数据类型是String
redisScript.setResultType(Long.class);
// 执行脚本:第一个参数是script脚本,第二个参数是需要判断的key,第三个参数是key所对应的值。
redisTemplate.execute(redisScript, Arrays.asList(locKey), uuid);
}else{
...
}
}
为了确保分布式锁可用,至少要确保锁的实现同时满足以下四个条件:
ACL:即 Access Control List (访问控制列表),该功能允许根据可以执行的命令和可以访问的键来限制某些连接。
在Redis 5版本之前,Redis 安全规则只有密码控制 还有通过rename 来调整高危命令比如 flushdb , KEYS* , shutdown 等。
Redis 6 则提供ACL的功能对用户进行更细粒度的权限控制:
acl list # 显示所有的用户信息列表
acl whoami # 查看当前用户是谁
acl set user # 创建新用户
acl cat # 查看添加权限指令类别
IO 多线程:指客户端交互部分的网络 IO 交互处理模块 多线程,而非执行命令多线程。Redis6 执行命令依然是单线程。
Redis 6 加入了多线程,但跟 Memcached 这种从 IO 处理到数据访问多线程的实现模式有些差异。Redis 的多线程部分只是用来处理网络数据的读写和协议解析,执行命令仍然是单线程。之所以这么设计是不想因为多线程而变得复杂,需要去控制 key、lua、事务,LPUSH/LPOP 等等的并发问题。
Redis 6 中,多线程IO默认也是不开启的,需要在 redis.conf 中开启以下配置项:
io-threads 4
io-threads-do-reads yes