【java学习】Redis学习-spring-data-redis
1，概念
Redis 安装
1）场景
①性能。执行时间久且结果不频繁变动的SQL，适合将运行结果放入缓存。
②并发。在大并发的情况下，所有的请求直接访问数据库，数据库会出现连接异常。这个时候，就需要使用redis做一个缓冲操作，让请求先访问到redis，而不是直接访问数据库。
2）缺点
①缓存和数据库双写一致性问题
一致性问题是分布式常见问题，还可以再分为最终一致性和强一致性。
如果对数据有强一致性要求，不能放缓存。我们所做的一切，只能保证最终一致性。另外，我们所做的方案其实从根本上来说，只能说降低不一致发生的概率，无法完全避免。因此，有强一致性要求的数据，不能放缓存。
策略：
- 增：写库成功后，将返回的对象存入redis。
- 删：数据库删除成功后，删除redis。
- 查：查redis，没查到，去数据库查询。
- 改：数据库修改成功后，再修改。
- 另外，对于前端接收到的数据，应该进行数据校验，确保数据的合法性。
上述策略再多请求并发执行的情况下，依然会造成脏数据问题。新的策略如下：
6. 查：查缓存，没查到，去数据库查询。
7. 更新（增删改）：先更新数据库，成功后再删除缓存。–《Cache-Aside pattern》
这种策略基本上避免了脏数据问题，因为可能存在删除缓存失败的问题，提供一个补偿措施即可，例如利用消息队列重试删除。《缓存的正确使用方式，你都会了吗？》中提供的方法如下图所示：
9. 因为可能存在删除缓存失败的问题，提供一个补偿措施即可，例如利用消息队列。
②缓存雪崩问题
缓存雪崩，即缓存同一时间大面积的失效，这个时候又来了一波请求，结果请求都怼到数据库上，从而导致数据库连接异常。
解决方案:
(一)给缓存的失效时间，加上一个随机值，避免集体失效。
(二)使用互斥锁，但是该方案吞吐量明显下降了。
(三)双缓存。我们有两个缓存，缓存A和缓存B。缓存A的失效时间为20分钟，缓存B不设失效时间。自己做缓存预热操作。然后细分以下几个小点
I 从缓存A读数据库，有则直接返回
II A没有数据，直接从B读数据，直接返回，并且异步启动一个更新线程。
III 更新线程同时更新缓存A和缓存B。
③缓存击穿问题（缓存穿透）
缓存穿透，即黑客故意去请求缓存中不存在的数据，导致所有的请求都怼到数据库上，从而数据库连接异常。
解决方案:
(一)利用互斥锁，缓存失效的时候，先去获得锁，得到锁了，再去请求数据库。没得到锁，则休眠一段时间重试
(二)采用异步更新策略，无论key是否取到值，都直接返回。value值中维护一个缓存失效时间，缓存如果过期，异步起一个线程去读数据库，更新缓存。需要做缓存预热(项目启动前，先加载缓存)操作。
(三)提供一个能迅速判断请求是否有效的拦截机制，比如，利用布隆过滤器，内部维护一系列合法有效的key。迅速判断出，请求所携带的Key是否合法有效。如果不合法，则直接返回。
④缓存的并发竞争key的问题
分析:这个问题大致就是，同时有多个子系统去set一个key，可以使用redis事务机制。
考虑到生产环境，基本都是redis集群环境，做了数据分片操作。一个事务中有涉及到多个key操作的时候，这多个key不一定都存储在同一个redis-server上。因此，redis的事务机制，十分鸡肋。
回答:如下所示
(1)如果对这个key操作，不要求顺序
这种情况下，准备一个分布式锁，大家去抢锁，抢到锁就做set操作即可，比较简单。
(2)如果对这个key操作，要求顺序
假设有一个key1,系统A需要将key1设置为valueA,系统B需要将key1设置为valueB,系统C需要将key1设置为valueC.
期望按照key1的value值按照 valueA–>valueB–>valueC的顺序变化。这种时候我们在数据写入数据库的时候，需要保存一个时间戳。假设时间戳如下
系统A key 1 {valueA 3:00}
系统B key 1 {valueB 3:05}
系统C key 1 {valueC 3:10}
那么，假设这会系统B先抢到锁，将key1设置为{valueB 3:05}。接下来系统A抢到锁，发现自己的valueA的时间戳早于缓存中的时间戳，那就不做set操作了。以此类推。
其他方法，比如利用队列，将set方法变成串行访问也可以。总之，灵活变通。
2，原理
redis是单线程工作模型，I/O多路复用机制。
redis-client在操作的时候，会产生具有不同事件类型的socket。在服务端，有一段I/0多路复用程序，将其置入队列之中。然后，文件事件分派器，依次去队列中取，转发到不同的事件处理器中。
1）单线程的redis为什么这么快
(一)纯内存操作
(二)单线程操作，避免了频繁的上下文切换
(三)采用了非阻塞I/O多路复用机制
2）基础数据类型
①String
特性
最常规的set/get操作，value可以是String也可以是数字。
- string 类型是二进制安全的。意思是 redis 的 string 可以包含任何数据。比如jpg图片或者序列化的对象。
- string 类型的值最大能存储 512MB。
场景
一般做一些复杂的计数功能的缓存。
使用
redis 127.0.0.1:6379> SET name "runoob"
OK
redis 127.0.0.1:6379> GET name
"runoob"
参考操作
存储结构
一个key对应一个value。
②hash
特性
- redis的哈希值是字符串字段和字符串之间的映射，是表示对象的完美数据类型。
- 哈希中的字段数量没有限制，所以可以在你的应用程序以不同的方式来使用哈希。
场景
这里value存放的是结构化的对象，比较方便的就是操作其中的某个字段。
举例：单点登录中用于存储用户信息，以cookieId作为key，设置30分钟为缓存过期时间，能很好的模拟出类似session的效果。
使用
操作示例
存储结构
一个key1对应一个Map，map中每个value中@class后面对应的值为类信息。
通过userRedisTemplate.opsForHash().putAll(key, value)可以一次存入全部数据；
通过userRedisTemplate.opsForHash().get(key1,key2);取单个数据，其中k2是map中的键值；
通过userRedisTemplate.opsForHash().put(key1,key2, value);存入单个数据。
③list（列表）
特性
- 排序为插入的顺序，使用链表实现（增删快，查找慢）。
- 列表的最大长度为2^32-1。
场景
a.简单的消息队列的功能。
- 可以用列表获取最新的内容（像帖子，微博等），用ltrim很容易就会获取最新的内容，并移除旧的内容。
- 用列表可以实现生产者消费者模式，生产者调用lpush添加项到列表中，消费者调用rpop从列表中提取，如果没有元素，则轮询去获取，或者使用brpop等待生产者添加项到列表中。
- 利用lrange命令，做基于redis的分页功能，性能极佳，用户体验好。
使用
操作示例
④set
特性
- 无序的字符串集合，集合中的值是唯一的，无序的。
- 使用@EnableCaching开启声明式缓存支持，这样就可以使用基于注解的缓存技术。注解缓存是一个对缓存使用的抽象，通过在代码中添加下面的一些注解，达到缓存的效果。
场景
- 可以对集合执行很多操作，例如，用于全局去重（集群部署时不用JVM自带的Set进行去重是因为使用JVM自带的Set需要再起一个公共服务，太麻烦了），测试元素是否存在，对多个集合执行交集、并集和差集等等。
- 我们通常可以用集合存储一些无关顺序的，表达对象间关系的数据，例如用户的角色，可以用sismember很容易就判断用户是否拥有某个角色。
- 在一些用到随机值的场合是非常适合的，可以用 srandmember/spop 获取/弹出一个随机元素。
使用
操作示例
⑤zset（sorted set）
特性
- 有序集合由唯一的，不重复的字符串元素组成。有序集合中的每个元素都关联了一个浮点值，称为分数。可以把有序看成hash和集合的混合体，分数即为hash的key。
- 有序集合中的元素是按序存储的，不是请求时才排序的。sorted set多了一个权重参数score,集合中的元素能够按score进行排列。可以做排行榜应用，取TOP N操作。
场景
使用
操作示例
3）过期策略以及内存淘汰机制
redis采用的是定期删除+惰性删除策略。
①定期删除：redis默认每个100ms检查，是否有过期的key,有过期key则删除。需要说明的是，redis不是每个100ms将所有的key检查一次，而是随机抽取进行检查(如果每隔100ms,全部key进行检查，redis岂不是卡死)。因此，如果只采用定期删除策略，会导致很多key到时间没有删除。
②惰性删除：每次获取某个key的时候，redis会检查一下，如果这个key如果设置了过期时间那么就会删除。
③内存淘汰机制
如果定期删除没删除key。然后你也没即时去请求key，也就是说惰性删除也没生效。这样，redis的内存会越来越高。那么就应该采用内存淘汰机制。
redis.conf中有一行配置：# maxmemory-policy volatile-lru
1> noeviction：当内存不足以容纳新写入数据时，新写入操作会报错。(不推荐）
2> allkeys-lru：当内存不足以容纳新写入数据时，在键空间中，移除最近最少使用的key。(推荐使用)
3> allkeys-random：当内存不足以容纳新写入数据时，在键空间中，随机移除某个key。(不推荐）
4> volatile-lru：当内存不足以容纳新写入数据时，在设置了过期时间的键空间中，移除最近最少使用的key。这种情况一般是把redis既当缓存，又做持久化存储的时候才用。(不推荐）
5> volatile-random：当内存不足以容纳新写入数据时，在设置了过期时间的键空间中，随机移除某个key。(不推荐）
6>volatile-ttl：当内存不足以容纳新写入数据时，在设置了过期时间的键空间中，有更早过期时间的key优先移除。(不推荐）
3，使用
1）添加依赖
org.springframework.boot
spring-boot-starter-data-redis
2）yml配置
resources/bootstrap.yml
spring:
redis:
database: 0
host: 127.0.0.1
port: 6380
password: *************
# Redis数据库索引（默认为0）
spring.redis.database=0
# Redis服务器地址
spring.redis.host=127.0.0.1
# Redis服务器连接端口
spring.redis.port=6379
# Redis服务器连接密码（默认为空）
spring.redis.password=
# 连接池最大连接数（使用负值表示没有限制）
spring.redis.pool.max-active=8
# 连接池最大阻塞等待时间（使用负值表示没有限制）
spring.redis.pool.max-wait=-1
# 连接池中的最大空闲连接
spring.redis.pool.max-idle=8
# 连接池中的最小空闲连接
spring.redis.pool.min-idle=0
# 连接超时时间（毫秒）
spring.redis.timeout=0
3）Java Configuration
@Configuration
@EnableCaching
public class RedisCacheConfig {
@Bean
public RedisTemplate redisTemplate(RedisConnectionFactory factory){
RedisTemplate redisTemplate = new RedisTemplate();
redisTemplate.setConnectionFactory(factory);
// key序列化方式;（不然会出现乱码;）,但是如果方法上有Long等非String类型的话，会报类型转换错误；
// 所以在没有自己定义key生成策略的时候，以下这个代码建议不要这么写，可以不配置或者自己实现ObjectRedisSerializer
// 或者JdkSerializationRedisSerializer序列化方式;
RedisSerializer redisSerializer = new StringRedisSerializer();// Long类型不可以会出现异常信息;
redisTemplate.setKeySerializer(redisSerializer);
redisTemplate.setHashKeySerializer(redisSerializer);
return redisTemplate;
}
@Bean
public RedisTemplate> userRedisTemplate(RedisConnectionFactory redisConnectionFactory) {
RedisTemplate> redisTemplate = new RedisTemplate<>();
redisTemplate.setConnectionFactory(redisConnectionFactory);
GenericJackson2JsonRedisSerializer serializer = new GenericJackson2JsonRedisSerializer();
redisTemplate.setDefaultSerializer(serializer);
return redisTemplate;
}
}
spring boot config redis的模板
4）通用操作的工具类
@SuppressWarnings("unchecked")
@Component
public class RedisUtil {
@SuppressWarnings("rawtypes")
@Autowired
private RedisTemplate redisTemplate;
/**
* 批量删除对应的value
*
* @param keys
*/
public void remove(final String... keys) {
for (String key : keys) {
remove(key);
}
}
/**
* 批量删除key
*
* @param pattern
*/
public void removePattern(final String pattern) {
Set keys = redisTemplate.keys(pattern);
if (keys.size() > 0)
redisTemplate.delete(keys);
}
/**
* 删除对应的value
*
* @param key
*/
public void remove(final String key) {
if (exists(key)) {
redisTemplate.delete(key);
}
}
/**
* 判断缓存中是否有对应的value
*
* @param key
* @return
*/
public boolean exists(final String key) {
return redisTemplate.hasKey(key);
}
/**
* 读取缓存
*
* @param key
* @return
*/
public String get(final String key) {
Object result = null;
ValueOperations operations = redisTemplate.opsForValue();
result = operations.get(key);
if (result == null) {
return null;
}
return result.toString();
}
/**
* 写入缓存
*
* @param key
* @param value
* @return
*/
public boolean set(final String key, Object value) {
boolean result = false;
try {
ValueOperations operations = redisTemplate.opsForValue();
operations.set(key, value);
result = true;
} catch (Exception e) {
e.printStackTrace();
}
return result;
}
/**
* 写入缓存
*
* @param key
* @param value
* @return
*/
public boolean set(final String key, Object value, Long expireTime) {
boolean result = false;
try {
ValueOperations operations = redisTemplate.opsForValue();
operations.set(key, value);
redisTemplate.expire(key, expireTime, TimeUnit.SECONDS);
result = true;
} catch (Exception e) {
e.printStackTrace();
}
return result;
}
public boolean hmset(String key, Map value) {
boolean result = false;
try {
redisTemplate.opsForHash().putAll(key, value);
result = true;
} catch (Exception e) {
e.printStackTrace();
}
return result;
}
public Map hmget(String key) {
Map result = null;
try {
result = redisTemplate.opsForHash().entries(key);
} catch (Exception e) {
e.printStackTrace();
}
return result;
}
}
5）使用
@Autowired
private RedisUtil redisUtil;
@Test
public void testSet() {
String key = "key";
System.out.println(redisUtil.get(key));
String value = "sdd";
redisUtil.set(key, value);
System.out.println(redisUtil.get(key));
}
6）注意
①注意保持redis和数据库的数据同步和一致性。
7）TTL 命令（key过期时间）
Redis TTL 命令以秒为单位返回 key 的剩余过期时间。
redis 127.0.0.1:6379> TTL KEY_NAME
8）key
redis通过key来分文件夹。如key：abc:mdr:save 在redis中会自动划分文件夹abc/mdr，并将save作为key存储在abc/mdr文件夹下。
4，参考文献
Redis使用总结（一、几点使用心得）
runoob.com：redis教程
springboot之使用redistemplate优雅地操作redis
缓存的正确使用方式，你都会了吗？