缓存与数据库双写不一致小概率事件
//线程1 写数据库stock = 5 ---------------》更新缓存
//线程2 写数据库stock = 4 -----》更新缓存
//线程1 ------》写数据库stock = 10 -----》删除缓存
//线程2 -----------------------------------------------------------------------------------------------》写数据库stock = 9 -----》删除缓存
//线程3 -------------------------------------------------》查缓存(空)----》查数据库stock = 10------------------------------------------------------------------------》写缓存
使用 redisson 的 RReadWriteLock,让修改 stock 的地方串行执行,源码还是使用 lua 脚本实现。
key名设计
vlaue设计原则
bigkey的产生
一般来说,bigkey的产生都是由于程序设计不当,或者对于数据规模预料不清楚造成的,来看几个例子:
(1) 社交类:粉丝列表,如果某些明星或者大v不精心设计下,必是bigkey。
(2) 统计类:例如按天存储某项功能或者网站的用户集合,除非没几个人用,否则必是bigkey。
(3) 缓存类:将数据从数据库load出来序列化放到Redis里,这个方式非常常用,但有两个地方需要注意,第一,是不是有必要把所有字段都缓存;第二,有没有相关关联的数据,有的同学为了图方便把相关数据都存一个key下,产生bigkey。
如何优化bigkey
命令使用
客户端使用
LRU 算法(Least Recently Used,最近最少使用)
淘汰很久没被访问过的数据,以最近一次访问时间作为参考。
LFU 算法(Least Frequently Used,最不经常使用)
淘汰最近一段时间被访问次数最少的数据,以次数作为参考。
maxmemory-policy(默认是noeviction),推荐使用volatile-lru
当Redis运行在主从模式时,只有主结点才会执行过期删除策略,然后把删除操作”del key”同步到从结点删除数据。
使用带有连接池的数据库,可以有效控制连接,同时提高效率,标准使用方式
JedisPoolConfig jedisPoolConfig = new JedisPoolConfig();
JedisPool jedisPool;
{
System.out.println("=====初始化连接池=====");
//资源池中最大连接数
jedisPoolConfig.setMaxTotal(10);
//资源池允许最大空闲的连接数
jedisPoolConfig.setMaxIdle(10);
//资源池确保最少空闲的连接数
jedisPoolConfig.setMinIdle(2);
//向资源池借用连接时是否做连接有效性检测(ping),无效连接会被移除。业务量很大时候建议设置为false(多一次ping的开销)
jedisPoolConfig.setTestOnBorrow(true);
jedisPool = new JedisPool(jedisPoolConfig, "127.0.0.1", 6379, 3000, null);
//连接池预热示例代码
List minIdleJedisList = new ArrayList(jedisPoolConfig.getMinIdle());
for (int i = 0; i < jedisPoolConfig.getMinIdle(); i++) {
Jedis jedis = null;
try {
jedis = jedisPool.getResource();
jedis.clientSetname("client:" + i);
minIdleJedisList.add(jedis);
jedis.ping();
} catch (Exception e) {
e.printStackTrace();
} finally {
//注意,这里不能马上close将连接还回连接池,否则最后连接池里只会建立1个连接。。
//jedis.close();
}
}
//统一将预热的连接还回连接池
for (int i = 0; i < jedisPoolConfig.getMinIdle(); i++) {
Jedis jedis = null;
try {
jedis = minIdleJedisList.get(i);
//将连接归还回连接池
jedis.close();
System.out.println("连接" + jedis.clientGetname() + "归还成功");
} catch (Exception e) {
e.printStackTrace();
} finally {
}
}
}
@GetMapping("pool")
public String pool() {
Jedis jedis = null;
try {
jedis = jedisPool.getResource();
//具体的命令
String set = jedis.set("pool:redis:", "1");
System.out.println("使用连接:" + jedis.clientGetname() + " 执行" + " 结果:" + set);
} catch (Exception e) {
e.printStackTrace();
} finally {
//注意这里不是关闭连接,在JedisPool模式下,Jedis会被归还给资源池。
if (jedis != null)
jedis.close();
}
return "success";
}
慢查询日志:slowlog
config get slow* #查询有关慢日志的配置信息
config set slowlog-log-slower-than 20000 #设置慢日志使时间阈值,单位微秒,此处为20毫秒,即超过20毫秒的操作都会记录下来,生产环境建议设置1000,也就是1ms,这样理论上redis并发至少达到1000,如果要求单机并发达到1万以上,这个值可以设置为100
config set slowlog-max-len 1024 #设置慢日志记录保存数量,如果保存数量已满,会删除最早的记录,最新的记录追加进来。记录慢查询日志时Redis会对长命令做截断操作,并不会占用大量内存,建议设置稍大些,防止丢失日志
config rewrite #将服务器当前所使用的配置保存到redis.conf
slowlog len #获取慢查询日志列表的当前长度
slowlog get 5 #获取最新的5条慢查询日志。慢查询日志由四个属性组成:标识ID,发生时间戳,命令耗时,执行命令和参数
slowlog reset #重置慢查询日志
布隆过滤器就是一个大型的位数组和几个不一样的无偏 hash 函数。所谓无偏就是能够把元素的 hash 值算得比较均匀。
0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
k1 | 1 | 1 | 1 | ||||||||||||||||
k2 | 1 | 1 | 1 | ||||||||||||||||
k3 | 1 | 1 | 1 |
对 k1 进行多个 hash 计算获得数组索引值,add
对 k2 进行多个 hash 计算获得数组索引值,add
对 k3 进行多个 hash 计算获得数组索引值,exists,此时出现了 hash 碰撞,误判 k3 存在。
@GetMapping("bloom")
public String bloom() {
Config config = new Config();
List<String> nodes = Arrays.asList(
"redis://192.168.139.135:8001",
"redis://192.168.139.136:8002",
"redis://192.168.139.137:8003",
"redis://192.168.139.135:8004" ,
"redis://192.168.139.136:8005",
"redis://192.168.139.137:8006");
//集群配置
config.useClusterServers().setNodeAddresses(nodes);
config.useClusterServers().setPassword("yes");
RedissonClient redisson = Redisson.create(config);
RBloomFilter<String> nameFilter = redisson.getBloomFilter("nameFilter");
//初始化布隆过滤器:预计元素为100000000L,误差率为3%,根据这两个参数会计算出底层的bit数组大小
nameFilter.tryInit(100000000L,0.03);
String[] nameList = { "a", "b", "c", "d", "e", "f", "g", "h", "i", "j", "k"};
String[] checkList = { "a1", "b2", "c3", "d", "e4", "f5", "g6", "h7", "i8", "j", "k"};
for (String name : nameList) {
nameFilter.add(name);
}
//判断下面号码是否在布隆过滤器中
for (String name : checkList) {
boolean rs = nameFilter.contains(name);
System.out.println(name + " 检查结果:" + rs);
}
return "success";
}