本博客为尚硅谷课程笔记,课程来源:【尚硅谷】Redis 6 入门到精通 超详细 教程_哔哩哔哩_bilibili
部分参考博文:Redis6从入门到精通
NoSQL(NosQL = Not Only SQL ),意即“不仅仅是SQL”,泛指非关系型的数据库。NoSQL不依赖业务逻辑方式存储,而以简单的key-value模式存储。因此大大的增加了数据库的扩展能力。
特点:
- 不遵循SQL标准。
- 不支持ACID【指数据库管理系统(DBMS)在写入或更新资料的过程中,为保证事务(transaction)是正确可靠的,所必须具备的四个特性:原子性(atomicity,或称不可分割性)、一致性(consistency)、隔离性(isolation,又称独立性)、持久性(durability)】。
- 远超于SQL的性能。
适用场景:
- 高并发、海量数据读写。
- 数据高可扩展性。
不适用场景:
- 需要事务支持。
- 需要基于SQL结构化查询存储。
优点:
- 缓存数据库,完全在内存中,速度快,数据结构简单
- 减少io操作,数据库和表拆分,虽然破坏业务逻辑,即外加一个缓存数据库,提高数据库速度,也可以用专门的存储方式,以及针对不同的数据结构存储
随着Web2.0时代的到来,用户访问量大幅度提升,同时产生了大量的用户数据。加上后来的智能移动设备的普及,所有的互联网平台都面临了巨大的性能挑战。
回答以上两个问题其实也是在说明NoSQL的作用
常见的NoSQL数据库
Redis(Remote Dictionary Server),即远程字典服务,是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,并提供多种语言的API。
Redis 是一个开源的key-value 存储系统。
和 Memcached 类似,它支持存储的 value 类型相对更多,包括 string (字符串)、list (链表)、set (集合)、zset (sorted set –有序集合) 和 hash(哈希类型)。
这些数据类型都支持 push/pop、add/remove 及取交集并集和差集及更丰富的操作,而且这些操作都是原子性的。
在此基础上,Redis 支持各种不同方式的排序。
与 memcached 一样,为了保证效率,数据都是缓存在内存中; 区别是 Redis 会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记录文件。
并且在此基础上实现了 master-slave (主从) 同步。
适用场景:
安装步骤:
安装地址:redis-Linux压缩包下载地址【以Ubuntu环境下,下载7.0.4版本为例】
sudo apt-get update
# gcc编译环境
sudo apt-get install gcc
sudo apt-get install make
gcc --version # 弹出版本号信息即为安装成功
tar.gz
压缩包并编译文件tar -xzvf redis-7.0.4.tar.gz
cd redis-7.0.4 && make
# make过程无报错跳过make test直接install
sudo make install
成功安装如下图所示:
默认安装位置为/usr/local/bin
文件介绍:
# copy redis-7.0.4目录下的redis.conf文件到其他目录下(如/etc目录)
cp redis.conf /etc/redis.conf
# 进入/etc目录查看文件是否被复制
cd /etc && ll
# 后台启动设置daemonize no改成yes
vim redis.conf
# 将requirepass的注解删除,自定义密码
# 启动redis服务的命令变成
redis-server /etc/redis.conf
ps -e | grep redis # 查看redis-server是否在后台启动以及它的端口号
redis-cli [-h host -p port] -a password
shutdown # 关闭redis服务 or kill -9 进程号
端口号
6379
的由来
意大利广告女郎 AlessiaMerz
【对应九宫格输入法的数字】Redis默认有16个数据库,索引从0开始,初始默认使用0号库
使用select
切换数据库,而且所有的数据库使用统一的密码
Redis支持多个数据库,并且每个数据库的数据是隔离的不能共享,并且基于单机才有,如果是集群就没有数据库的概念。
这些数据库更像是一种命名空间,而不适宜存储不同应用程序的数据。比如可以使用0号数据库存储某个应用生产环境中的数据,使用1号数据库存储测试环境中的数据,但不适宜使用0号数据库存储A应用的数据而使用1号数据库B应用的数据,不同的应用应该使用不同的Redis实例存储数据。由于Redis非常轻量级,一个空Redis实例占用的内存只有1M左右,所以不用担心多个Redis实例会额外占用很多内存。
Redis是单线程+多路IO复用技术
多路复用是指使用一个线程来检查多个文件描述符( Socket )的就绪状态,比如调用select
和poll
函数,传入多个文件描述符,如果有一个文件描述符就绪,则返回,否则阻塞直到超时。得到就绪状态后进行真正的操作可以在同一个线程里执行,也可以启动线程执行(比如使用线程池 )。
串行 VS 多线程+锁(memcached) VS 单线程+多路IO复用(Redis)
(Redis与Memcached三点不同:支持多数据类型、支持持久化、单线程+多路IO复用)
Redis命令中心-官方
keys *
查看当前库所有key(匹配: keys *1
)exists key
判断某个key是否存在type key
查看你的key是什么类型del key
删除指定的key数据unlink key
根据value选择非阻塞删除,仅将keys从keyspace元数据中删除,真正的删除会在后续异步操作】expire key 10
为给定的key设定过期时间10sttl key
查看key还有多少秒过期,-1
表示永不过期,-2
表示已经过期】dbsize
查看当前数据库的key的数量flushdb
清空当前数据库、flushall
清空所有库String是Redis最基本的类型,一个key对应一个value,value最大长度为512M。String类型是二进制安全的,这意味着Redis的String可以包含任何数据【如jpg图片或者序列化的对象】。
String的数据结构为简单动态字符串(Simple Dynamic String,缩写SDS)。是可以修改的字符串,内部结构实现上类似于Java的 ArrayList,采用预分配冗余空间的方式来减少内存的频繁分配。
如图中所示,内部为当前字符串实际分配的空间capacity一般要高于实际字符串长度len。当字符串长度小于1M时,扩容都是加倍现有的空间,如果超过1M,扩容时一次只会多扩1M的空间。需要注意的是字符串最大长度为512M。I
set
添加键值对NX
:当数据库中key不存在时,可以将key-value添加数据库XX
:当数据库中key存在时,可以将key-value添加数据库,与NX
互斥EX
:key的超时秒数EX
:key的超时毫秒数,与EX
互斥get
查询对应键值append
将给定的value追加到原值的末尾strlen
获得值得长度setnx
在key不存在时,设置key的值incr
将key中存储的数字值增1【只能操作数字值】decr
将key中存储的数字值减1,若为空,值为-1
incrby/decrby
将key中存储的value按increment增减
上面的增减操作对指定的key执行的是原子操作,即不会被线程调度机制打断的操作,中间不会有任何contex switch。
(1)在单线程中,能够在单条指令中完成的操作都可以认为是“原子操作”,原因是中断只能发生在指令之间。
(2)在多线程中,不能被其他进程(线程)打断的操作
Redis的原子性主要得益于Redis的单线程
mset ......
同时设置一个或多个key-value键值对mget ......
同时获取一个或者多个valuemsetnx ......
同时设置一个或多个key-value键值对,当且仅当给定key都不存在
以上操作都具有原子性【一个失败则该命令执行失败】
getrange <起始位置> <结束位置>
类似Java中的substring操作setrange <起始位置>
用value从起始位置开始覆写键值setex <过期时间>
设置键值的同时设置过期时间,以秒为单位getset
获取旧值同时设置新值单键多值。Redis列表是简单的字符串列表,按照插入顺序排序。你可以添加一个元素到列表的头部(左边)或者尾部(右边)。它的底层实际是个双向链表,对两端的操作性能很高,通过索引下标的操作中间的节点性能会较差。
List的数据结构为快速链表quickList。
Redis将链表和ziplist结合起来组成了quicklist,也就是将多个ziplist使用双向指针串起来使用。这样既满足了快速的插入删除性能,又不会出现太大的空间冗余。
lpush/rpush [ ...]
从列表左边/右边插入一个或多个值,不存在则创建新表lpushx/rpushx [ ...]
从已存在的列表左边/右边插入一个或多个值,列表不存在时操作无效lpop/rpop
从左边/右边“吐”出一个值。值在键在,值光键亡rpoplpush
从key1列表右边吐出一个值,插到key2列表左边lrange
按照索引下标获得元素(从左到右)lindex
按照索引下标获得元素(从左到右)llen
获取列表的长度linsert before | after
将新值插入到列表 key 当中,位于value之前或之后lrem
根据参数n的值,移除列表中与VALUE相等的元素。
lset
通过索引来设置元素的值。当索引参数超出范围,或对一个空列表进行 LSET 时,返回一个错误blpop/brpop ...
移出并获取列表的(第一个/最后一个)元素, 如果列表没有元素会阻塞列表直到等待超时或发现可弹出元素为止brpoplpush
从key1列表右边吐出一个值,插到key2列表左边。如果列表没有元素会阻塞列表直到等待超时或发现可弹出元素为止。ltrim
对一个列表进行修剪(trim),让列表只保留指定区间内的元素,不在指定区间之内的元素都将被删除Set 是 String 类型的无序集合,功能与List类似。集合成员是唯一的,这就意味着集合中不能出现重复的数据,即Set能自动排重。【需要存储一个列表数据,又不希望出现重复数据时,Set是最佳选择。】
Redis 中SET集合的数据结构是字典(dict),是通过哈希表【底层是一个value为null的Hash表】实现的,所以添加,删除,查找的复杂度都是 O(1)。【Set提供了判断某个成员是否在一个Set集合内的重要接口,这是List不具备的。】
Java中Hashset的内部实现使用的是 HashMap,只不过所有的value都指向同一个对象。Redis的Set结构也是一样,它的内部也使用hash结构,所有的value都指向同一个内部值。
sadd [ ...]
将一个或者多个member元素加入到集合key中,已经存在的member元素将被忽略smembers
返回集合中的所有的成员。 不存在的集合 key 被视为空集合。sismember
判断成员元素是否是集合的成员scard
返回集合中元素的数量srem ...
移除集合中的一个或多个成员元素,不存在的成员元素会被忽略。当 key 不是集合类型,返回一个错误srandmember [count]
命令用于返回集合中的一个随机元素【不对集合进行任何改动】spop [count]
移除集合中的指定 key 的一个或多个随机元素,移除后会返回移除的元素【集合元素变少】sdiff ...
返回第一个集合与其他集合之间的差异【第一个集合中独有的元素】。不存在的集合 key 将视为空集
SDIFFSTORE DESTINATION_KEY KEY1..KEYN
将给定集合之间的差集存储在指定的集合中。如果指定的集合 key 已存在,则会被覆盖SINTER
和SUNION
也有类似的存储操作sinter ...
返回给定所有给定集合的交集。不存在的集合key或者当中有一个空集时结果为空集(根据集合运算定律)sunion ...
返回给定所有给定集合的并集。不存在的集合key被视为空集smove
将指定成员 member 元素从 source 集合移动到 destination 集合【原子性操作】
sscan [match pattern] [count]
用于迭代集合中键的元素
> SADD myset1 "Google"
(integer) 1
> SADD myset1 "Baidu"
(integer) 1
> SADD myset1 "Taobao"
(integer) 1
> SSCAN myset1 0 match T*
1) "0"
2) 1) "Taobao"
Redis Hash是一个 string 类型的 field(字段) 和 value(值) 的映射表,hash 特别适合用于存储对象。【类似Java中的Map
】
用户ID为查找的key,存储的value用户对象包含姓名,年龄,生日等信息,如果用普通的key-value结构存储,主要右以下两种存储方式:
而使用Hash存储:
Hash类型对应的数据结构是两种:ziplist(压缩列表),hashtable(哈希表)。当field-value长度较短且个数较少时,使用ziplist,否则使用hashtable。
hset
给哈希表key中字段field赋值value。如果哈希表不存在,一个新的哈希表被创建并进行 HSET 操作;如果字段已经存在于哈希表中,旧值将被覆盖hsetnx
只有在字段 field 不存在时,设置哈希表字段的值;如果字段已经存在于哈希表中,操作无效hget
返回哈希表中指定字段的值hmset [field2 value2 ]
同时将多个 field-value (域-值)对设置到哈希表 key 中hmget [field2]
hexists
查看哈希表 key 中,指定的字段是否存在hkeys
获取所有哈希表中的字段hvals
获取哈希表中所有值hgetall
获取在哈希表中指定 key 的所有字段和值hincrby
为哈希表 key 中的指定字段的整数值加上增量 increment
hdel [field2 ...]
删除一个或多个哈希表字段Redis有序集合zset和普通集合set非常相似,是一个没有重复元素的字符串集合。不同之处在于有序集合的每个成员都会关联一个 double 类型的分数。Redis 正是通过分数来为集合中的成员进行从小到大的排序。有序集合的成员是唯一的,但分数(score)却可以重复。
SortedSet(zset)是Redis提供的一个非常特别的数据结构,一方面它等价于Java的数据结构Map
zset底层使用了两个数据结构:
(1)hash,hash的作用就是关联元素value和权重score,保障元素value的唯一性,可以通过元素value找到相应的score值。
(2)跳跃表,跳跃表的目的在于给元素value排序,根据score的范围获取元素列表。
当items内容大于64的时候同时使用了hash和skiplist两种设计实现。添加和删除都需要修改skiplist,所以复杂度为O(log(n))。 但是如果仅仅是查找元素的话可以直接使用hash,其复杂度为O(1) ,其他的range操作复杂度一般为O(log(n)),如果是小于64的时候,因为是采用了ziplist的设计,其时间复杂度为O(n)。
有序集合在生活中比较常见,对于有序集合的底层实现,可以使用数组、平衡树、链表等。数组不便元素的插入、删除;平衡树或者红黑树虽然查找、插入、删除效率高但结构复杂;链表查询需要遍历所有元素,效率低。跳跃表的效率堪比红黑树,但实现远比红黑树简单。
zadd [score2 member2]
向有序集合添加一个或多个成员,或者更新已存在成员的分数【通过重新插入这个成员元素,来保证该成员在正确的位置上】
zrange [WITHSCORES]
通过索引区间返回有序集合指定区间内的成员,其中成员的位置按分数值递增(从小到大)来排序,具有相同分数值的成员按字典序(lexicographical order )来排列【带上WITHSCORES可以让分数一起和值返回到结果集】
zrevrange
命令zrangebyscore min max [WITHSCORES] [LIMIT offset count]
通过分数返回有序集合指定区间内的成员,默认情况下,区间的取值使用闭区间 【小于等于或大于等于】,也可以通过给参数前增加 (
符号来使用可选的开区间 【小于或大于】
zset (1 5
返回所有符合条件 1 < score <= 5 的成员zrevrangebyscore
命令zcard
获取有序集合的成员数zincrby member
有序集合中对指定成员的分数加上增量 incrementzcount min max
计算在有序集合中指定区间分数的成员数zrem member [member ...]
移除有序集合中的一个或多个成员,不存在的成员将被忽略zscore member
返回有序集中,成员的分数值zrank member
返回有序集中指定成员的排名。其中有序集成员按分数值递增(从小到大)顺序排列现代计算机用二进制(位)作为信息的基础单位,1个字节等于8位,例如“abc”字符串是由3个字节组成,但实际在计算机存储时将其用二进制表示,“abc”分别对应的 ASCII码分别是97、98、99,对应的二进制分别是01100001、01100010和01100011。
合理地使用操作位能够有效地提高内存使用率和开发效率。Redis提供了Bitmaps这个“数据类型”可以实现对位的操作:
( 1 ) Bitmaps本身不是一种数据类型,实际上它就是字符串( key-value ) ,但是它可以对字符串的位进行操作。
( 2 ) Bitmaps单独提供了一套命令,所以在Redis 中使用 Bitmaps 和使用字符串的方法不太相同。可以把 Bitmaps想象成一个以位为单位的数组,数组的每个单元只能存储0和1,数组的下标在Bitmaps 中叫做偏移量。
使用bitmap有什么好处呢?
在java当中,一个int类型占用4个字节,即4个Byte。假设有‘1’,‘3’,‘5’三个数字,如果存储在HashMap当中,需要 3 * 4 * 8 = 96
bit 的空间存储。
如果将他们存储在BitMap,需要的存储空间如下图所示:
总共需要6位,可以存储从0~5的整数,相比HashMap的存储方式,足足缩减了16倍的存储空间。
注意:
虽然Bitmaps能够节省内存,但是并不适用所有情况。
假设网站有1000万用户,但是其中的活跃用户只有10万。此时Bitmaps存储了绝大多数的僵尸用户,但是bit位的值都是0,是无效的,只有百分之一的利用率,还是浪费了绝大部分的内存。而如果使用map或者set存储这10万用户,可能还用不了这么多内存呢。
另外还有一种情况,假设用户的id是这样的:1000001、1000002、1000003等,前面存在100000这样的固定值,那么需要在存储bitmaps进行截取,以免造成内存浪费。
setbit
设置Bitmaps中某个偏移量的值(0或1)【偏移量offset从0开始】
每个独立用户是否访问过网站存放在Bitmaps 中,将访问的用户记做1,没有访问的用户记做0,用偏移量作为用户的id。
设置键的第offset个位的值(从0算起),假设现在有20个用户,userid=1,6,11,15,19的用户对网站进行了访问,那么当前Bitmaps初始化结果如图
unique:users:20201106
——键,代表2020-11-06这天独立访问用户的Bitmaps
注:很多应用的用户id以一个指定数字(例如10000 )开头,直接将用户id和Bitmaps 的偏移量对应势必会造成一定的浪费,通常的做法是每次做setbit操作时将用户id减去这个指定数字。
在第一次初始化 Bitmaps时,假如偏移量非常大,那么整个初始化过程执行会比较慢,可能会造成 Redis的阻塞。
getbit
获取bitmap的值,指定offset下标,有则返回1,没有则返回0,不存在的下标也返回0。bitcount [start end]
统计设置为1的bit数量,可以指定获取的范围
注意:start 和 end 是按照字节来进行统计的,假如对bitmaps【
0000000010110000
】
使用范围 0 ~ 0 时,实际获取的是第一个字节的统计数,显然是0;而使用 0 ~ 1 时,统计的是这两个字节的值,一共是三个。
使用 0 ~ -1 时,表示第一个字节到最后一个字节;当使用 0 ~ -2 时,表示第一个字节到倒数第二个字节,这里只有两个字节,所以相当于 0 ~ 0 ,所以统计不到。
bitop
bitop可以进行多种操作是一个复合操作, 它可以对多个Bitmaps做and(交集) 、 or(并集) 、 not(非) 、 xor(异或) 等操作,将结果保存在目标destkey中
实例:
计算出两天都访问过网站的用户数量:bitop and unique:users:and:20201104_03 unique:users:20201103 unique:users:20201104
得到结果:2
在工作当中,我们经常会遇到与统计相关的功能需求,比如统计网站PV( PageView页面访问量),可以使用Redis的incr、incrby轻松实现。但像UV ( UniqueVisitor,独立访客)、独立IP数、搜索记录数等需要去重和计数的问题如何解决?
解决基数问题有很多种方案:
(1)数据存储在MySQL表中,使用distinct count计算不重复个数
(2)使用Redis提供的hash、set、bitmaps等数据结构来处理
以上的方案结果精确,但随着数据不断增加,导致占用空间越来越大,对于非常大的数据集是不切实际的。
能否能够降低一定的精度来平衡存储空间? Redis推出了HyperLogLog,一个用来做基数统计的算法,HyperLogLog 的优点是,在输入元素的数量或者体积非常非常大时,计算基数所需的空间总是固定的、并且是很小的。
什么是基数?
比如数据集 {1, 3, 5, 7, 5, 7, 8}, 那么这个数据集的基数集为 {1, 3, 5 ,7, 8}, 基数(不重复元素个数)为5。 基数估计就是在误差可接受的范围内,快速计算基数。求集合中不重复元素个数的问题称为基数问题。
在 Redis 里面,每个 HyperLogLog 键只需要花费 12 KB 内存,就可以计算接近 2 64 2^{64} 264 个不同元素的基数。这和计算基数时,元素越多耗费内存就越多的集合形成鲜明对比。
因为 HyperLogLog 只会根据输入元素来计算基数,而不会储存输入元素本身,所以 HyperLogLog 不能像集合那样,返回输入的各个元素。
PFADD [element ...]
将所有元素参数添加到 HyperLogLog 数据结构中,如果执行命令后HLL估计的近似基数发生变化,则返回1,否则返回0【即添加重复元素会返回0】PFCOUNT [key ...]
返回给定 HyperLogLog 的基数估算值,如果多个 HyperLogLog 则返回基数估值之和【比如用HLL存储每天的UV,计算一周的UV可以使用7天的UV合并计算】redis 127.0.0.1:6379> PFADD hll foo bar zap
(integer) 1
redis 127.0.0.1:6379> PFADD hll zap zap
(integer) 0
redis 127.0.0.1:6379> PFADD hll foo bar
(integer) 0
redis 127.0.0.1:6379> PFCOUNT hll
(integer) 3
redis 127.0.0.1:6379> PFADD some-other-hll 1 2 3
(integer) 1
redis 127.0.0.1:6379> PFCOUNT hll some-other-hll
(integer) 6
PFMERGE [sourcekey ...]
将多个 HyperLogLog 合并为一个 HyperLogLog ,合并后的 HyperLogLog 的基数估算值是通过对所有 给定 HyperLogLog 进行并集计算得出的redis> PFADD hll1 foo bar zap a
(integer) 1
redis> PFADD hll2 a b c foo
(integer) 1
redis> PFMERGE hll3 hll1 hll2
"OK"
redis> PFCOUNT hll3
(integer) 6
Redis 3.2中增加了对GEO【Geographic,地理信息的缩写】类型的支持。该类型就是元素的2维坐标,在地图上就是经纬度。redis基于该类型,提供了经纬度设置,查询,范围查询,距离查询,经纬度Hash等常见操作。
Redis GEO 操作方法有:
GEOADD key longitude latitude member [longitude latitude member ...]
GEOPOS key member [member ...]
GEODIST key member1 member2 [m|km|ft|mi]
,其中mi :英里;ft :英尺。默认使用米(m)作为单位GEORADIUS key longitude latitude radius m|km|ft|mi [WITHCOORD] [WITHDIST] [WITHHASH] [COUNT count] [ASC|DESC] [STORE key] [STOREDIST key]
GEORADIUSBYMEMBER key member radius m|km|ft|mi [WITHCOORD] [WITHDIST] [WITHHASH] [COUNT count] [ASC|DESC] [STORE key] [STOREDIST key]
GEOHASH key member [member ...]
下一篇文章:【学习笔记】尚硅谷-Redis6 2.Redis配置文件和事务