NoSQL之Redis配置与优化
关系数据库与非关系数据库
Redis安装部署
Redis数据库常用命令
Redis持久化
Redis性能管理
关系型数据库是一个结构化的数据库,创建在关系模型基础上,一般面向于记录
他借助于集合代数等数学概念和方法来处理数据库中的数据
关系模型就是指二维表格模型,因而一个关系型数据库就是由二维表以及之间的联系组成的一个数据组织
现实世界中,各种实体与实体之间的各种联系都可以用关系模型来表示
sql语句(标准数据查询语言)就是一种基于关系型数据库的语言,用于执行对关系型数据库的检索和操作
包括Oracle、MySQL、SQL Server、Microsoft Access、DB2等
sqlite运行在手机等移动设备上,占用资源少
小型轻量级的数据库
非关系型数据库,nosql (not only sql),意思是不仅仅是sql,是非关系型数据库的总称
主流的nosql数据库有redis、mongbd、hbase、couhdb等等,以上这些数据库,他们的存储方式、存储结构以及使用的场景都是完全不同的
所以我们认为它是一个非关系型数据库的集合,而不是像关系型数据库一样,是一个统称
换言之,除了主流的关系型数据库以外的数据库,都被认为是非关系型的
nosql数据库凭借着其非关系型、分布式、开源和横向扩展等优势,被认为是下一代的数据库产品
关系型数据库已经诞生很久了,而且我们一直在使用,没有什么问题
面对这样的情况,,为何还会产生nosql
这里简单介绍一下nosql产生的背景
随着web2.0网站的星期,关系型数据库在应对web2.0网站,特鄙视海量数据和高并发的sns(social networking services,即社交网络服务)类型的web2.0纯动态网站时,暴露出很难解决的问题,例如三高问题
web2.0网站会根据用户的个性化信息来实时生成动态页面和提供动态信息,因此,无法使用动态页面静态化技术
所以数据库的并发负载会非常高,一般会达到10000次/s以上的读写请求
关系型数据库对于上万次的查询请求还可以勉强支撑,但是出现上万次的写数据请求,硬盘的IO就已经无法承受了
对于普通的BBS网站,往往也会存在高并发的写数据请求,比如鹿某在微博上公布恋情,结果因为流量过大导致微博平台瘫痪
类似于facebook、friendfeed这样的SNS网站,每天会产生大量的用户动态信息
如friendfeed,一个月就会产生2.5亿条用户动态信息,对于关系型数据库来说,在一个包含2.5亿条记录的表中执行sql查询,效率是非常低的
在web架构中,数据库是最难进行横向扩展的。当应用系统的用户量与访问量与日俱增时,数据库没法像web服务一样,简单得通过添加硬件和服务器节点来扩展其性能和负载能力的
尤其对于一些需要24小时不间断对外提供服务的网站来说,数据库的升级与扩展往往伴随着停机维护与数据迁移,其工作量十分庞大
关系型数据库和非关系型数据库都有各自的特点与应用场景,两者的紧密结合将会给web2.0的数据库发展带来新的思路
让关系数据库关注在关系上,非关系型数据库关注在存储上。
例如,在读写分离的mysql数据库环境中,可以把经常访问的数据存储在非关系型数据库中,提升访问速度
redis 可以用来做redis缓存使用
redis (remotedictionaryserver,远程字典型)是一个开源、使用C语言编写的nosql数据库
redis基于内存运行并支持持久化,采用key-value键值对的存储形式,是目前分布式架构中不可或缺的一环
redis服务器程序是单进程模型,也就是在一台服务器上可以同时运行多个redis进程,而redis的实际处理速度则是完全依靠于主进程的执行效率
若是在服务器上只运行一个redis进程,当多个客户端同时访问,服务器的处理能力会有一定程度的下降;
若是在同一台服务器上开启多个redis进程,redis会提高并发处理能力的会给服务器的cpu造成很大的压力
也就是说在实际生产环境中,需要根据实际的需求来决定开启多少个redis进程
若对高并发要求更高一些,可能会考虑在同一台服务器上开启多个进程;
若CPU资源比较紧张,采用单进程即可
具有极高的数据读写速度,数据读取的速度最高可达到11万次/秒,数据写入速度最高可达到8万次/秒
支持丰富的数据类型,不仅仅支持简单的key-value类型的数据,还支持strings、lists、hashes、sets以及ordered sets等数据类型操作
支持数据的持久化,可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用
原子性,redis所有操作都是原子性的
支持数据备份,即master-slave模式的数据备份
redis作为基于内存运行的数据库,缓存时其最长应用的场景之一,除此之外,redis常见应用场景还包括:获取最新N个数据的操作、排行榜类应用、计数器应用、存储关系、实时分析系统、日志记录
Redis 的安装相对于其他服务比较简单,首先需要到 Redis 官网(https://www.redis.io)下载相应的源码软件包, 然后上传至 Linux 系统的服务器中进行解压
通常情况下在 Linux 系统中进行源码编译安装, 需要先执行./configure 进行环境检查与配置, 从而生成 Makefile 文件, 再执行 make && make install 命令进行编译安装。 而Redis 源码包中直接提供了 Makefile 文件, 所以在解压完软件包后, 可直接进入解压后的软件包目录, 执行 make 与 make install 命令进行安装。
make install 只是安装了二进制文件到系统中, 并没有启动脚本和配置文件。 软件包中默认提供了一个 install_server.sh 脚本文件, 通过该脚本文件可以设置 Redis 服务所需要的相关配置文件。 当脚本运行完毕, Redis 服务就已经启动, 默认侦听端口为 6379
[root@localhost ~]# yum install gcc gcc-c++ make -y
[root@localhost ~]# mkdir /abc
mkdir: cannot create directory ‘/abc’: File exists
[root@localhost ~]# mount.cifs //192.168.254.10/linuxs /abc
Password for root@//192.168.254.10/linuxs:
[root@localhost ~]# cd /abc
[root@localhost abc]# tar zxvf redis-5.0.7.tar.gz -C /opt
[root@localhost abc]# cd /opt/redis-5.0.7/
[root@localhost redis-5.0.7]# ls
00-RELEASENOTES deps README.md runtest-moduleapi tests
BUGS INSTALL redis.conf runtest-sentinel utils
CONTRIBUTING Makefile runtest sentinel.conf
COPYING MANIFESTO runtest-cluster src
[root@localhost redis-5.0.7]# make
[root@localhost redis-5.0.7]# make PREFIX=/usr/local/redis/ install //指定安装路径
[root@localhost redis-5.0.7]# cd /usr/local/redis/
[root@localhost redis]# ls
bin
[root@localhost redis]# cd bin/
[root@localhost bin]# ls
redis-benchmark redis-check-rdb redis-sentinel
redis-check-aof redis-cli redis-server
[root@localhost bin]# cd /opt/redis-5.0.7/
[root@localhost redis-5.0.7]# ls
00-RELEASENOTES deps README.md runtest-moduleapi tests
BUGS INSTALL redis.conf runtest-sentinel utils
CONTRIBUTING Makefile runtest sentinel.conf
COPYING MANIFESTO runtest-cluster src
[root@localhost redis-5.0.7]# cd utils/
[root@localhost utils]# ls
build-static-symbols.tcl hashtable redis_init_script.tpl
cluster_fail_time.tcl hyperloglog redis-sha1.rb
corrupt_rdb.c install_server.sh releasetools
create-cluster lru speed-regression.tcl
generate-command-help.rb redis-copy.rb whatisdoing.sh
graphs redis_init_script
[root@localhost utils]# ./install_server.sh //这个脚本在安装包的utils内
Please select the redis port for this instance: [6379] //回车,此处是端口号
Please select the redis config file name [/etc/redis/6379.conf] //回车,此处是配置文件位置
Please select the redis log file name [/var/log/redis_6379.log] //回车,此处是日志文件位置
Please select the data directory for this instance [/var/lib/redis/6379] //回车,数据文件存放位置
Please select the redis executable path [] //扩展路径,需要自己输入/usr/local/redis/bin/redis-server,不可以删除,写的时候注意
Is this ok? Then press ENTER to go on or Ctrl-C to abort. //回车
Port : 6379
Config file : /etc/redis/6379.conf ###配置文件路径
Log file : /var/log/redis_6379.log ####日志文件路径
Data dir : /var/lib/redis/6379 ####数据文件路径
Executable : /usr/local/redis/bin/redis-server ####可执行文件路径
Cli Executable : /usr/local/bin/redis-cli ####客户端命令行工具
Installation successful! //完成
[root@localhost utils]# cd /etc/redis/
[root@localhost redis]# ls
6379.conf //主配置文件
[root@localhost redis]# ln -s /usr/local/redis/bin/* /usr/local/bin/
[root@localhost redis]# netstat -natp | grep 6379
tcp 0 0 127.0.0.1:6379 0.0.0.0:* LISTEN 21765/redis-server
//此时已经运行,关闭用下面的命令
[root@localhost redis]# /etc/init.d/redis_6379 stop
Stopping ...
Waiting for Redis to shutdown ...
Redis stopped
[root@localhost redis]# netstat -natp | grep 6379
tcp 0 0 127.0.0.1:6379 127.0.0.1:40470 TIME_WAIT - [root@localhost redis]# /etc/init.d/redis_6379 start
Starting Redis server...
[root@localhost redis]# /etc/init.d/redis_6379 start
[root@localhost redis]# netstat -natp | grep 6379
tcp 0 0 127.0.0.1:6379 0.0.0.0:* LISTEN 25610/redis-server
tcp 0 0 127.0.0.1:6379 127.0.0.1:40470 TIME_WAIT -
[root@localhost redis]# redis-cli -h 192.168.247.206 -p 6379 //连接redis
Could not connect to Redis at 192.168.247.206:6379: Connection refused //显示不可以连接,是因为服务还没有完全启用,不-h -p指定IP,本地可以直接登陆
//若是想要指定IP地址,就需要在配置文件内添加监听地址
//vi /etc/redis/6379.conf
//bind 127.0.0.1 192.168.247.206 ###需要更改 加本端的IP地址
//port 6379 ###默认不需要更改 端口
//daemonize yes ###默认不需要更改 启用守护进程
//pidfile /var/run/redis_6379.pid ###默认不需要更改 指定 PID 文件
//loglevel notice ###默认不需要更改 日志级别
//logfile /var/log/redis_6379.log ###默认不需要更改 指定日志文件
not connected> exit
[root@localhost redis]# systemctl stop firewalld
[root@localhost redis]# setenforce 0
[root@localhost redis]# redis-cli
127.0.0.1:6379> exit
[root@localhost redis]# vim /etc/redis/6379.conf
70 bind 127.0.0.1 192.168.247.206 //添加监听地址
[root@localhost redis]# /etc/init.d/redis_6379 restart
Stopping ...
Waiting for Redis to shutdown ...
Redis stopped
Starting Redis server...
[root@localhost redis]# redis-cli -h 192.168.247.206 -p 6379
192.168.247.206:6379>
此时redis的安装已经完成
除了上述配置参数外, Redis 主配置文件中还包含很多其它的配置参数
参数 | 作用 |
---|---|
timeout 300 | 当客户端闲置多长时间后关闭连接, 如果指定为 0, 表示关闭该功能 |
dbfilename dump.rdb | 指定本地数据库文件名, 默认值为 dump.rdb |
dir /var/lib/redis/6379 | 指定本地数据库存放目录 |
maxclients 10000 | 设置同一时间最大客户端连接数, 默认为 10000, Redis可以同时打开的客户端连接数为 Redis 进程可以打开的最大文件描述符数, 如果设置 maxclients 0, 表示不限制。 当客户端连接数到达限制时, Redis 会关闭新的连接并向客户端返回 max number of clients reached 错误信息 |
rdbcompression yes | 指定存储至本地数据库时是否压缩数据, 默认为 yes,Redis 采用 LZF 压缩, 如果为了节省 CPU 资源, 可以关闭该选项, 但会导致数据库文件变的巨大 |
slaveof | 设置当本机为 slav 从服务器时, 设置 master 服务的 IP地址及端口, 在 Redis 启动时, 它会自动从 master 进行数据同步 |
masterauth | 当 master 服务设置了密码保护时,slav 服务连接 master的密码 |
requirepass foobared | 设置 Redis 连接密码, 如果配置了连接密码, 客户端在连接 Redis 时需要通过 AUTH 命令提供密码, 默认关闭 |
maxmemory | 指定 Redis 最大内存限制, Redis 在启动时会把数据加载到内存中, 达到最大内存后, Redis 会先尝试清除已到期或即将到期的 Key, 当此方法处理后, 仍然到达最大内存设置,将无法再进行写入操作,但仍然可以进行读取操作。Redis 新的 vm 机制, 会把 Key 存放内存, Value 会存放在swap 区 |
appendonly no | 指定是否在每次更新操作后进行日志记录, Redis 在默认情况下是异步的把数据写入磁盘, 如果不开启, 可能会在断电时导致一段时间内的数据丢失。因为 redis 本身同步数据文件是按上面 save 条件来同步的, 所以有的数据会在一段时间内只存在于内存中。 默认为 no |
appendfilename | |
appendonly.aof | 指定更新日志文件名, 默认为 appendonly.aof |
appendfsync everysec | 指定更新日志条件, 共有 3 个可选值: |
no | 表示等操作系统进行数据缓存同步到磁盘(快) |
always | 表示每次更新操作后手动调用 fsync()将数据写到磁盘(慢, 安全) |
everysec | 表示每秒同步一次(折衷, 默认值) |
activerehashing yes | 指定是否激活重置哈希, 默认为开启 |
include /path/to/local.conf | 指定包含其它的配置文件, 可以在同一主机上多个 Redis实例之间使用同一份配置文件,而同时各个实例又拥有自己的特定配置文件 |
Redis 软件提供了多个命令工具, 当 Redis 安装时, 所包含的软件工具会同时被安装到
系统中, 在系统中可以直接使用。 这些命令工具的作用分别如下所示。
●redis-server: 用于启动 Redis 的工具
●redis-benchmark: 用于检测 Redis 在本机的运行效率
●redis-check-aof: 修复 AOF 持久化文件
●redis-check-rdb: 修复 RDB 持久化文件
●redis-cli: 是 Redis 命令行工具
●redis-setinel: 是 redis-server 文件的软链接
在进行数据库连接操作时, 可以通过选项来指定远程主机上的 Redis 数据库, 命令语法
为 redis-cli -h host -p port -a password。 其中, -h 指定远程主机、 -p 指定 Redis 服
务的端口号、 -a 指定密码。 若不添加任何选项表示, 连接本机上的 Redis 数据库; 若未设
置数据库密码可以省略-a 选项。 例如执行以下命令可连接到主机为 192.168.10.161, 端口
为 6379 的 Redis 数据库, 并查看 redis 服务的统计信息。 若要退出数据库操作环境, 执行
“exit” 或“quit” 命令即可返还原来的 Shell 环境
192.168.247.206:6379> help @list
//验证帮助信息——列表信息
192.168.247.206:6379> info //查看当前redis信息
192.168.247.206:6379> help set
//查看set的帮助信息
192.168.247.206:6379> set teacher zhangsan
OK
192.168.247.206:6379> set tea red
OK
192.168.247.206:6379> KEYS
(error) ERR wrong number of arguments for 'keys' command
192.168.247.206:6379> KEYS * //这个命令少用,在生产环境中因为keys特别多,查看所有会有卡顿,严重的话还有可能会宕机
1) "tea"
2) "teacher"
192.168.247.206:6379> keys t?? //?代表未知一个字符
1) "tea"
192.168.247.206:6379> keys t??????
1) "teacher"
192.168.247.206:6379> get tea
"red"
//也可以使用制表符补全
192.168.247.206:6379> EXISTS tea //查看是否存在tea键
(integer) 1
192.168.247.206:6379> EXISTS te
(integer) 0
192.168.247.206:6379> DEL teacher
(integer) 1
192.168.247.206:6379> keys *
1) "tea"
192.168.247.206:6379> type tea
string
192.168.247.206:6379> rename tea t1 //重命令键
OK
192.168.247.206:6379> get t1
"red"
192.168.247.206:6379> exit
redis-benchmark 是官方自带的 Redis 性能测试工具, 可以有效的测试 Redis 服务的性
能。 基本的测试语法为 redis-benchmark [option] [option value]。
-h: 指定服务器主机名。
-p: 指定服务器端口。
-s: 指定服务器 socket。
-c: 指定并发连接数。
-n: 指定请求数。
-d: 以字节的形式指定 SET/GET 值的数据大小。
-k: 1=keep alive 0=reconnect 。
-r: SET/GET/INCR 使用随机 key, SADD 使用随机值。
-P: 通过管道传输请求。
-q: 强制退出 redis。 仅显示 query/sec 值。
–csv: 以 CSV 格式输出。
-l: 生成循环, 永久执行测试。
-t: 仅运行以逗号分隔的测试命令列表。
-I: Idle 模式。 仅打开 N 个 idle 连接并等待。
结合上述选项, 可以针对某台 Redis 服务器进行性能检测, 如执行 redis-benchmark -h
192.168.247.206 -p 6379 -c 100 -n 100000 命令即可向 IP 地址为 192.168.247.206, 端口
为 6379 的 Redis 服务器发送 100 个并发连接与 100000 个请求测试性能。
[root@localhost redis]# redis-benchmark -h 192.168.247.206 -p 6379 -c 100 -n 100000
====== SET ======
100000 requests completed in 1.54 seconds
====== GET ======
100000 requests completed in 1.47 seconds
[root@localhost redis]# redis-benchmark -h 192.168.247.206 -p 6379 -q -d 100
-q 强制退出 -d 100字节
多次测试,取其平均值,才能作为衡量标准
还可以测试某些操作的性能, 例如执行 redis-benchmark -t set,lpush -n 100000 -q
命令的作用是测试本机上 Redis 服务在进行 set 与 lpush 操作时的性能。
[root@localhost ~]# redis-benchmark -t set,lpush -n 100000 -q
SET: 105708.25 requests per second
LPUSH: 109289.62 requests per second
多数据库间切换
Redis 支持多数据库, Redis 在没有任何改动的情况下默认包含 16 个数据库, 数据库名称是用数字 0-15 来依次命名的。
使用 Select 命令可以进行 Redis 的多数据库之间的切换,命令格式为 selectindex,其中 index 表示数据库的序号。
而使用 redis-cli 连接 Redis 数据库后, 默认使用的是序号为 0 的数据库。
如下所示, 使用 select 命令切换数据库后, 会在前端的提示符中显示当前所在的数据库序号如“192.168.247.206:6379[10]>” 表示当前使用的是序号为 10 的数据库;
若当前使用的数据库是序号为 0 的数据库, 提示符中则不显示序号, 如“192.168.247.206:6379>” 表示当前使用的是序号为 0 的数据库。
[root@localhost redis]# redis-cli -h 192.168.247.206 -p 6379
192.168.247.206:6379> keys *
//当前存在的是默认的键值,除了5)t1是自己创建的
1) "counter:__rand_int__"
2) "mylist"
3) "key:__rand_int__"
4) "myset:__rand_int__"
5) "t1"
//Redis 的多数据库在一定程度上是相对独立的,
//例如在数据库 0 上面存放的 t1 的数据,在其它的 1-15 的数据库上是无法查看到的。
192.168.247.206:6379> select 10
OK
//切换到第10个库
192.168.247.206:6379[10]> keys *
//现在是空的
(empty list or set)
192.168.247.206:6379[10]> select 0
//切换到第0个库
OK
//Redis 数据库提供了一个 move 的命令, 可以进行多数据库的数据移动。
//命令的基本语法格式为” move key dbindex“。
//其中“key“表示当前数据库的目标键,“dbindex “表示目标数据库的序号。
192.168.247.206:6379> MOVE t1 10
//移动t1到第10个库
(integer) 1
192.168.247.206:6379> keys *
1) "counter:__rand_int__"
2) "mylist"
3) "key:__rand_int__"
4) "myset:__rand_int__"
192.168.247.206:6379> select 10
OK
192.168.247.206:6379[10]> keys *
1) "t1"
192.168.247.206:6379[10]> flushdb
//清空当前的库,flushall 是清空所有,建议别记
OK
192.168.247.206:6379[10]> keys *
(empty list or set)