MongoDB分布式架构集群介绍

MongoDB分布式架构集群

一、MongoDB Sharding Cluster 分片集群

1.画图说明

mongos：接收请求和路由请求
config servers：记录所有节点信息
shard：存储数据

1.规划

10个实例：38017-38026

--configserver:38018-38020
3台构成的复制集（1主两从，不支持arbiter）38018-38020（复制集名字configsvr）

--shard节点：
sh1：38021-23    （1主两从，其中一个节点为arbiter，复制集名字sh1）
sh2：38024-26    （1主两从，其中一个节点为arbiter，复制集名字sh2）

--mongos:
38017

二、Shard节点配置过程

1.目录创建

mkdir -p /mongodb/38021/conf  /mongodb/38021/log  /mongodb/38021/data
mkdir -p /mongodb/38022/conf  /mongodb/38022/log  /mongodb/38022/data
mkdir -p /mongodb/38023/conf  /mongodb/38023/log  /mongodb/38023/data
mkdir -p /mongodb/38024/conf  /mongodb/38024/log  /mongodb/38024/data
mkdir -p /mongodb/38025/conf  /mongodb/38025/log  /mongodb/38025/data
mkdir -p /mongodb/38026/conf  /mongodb/38026/log  /mongodb/38026/data

--授权
chown -R mongod:mongod /mongodb/

2.修改配置文件：

1）第一组复制集搭建：21-23（1主 1从 1Arb）

cat >  /mongodb/38021/conf/mongodb.conf  <

2）第二组节点：24-26(1主1从1Arb)

cat > /mongodb/38024/conf/mongodb.conf <

3.启动所有节点，并搭建复制集

mongod -f  /mongodb/38021/conf/mongodb.conf 
mongod -f  /mongodb/38022/conf/mongodb.conf 
mongod -f  /mongodb/38023/conf/mongodb.conf 
mongod -f  /mongodb/38024/conf/mongodb.conf 
mongod -f  /mongodb/38025/conf/mongodb.conf 
mongod -f  /mongodb/38026/conf/mongodb.conf  
ps -ef |grep mongod

mongo --port 38021
use  admin
config = {_id: 'sh1', members: [
                          {_id: 0, host: '10.0.0.52:38021'},
                          {_id: 1, host: '10.0.0.52:38022'},
                          {_id: 2, host: '10.0.0.52:38023',"arbiterOnly":true}]
           }

rs.initiate(config)
  
 mongo --port 38024 
 use admin
config = {_id: 'sh2', members: [
                          {_id: 0, host: '10.0.0.52:38024'},
                          {_id: 1, host: '10.0.0.52:38025'},
                          {_id: 2, host: '10.0.0.52:38026',"arbiterOnly":true}]
           }
  
rs.initiate(config)

4.config节点配置

1）目录创建

mkdir -p /mongodb/38018/conf  /mongodb/38018/log  /mongodb/38018/data
mkdir -p /mongodb/38019/conf  /mongodb/38019/log  /mongodb/38019/data
mkdir -p /mongodb/38020/conf  /mongodb/38020/log  /mongodb/38020/data

--授权
chown -R mongod:mongod /mongodb

2）修改配置文件

cat > /mongodb/38018/conf/mongodb.conf <

3）启动节点，并配置复制集

mongod -f /mongodb/38018/conf/mongodb.conf 
mongod -f /mongodb/38019/conf/mongodb.conf 
mongod -f /mongodb/38020/conf/mongodb.conf 

mongo --port 38018
use  admin
 config = {_id: 'configReplSet', members: [
                          {_id: 0, host: '10.0.0.52:38018'},
                          {_id: 1, host: '10.0.0.52:38019'},
                          {_id: 2, host: '10.0.0.52:38020'}]
           }
rs.initiate(config)  
  
注：configserver 可以是一个节点，官方建议复制集。configserver不能有arbiter。
新版本中，要求必须是复制集。
注：mongodb 3.4之后，虽然要求config server为replica set，但是不支持arbiter

5.mongos节点配置

1）创建目录

mkdir -p /mongodb/38017/conf  /mongodb/38017/log 

--授权
chown -R mongod:mongod /mongodb/

2）配置文件

cat > /mongodb/38017/conf/mongos.conf <<EOF
systemLog:
  destination: file
  path: /mongodb/38017/log/mongos.log
  logAppend: true
net:
  bindIp: 10.0.0.52,127.0.0.1
  port: 38017
sharding:
  configDB: configReplSet/10.0.0.52:38018,10.0.0.52:38019,10.0.0.52:38020
processManagement: 
  fork: true
EOF

3）启动mongos

 mongos -f /mongodb/38017/conf/mongos.conf 

6.分片集群添加节点

 连接到其中一个mongos（10.0.0.52），做以下配置
（1）连接到mongs的admin数据库
# su - mongod
$ mongo 10.0.0.52:38017/admin
（2）添加分片
db.runCommand( { addshard : "sh1/10.0.0.52:38021,10.0.0.52:38022,10.0.0.52:38023",name:"shard1"} )
db.runCommand( { addshard : "sh2/10.0.0.52:38024,10.0.0.52:38025,10.0.0.52:38026",name:"shard2"} )
（3）列出分片
mongos> db.runCommand( { listshards : 1 } )
（4）整体状态查看
mongos> sh.status();

三、使用分片集群

1.RANGE分片配置及测试

1）激活数据库分片功能

mongo --port 38017 admin
admin>  ( { enablesharding : "数据库名称" } )
eg：
admin> db.runCommand( { enablesharding : "test" } )

2）指定分片键对集合分片

### 创建索引
use test
> db.vast.ensureIndex( { id: 1 } )
### 开启分片
use admin
> db.runCommand( { shardcollection : "test.vast",key : {id: 1} } )

3）集合分片验证

admin> use test
test> for(i=1;i<100000;i++){ db.vast.insert({"id":i,"name":"shenzheng","age":70,"date":new Date()}); }
test> db.vast.stats()

4）分片结果测试

shard1:
mongo --port 38021
db.vast.count();

shard2:
mongo --port 38024
db.vast.count();

2.Hash分片案例：

对hhh库下的vast大表进行hash
创建哈希索引
（1）对于hhh启分片功能
mongo --port 38017 admin
use admin
admin> db.runCommand( { enablesharding : "hhh" } )
（2）对于oldboy库下的vast表建立hash索引
use hhh
oldboy> db.vast.ensureIndex( { id: "hashed" } )
（3）开启分片 
use admin
admin > sh.shardCollection( "hhh.vast", { id: "hashed" } )
（4）录入10w行数据测试
use hhh
for(i=1;i<100000;i++){ db.vast.insert({"id":i,"name":"shenzheng","age":70,"date":new Date()}); }
（5）hash分片结果测试
mongo --port 38021
use hhh
db.vast  .count();
mongo --port 38024
use hhh
db.vast.count();

四、分片集群的查询及管理

1.判断是否Shard集群

admin> db.runCommand({ isdbgrid : 1})

2.列出所有分片信息

admin> db.runCommand({ listshards : 1})

3.列出开启分片的数据库

admin> use config
config> db.databases.find( { "partitioned": true } )
或者：
config> db.databases.find() //列出所有数据库分片情况

4.查看分片的片键

config> db.collections.find().pretty()
{
    "_id" : "test.vast",
    "lastmodEpoch" : ObjectId("58a599f19c898bbfb818b63c"),
    "lastmod" : ISODate("1970-02-19T17:02:47.296Z"),
    "dropped" : false,
    "key" : {
        "id" : 1
    },
    "unique" : false
}

5.查看分片的详细信息

admin> sh.status()

6.删除分片节点（谨慎）

（1）确认blance是否在工作
sh.getBalancerState()
（2）删除shard2节点(谨慎)
mongos> db.runCommand( { removeShard: "shard2" } )

注意：删除操作一定会立即触发blancer。

7.添加分片节点

--搭建复制集 shard3

--添加分片
db.runCommand({ addshard: "sh2/10.0.0.52:38024,10.0.0.52:38025,10.0.0.52:38026",name:"shard2"})

五、balancer操作

1.介绍

mongos的一个重要功能，自动巡查所有shard节点上的chunk的情况，自动做chunk迁移。
什么时候工作？
1、自动运行，会检测系统不繁忙的时候做迁移
2、在做节点删除的时候，立即开始迁移工作
3、balancer只能在预设定的时间窗口内运行

有需要时可以关闭和开启blancer（备份的时候）
mongos> sh.stopBalancer()
mongos> sh.startBalancer()

2.自定义 自动平衡进行的时间段

--官方文档说明
https://docs.mongodb.com/manual/tutorial/manage-sharded-cluster-balancer/#schedule-the-balancing-window
// connect to mongos

use config
sh.setBalancerState( true )
db.settings.update({ _id : "balancer" }, { $set : { activeWindow : { start : "3:00", stop : "5:00" } } }, true )

sh.getBalancerWindow()
sh.status()

关于集合的balancer（了解下）
关闭某个集合的balance
sh.disableBalancing("students.grades")
打开某个集合的balancer
sh.enableBalancing("students.grades")
确定某个集合的balance是开启或者关闭
db.getSiblingDB("config").collections.findOne({_id : "students.grades"}).noBalance;