MongoDB Sharding Cluster 分片集群

集群基本结构
搭建
分片策略应用
balancer管理

一, 图解与规划

1. 图解

MongoDB Sharding Cluster 分片集群_第1张图片

2. 规划 10个实例:38017-38026

(1)configserver:
3台构成的复制集(1主两从,不支持arbiter)38018-38020(复制集名字configsvr)

(2)shard节点:
sh1:38021-23 (1主两从,其中一个节点为arbiter,复制集名字sh1)
sh2:38024-26 (1主两从,其中一个节点为arbiter,复制集名字sh2)

二, 配置过程

1. shard复制集配置:

  1. 目录创建:

    mkdir -p /mongodb/38021/conf  /mongodb/38021/log  /mongodb/38021/data
    mkdir -p /mongodb/38022/conf  /mongodb/38022/log  /mongodb/38022/data
    mkdir -p /mongodb/38023/conf  /mongodb/38023/log  /mongodb/38023/data
    mkdir -p /mongodb/38024/conf  /mongodb/38024/log  /mongodb/38024/data
    mkdir -p /mongodb/38025/conf  /mongodb/38025/log  /mongodb/38025/data
    mkdir -p /mongodb/38026/conf  /mongodb/38026/log  /mongodb/38026/data
    
  2. 修改配置文件:

    sh1:
    
    cat >> /mongodb/38021/conf/mongodb.conf <> /mongodb/38024/conf/mongodb.conf << EOF
    systemLog:
      destination: file
      path: /mongodb/38024/log/mongodb.log   
      logAppend: true
    storage:
      journal:
        enabled: true
      dbPath: /mongodb/38024/data
      directoryPerDB: true
      wiredTiger:
        engineConfig:
          cacheSizeGB: 1
          directoryForIndexes: true
        collectionConfig:
          blockCompressor: zlib
        indexConfig:
          prefixCompression: true
    net:
      port: 38024
    replication:
      oplogSizeMB: 2048
      replSetName: sh2
    sharding:
      clusterRole: shardsvr
    processManagement: 
      fork: true
    EOF
    
    cp  /mongodb/38024/conf/mongodb.conf  /mongodb/38025/conf/
    cp  /mongodb/38024/conf/mongodb.conf  /mongodb/38026/conf/
    sed 's#38024#38025#g' /mongodb/38025/conf/mongodb.conf -i
    sed 's#38024#38026#g' /mongodb/38026/conf/mongodb.conf -i
    
  3. 启动所有节点

    mongod -f  /mongodb/38021/conf/mongodb.conf 
    mongod -f  /mongodb/38022/conf/mongodb.conf 
    mongod -f  /mongodb/38023/conf/mongodb.conf 
    mongod -f  /mongodb/38024/conf/mongodb.conf 
    mongod -f  /mongodb/38025/conf/mongodb.conf 
    mongod -f  /mongodb/38026/conf/mongodb.conf 
    
  4. 搭建复制集:

    mongo --port 38021
    use  admin
    config = {_id: 'sh1', members: [
               {_id: 0, host: '10.0.0.200:38021'},
               {_id: 1, host: '10.0.0.200:38022'},
               {_id: 2, host: '10.0.0.200:38023',"arbiterOnly":true}]
             }
    
    rs.initiate(config)
      
     
     
    mongo --port 38024 
    use admin
    config = {_id: 'sh2', members: [
               {_id: 0, host: '10.0.0.200:38024'},
               {_id: 1, host: '10.0.0.200:38025'},
               {_id: 2, host: '10.0.0.200:38026',"arbiterOnly":true}]
               }
      
    rs.initiate(config)
    

2. config节点配置:

  1. 目录创建:

    mkdir -p /mongodb/38018/conf  /mongodb/38018/log  /mongodb/38018/data
    mkdir -p /mongodb/38019/conf  /mongodb/38019/log  /mongodb/38019/data
    mkdir -p /mongodb/38020/conf  /mongodb/38020/log  /mongodb/38020/data
    
  2. 修改配置文件:

    cat >> /mongodb/38018/conf/mongodb.conf << EOF
    systemLog:
      destination: file
      path: /mongodb/38018/log/mongodb.conf
      logAppend: true
    storage:
      journal:
        enabled: true
      dbPath: /mongodb/38018/data
      directoryPerDB: true
      #engine: wiredTiger
      wiredTiger:
        engineConfig:
          cacheSizeGB: 1
          directoryForIndexes: true
        collectionConfig:
          blockCompressor: zlib
        indexConfig:
          prefixCompression: true
    net:
      port: 38018
    replication:
      oplogSizeMB: 2048
      replSetName: configReplSet
    sharding:
      clusterRole: configsvr
    processManagement: 
      fork: true
    EOF
    
    cp /mongodb/38018/conf/mongodb.conf /mongodb/38019/conf/
    cp /mongodb/38018/conf/mongodb.conf /mongodb/38020/conf/
    sed 's#38018#38019#g' /mongodb/38019/conf/mongodb.conf -i
    sed 's#38018#38020#g' /mongodb/38020/conf/mongodb.conf -i
    
  3. 启动节点,并配置复制集

    mongod -f /mongodb/38018/conf/mongodb.conf 
    mongod -f /mongodb/38019/conf/mongodb.conf 
    mongod -f /mongodb/38020/conf/mongodb.conf 
    
    mongo --port 38018
    use  admin
    
    config = {_id: 'configReplSet', members: [
                              {_id: 0, host: '10.0.0.200:38018'},
                              {_id: 1, host: '10.0.0.200:38019'},
                              {_id: 2, host: '10.0.0.200:38020'}]
               }
    rs.initiate(config)
    
    注:configserver 可以是一个节点,官方建议复制集。
    configserver不能有arbiter。
    新版本中,要求必须是复制集。
    注:mongodb 3.4之后,虽然要求config server为replica set,但是不支持arbiter
    

3. mongos节点配置:

  1. 创建目录:

    mkdir -p /mongodb/38017/conf  /mongodb/38017/log 
    
  2. 配置文件:

    cat >> /mongodb/38017/conf/mongos.conf <
  3. 启动mongos

    mongos -f /mongodb/38017/conf/mongos.conf
    

三. 分片集群操作:

连接到其中一个mongos(10.0.0.200),做以下配置

  1. 连接到mongs的admin数据库

    # su - mongod
    $ mongo 10.0.0.200:38017/admin
    
  2. 添加分片

    db.runCommand( { addshard : "sh1/10.0.0.200:38021,10.0.0.200:38022,10.0.0.200:38023",name:"shard1"} )
    db.runCommand( { addshard : "sh2/10.0.0.200:38024,10.0.0.200:38025,10.0.0.200:38026",name:"shard2"} )
    
  3. 列出分片

    db.runCommand( { listshards : 1 } )
    
  4. 整体状态查看

    sh.status();
    

四. 使用分片集群

1. RANGE分片配置及测试( 用的不多, 主要用hash分片 )

test库下的vast大表进行手工分片

  1. 激活数据库分片功能
mongo --port 38017 admin

admin>  ( { enablesharding : "数据库名称" } )

eg:
admin> db.runCommand( { enablesharding : "test" } )
  1. 指定分片建对集合分片
eg:范围片键
--创建索引
use test
> db.vast.ensureIndex( { id: 1 } )

--开启分片
use admin
> db.runCommand( { shardcollection : "test.vast",key : {id: 1} } )
  1. 集合分片验证
use test
test> for(i=1;i<500000;i++){ db.vast.insert({"id":i,"name":"shenzheng","age":70,"date":new Date()}); }

test> db.vast.stats()

  1. 分片结果测试
shard1:
mongo --port 38021
db.vast.count();

shard2:
mongo --port 38024
db.vast.count();

2. Hash分片例子:(主要用这种)

对oldguo库下的vast大表进行hash

创建哈希索引

  1. 对于oldguo开启分片功能

    mongo --port 38017 admin
    use admin
    admin> db.runCommand( { enablesharding : "oldguo" } )
    
  2. 对于oldguo库下的vast表建立hash索引

    use oldguo
    oldguo> db.vast.ensureIndex( { id: "hashed" } )
    
  3. 开启分片

    use admin
    admin > sh.shardCollection( "oldguo.vast", { id: "hashed" } )
    
  4. 录入10w行数据测试

    use oldguo
    for(i=1;i<=100000;i++){ db.vast.insert({"id":i,"name":"shenzheng","age":70,"date":new Date()}); }
    
  5. hash分片结果测试

    mongo --port 38021
    use oldguo
    db.vast.count();
    
    mongo --port 38024
    use oldguo
    db.vast.count();
    

3. 判断是否Shard集群

admin> db.runCommand({ isdbgrid : 1})

4. 列出所有分片信息

admin> db.runCommand({ listshards : 1})

5. 列出开启分片的数据库

use config
config> db.databases.find( { "partitioned": true } )
或者:
config> db.databases.find() //列出所有数据库分片情况

6. 查看分片的片键

db.collections.find().pretty()

7. 查看分片的详细信息

admin> db.printShardingStatus()
或
admin> sh.status()

8. 删除分片节点(谨慎)

(1)确认blance是否在工作
sh.getBalancerState()

(2)删除shard2节点(谨慎)
mongos> db.runCommand( { removeShard: "shard2" } )

注意:删除操作一定会立即触发blancer。

9. balancer操作

介绍:
mongos的一个重要功能,自动巡查所有shard节点上的chunk的情况,自动做chunk迁移。
什么时候工作?
1、自动运行,会检测系统不繁忙的时候做迁移
2、在做节点删除的时候,立即开始迁移工作
3、balancer只能在预设定的时间窗口内运行

有需要时可以关闭和开启blancer(备份的时候)
mongos> sh.stopBalancer()
mongos> sh.startBalancer()

10. 自定义 自动平衡进行的时间段

https://docs.mongodb.com/manual/tutorial/manage-sharded-cluster-balancer/#schedule-the-balancing-window
// connect to mongos


use config
sh.setBalancerState( true )

db.settings.update({ _id : "balancer" }, { $set : { activeWindow : { start : "3:00", stop : "5:00" } } }, true )

sh.getBalancerWindow()
sh.status()

五. 关于集合的balance(了解下)

关闭某个集合的balance
sh.disableBalancing("students.grades")
打开某个集合的balance
sh.enableBalancing("students.grades")
确定某个集合的balance是开启或者关闭
db.getSiblingDB("config").collections.findOne({_id : "students.grades"}).noBalance;

你可能感兴趣的:(MongoDB Sharding Cluster 分片集群)