Apache BookKeeper之MetaData管理

MetaData信息

这里主要有两类

• 有效的Bookie的列表

1. 用来跟踪哪些Bookie是有效的

• Ledger的相关信息
  其相关操作如下:

1. createLedger: 创建一个新的Ledger, 它拥有一个唯一ID和当前的Version(对应到zk的话，这个version就是znode的dataVersion);
2. removeLedgerMetadata: 移除一个Ledger, 需要提供当前本地保存的Version, 和 MetaData Storage中的Version作check, 一致才允许作remove操作;
3. readLedgerMetadata: 读取一个Ledger的相关meta信息, 同时需要更新此Ledger的meta信息的Version;
4. writeLedgerMetadata: 更新Ledger的相关meta信息，同样需要提供当前本地保存的Version, 和 MetaData Storage中的Version作check, 一致才允许操作;
5. asyncProcessLedgers: 遍历当前所有的Ledger，分别对其应用一个给定的处理函数;

MetaData Storage的选取

• 需要首先满足以下几点要求：

1. 支持CAS操作： Check and Set, 比如上面提到的在删除和更新操作时需先比较Version;
2. 针对连续write的优化;
3. 针对Scan操作的优化;

• 目前来看合适的MetaData Storage有zookeeper, etcd, 如果ledger数量超级大，还可以使用HBase;
• Apache BookKeeper当前默认使用Zookeeper实现;

MetaData操作的实现

MetadataBookieDriver

在Apache BookKeeper中对MetaData的所有操作都被封装到一个抽象接口MetadataBookieDriver中;

public interface MetadataBookieDriver extends AutoCloseable {
    // 初始化当前的Driver
    MetadataBookieDriver initialize(ServerConfiguration conf,
                                    RegistrationListener listener,
                                    StatsLogger statsLogger)
        throws MetadataException;
    String getScheme();

    // RegistrationManager负责管理Bookie注册到Storage的相关操作
    RegistrationManager getRegistrationManager();

    LedgerManagerFactory getLedgerManagerFactory()
        throws MetadataException;

    LayoutManager getLayoutManager();

    @Override
    void close();
}

MetadataDrivers

负责管理所有的MetadataBookieDriver

• 将所有Driver信息保存在 private static final ConcurrentMap bookieDrivers;, 其中key是scheme, value是MetadataBookieDriverInfo, 定义如下:

static class MetadataBookieDriverInfo {
        final Class driverClass;
        final String driverClassName;

        MetadataBookieDriverInfo(Class driverClass) {
            this.driverClass = driverClass;
            this.driverClassName = driverClass.getName();
        }
    }

利用java的反射机制根据driverClass即可产生出对应的MetadataBookieDriver对象;

• 默认包含org.apache.bookkeeper.meta.zk.ZKMetadataBookieDriver, 即ZkMetadataBookieDriver, 其scheme为zk
• 获取MetadataBookieDriver

public static MetadataBookieDriver getBookieDriver(URI uri) {
        //对于zk来说，这个uri形如:zk+hierarchical://10.1.1.1:2181;10.1.1.2:2181;10.1.1.3:2181/ledgers
        String scheme = uri.getScheme();
        // scheme 为 zk
        scheme = scheme.toLowerCase();
        String[] schemeParts = StringUtils.split(scheme, '+');
        
        if (!initialized) {
            initialize();
        }
        
        MetadataBookieDriverInfo driverInfo = bookieDrivers.get(scheme.toLowerCase());
        if (null == driverInfo) {
            throw new IllegalArgumentException("Unknown backend " + scheme);
        }
        // 利用java的反射机制 
        return ReflectionUtils.newInstance(driverInfo.driverClass);
    }

ZkMetadataBookieDriver的实现

• getRegistrationManager: 返回ZKRegistrationManager

 if (null == regManager) {
            regManager = new ZKRegistrationManager(
                serverConf,
                zk,
                listener
            );
        }
        return regManager;

• initialize: 主要是调用其父类ZKMetadataDriverBase的initialize方法
  主要作的事情就是创建了操作zk的Zookeeper对象和ZkLayoutManager对象

    protected void initialize(AbstractConfiguration conf,
                              StatsLogger statsLogger,
                              RetryPolicy zkRetryPolicy,
                              Optional