0806-Kafka异地复制

Kafka异地同步:Mirror-Maker(消费者 + 生产者) 原理大概是启动 consumer 消费南京的 topic message,发送到重庆的 kafka 集群。数据流向:南京 kafka -> mirrormaker -> 重庆 kafka ,其中 mirrormaker 部署在重庆集群。

Mirror Maker2是基于kafka connect框架进行开发的,可以简单地将mirror maker2视作几个source connector和sink connector的组合。

单 partition 情况下,通过公网传输,消费速度不超过 1500 message/sec,lag 差距巨大。

你可能感兴趣的:(0806-Kafka异地复制)