StreamSets数据流从Kafka到elasticsearch

所有的配置都采用图文的形式,希望小伙伴会喜欢^_^

环境准备:

kafka_2.11-1.0.1

elasticsearch-6.2.3

streamsets-datacollector-3.4.1

zookeeper-3.4.10

注意事项:

1、若只读取一个topic的数据,origins使用Kafka Consumer;若要同时读取多个topic,则使用Kafka Multitopic

2kafka若要实现读取历史数据,要添加auto.offset.reset=earliest

第一步.Origins: 配置Kafka,选择Kafka Consumer

StreamSets数据流从Kafka到elasticsearch_第1张图片

StreamSets数据流从Kafka到elasticsearch_第2张图片

StreamSets数据流从Kafka到elasticsearch_第3张图片

StreamSets数据流从Kafka到elasticsearch_第4张图片

第二步.Destinations配置:

StreamSets数据流从Kafka到elasticsearch_第5张图片

StreamSets数据流从Kafka到elasticsearch_第6张图片

StreamSets数据流从Kafka到elasticsearch_第7张图片

StreamSets数据流从Kafka到elasticsearch_第8张图片

StreamSets数据流从Kafka到elasticsearch_第9张图片

错误消息写到kafka

StreamSets数据流从Kafka到elasticsearch_第10张图片

StreamSets数据流从Kafka到elasticsearch_第11张图片

StreamSets数据流从Kafka到elasticsearch_第12张图片

最后,欢迎热爱技术的小伙伴加入我们的聊天群qq:715115302

你可能感兴趣的:(大数据,StreamSet,ElasticSearch,KafKa)