使用ES-Hadoop进行Hive和ES数据同步

一、环境说明

Elasticsearch 7.10.0

Hive 3.1.2

Hadoop 3.X

二、操作步骤

  1. 下载ES-Hadoop安装包,其版本需要与Elasticsearch实例保持一致,下载地址:https://www.elastic.co/cn/downloads/
    使用ES-Hadoop进行Hive和ES数据同步_第1张图片

​ 本文中下载的是 :elasticsearch-hadoop-7.10.0.zip
使用ES-Hadoop进行Hive和ES数据同步_第2张图片

  1. 解压已下载的elasticsearch-hadoop-7.10.0.zip,并将elasticsearch-hadoop-hive-7.10.0.jar上传至大数据集群
    比如我将jar包上传至hdfs的/user/hive/elastic/目录下:
#创建目录:
hdfs dfs -mkdir /user/hive/elastic
#上传jar包
hdfs dfs -put elasticsearch-hadoop-hive-7.10.0.jar /user/hive/elastic/
#查看
hdfs dfs -ls /user/hive/elastic
  1. hiv

你可能感兴趣的:(hadoop,elasticsearch,hive)