E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Metastore
数仓工具—Hive内部表和外部表(5)
修饰的为外部表(externaltable);因为默认情况下我们不加external关键字修饰,所以默认情况下是内部表区别:内部表数据由Hive自身管理,外部表数据由HDFS管理;内部表数据存储的位置是hive.
metastore
.warehouse.dir
不二人生
·
2024-01-07 07:42
#
Hive
大数据
hive
面试
数据仓库
hive源码
command-lineinterface)、JDBC/ODBC(jdbc访问hive)、WEBUI(浏览器访问hive)CLI:bin/hive启动的客户端JDBC:通过hiveserver2jdbc方式连接的客户端2)元数据:
Metastore
Loreeta
·
2024-01-06 17:55
hive
big
data
spark
Hive 源码解析一:Driver
这是hive的架构图从架构图来看,黄颜色属于Hive范畴,蓝颜色属于Hadoop范畴,其中
MetaStore
可以说是独立Hive核心
小王是个弟弟
·
2024-01-06 17:25
hive
hadoop
big
data
Hive源码图解
1、hive的核心组件1)用户接口:ClientCLI(command-lineinterface)、JDBC/ODBC(jdbc访问hive)、WEBUI(浏览器访问hive)2)元数据:
Metastore
小泽码丽亚
·
2024-01-06 17:24
hive
hadoop
数据库
大数据
数据仓库
Hive 源码
issueFailedtoexecutegoalcom.github.os72:protoc-jar-maven-plugin:3.5.1.1:run(default)onprojecthive-standalone-
metastore
zhixingheyi_tian
·
2024-01-06 17:54
hadoop
hive
hadoop
数据仓库
FAILED: SemanticException org.apache.hadoop.hive.ql.metadata.HiveException:
SemanticExceptionorg.apache.hadoop.hive.ql.metadata.HiveException:java.lang.RuntimeException:Unabletoinstantiateorg.apache.hadoop.hive.ql.metadata.SessionHive
MetaStore
Client
深度检测
·
2024-01-06 10:25
hive
hadoop
apache
Hive实战:分科汇总求月考平均分
文章目录一、实战概述二、提出任务三、完成任务(一)准备数据1、在虚拟机上创建文本文件2、上传文件到HDFS指定目录(二)实现步骤1、启动Hive
Metastore
服务2、启动Hive客户端3、创建分区的学生成绩表
howard2005
·
2024-01-06 10:48
数仓技术Hive入门
hive
hadoop
分科汇总
【无标题】
ETL项目–自学笔记(补充)1、服务启动cdh虚拟机中服务会自动启动手动启动启动hadoop服务/export/server/hadoop/sbin/start-all.sh启动hive服务
metastore
中长跑路上crush
·
2024-01-05 23:02
hadoop
python
大数据
etl工程师
docker搭建Dinky —— 筑梦之路
主要功能其主要功能如下:沉浸式FlinkSQL数据开发:自动提示补全、语法高亮、语句美化、在线调试、语法校验、执行计划、
MetaStore
、血缘分析、版本对比等支持FlinkSQL多版本开发及多种执行模式
筑梦之路
·
2024-01-04 03:40
Java技术
大数据
docker
容器
运维
从零开始了解大数据(六):数据仓库Hive篇
数据仓库基本概念二、ApacheHive入门1.ApacheHive概述2.ApacheHive架构与组件三、ApacheHive安装部署1.ApacheHive部署实战(1)Hadoop与Hive整合(2)
Metastore
橘子-青衫
·
2024-01-04 02:51
大数据
从零开始了解大数据
大数据
数据仓库
hive
hadoop
分布式
大数据技术与应用开发赛项笔记
各种启动命令修改mysql数据库编码:alterdatabaseshtd_resultCHARACTERSETutf8;hadoop:start-all.shhive服务:hive--service
metastore
hive
南城守护
·
2024-01-01 17:56
大数据
解决Hive在DataGrip 中注释乱码问题
注释属于元数据的一部分,同样存储在mysql的
metastore
库中,如果
metastore
库的字符集不支持中文,就会导致中文显示乱码。
玖玖1704
·
2024-01-01 16:05
Hive
hive
hadoop
数据仓库
Hive的
Metastore
服务和Hiveserver2服务的说明
一、
Metastore
服务1、什么时候需要开启和使用
Metastore
服务呢?
小枫@码
·
2023-12-31 18:27
数据仓库
hive
Hive集群出现报错信息解决办法
HiveExceptionjava.lang.RuntimeException:Unabletoinstantiateorg.apache.hadoop.hive.ql.metadata.SessionHive
MetaStore
Client
马龙强_
·
2023-12-31 09:47
hive
hadoop
数据仓库
【大数据】Hudi HMS Catalog 完全使用指南
基本介绍2.在Flink中写入数据3.在FlinkSQL中查看数据4.在Spark中查看数据5.在Hive中查看数据1.HudiHMSCatalog基本介绍功能亮点:当Flink和Spark同时接入Hive
Metastore
G皮T
·
2023-12-28 18:24
#
Hudi
大数据
hudi
数据湖
hive
flink
spark
metastore
Hive实战:统计总分与平均分
文章目录一、实战概述二、提出任务三、完成任务(一)准备数据文件1、在虚拟机上创建文本文件2、将文本文件上传到HDFS指定目录(二)实现步骤1、启动Hive
Metastore
服务2、启动Hive客户端3、
howard2005
·
2023-12-28 10:16
数仓技术Hive入门
hive
总分
平均分
Hive 部署
Hive
Metastore
(HMS)提供了一个中央元数据存储库,可以轻松地进行分析,以做出明智的数据驱动决策,因此它是许多数据湖架构的关键组件。
有人看我吗
·
2023-12-27 23:54
hive
hadoop
数据仓库
Hive实战:词频统计
文章目录一、实战概述二、提出任务三、完成任务(一)准备数据文件1、在虚拟机上创建文本文件2、将文本文件上传到HDFS指定目录(二)实现步骤1、启动Hive
Metastore
服务2、启动Hive客户端3、
howard2005
·
2023-12-27 23:24
数仓技术Hive入门
hive
hadoop
hive中
metastore
服务、hiveserver2服务、hive客户端、beeline客户端连接元数据的方式
2.开启
metastore
服务的参数hive-site.xml中打开
metastore
的连接地址。
不爱吃鱼的馋猫
·
2023-12-27 06:35
hive
一文秒懂Hive的两个组件Hiveserver2和
Metastore
server访问元数据的关系?及Cli命令行和beeline的关系
一、Hive架构原理1)用户接口:ClientCLI(command-lineinterface)、JDBC/ODBC(jdbc访问hive)、WEBUI(浏览器访问hive)2)元数据:
Metastore
不爱吃鱼的馋猫
·
2023-12-27 06:34
hive
数据库
大数据
java
mysql
【大数据HA】HAProxy实现thrift协议HMS服务的高可用-附Chatgpt协助截图
背景之前安装了HMS(Hive
metastore
service),独立于hive运行,安装部署过程见我下面列出的另一篇文章,需要为它建立HA高可用功能。防止在访问时出现单点故障问题。
秦拿希
·
2023-12-27 05:08
hive
大数据
metastore
HMS
HAProxy
hive 配置
metastore
hiveserver2服务开启
安装mysqlcreatedatabase
metastore
;配置hivehive-site.xml:javax.jdo.option.ConnectionURLjdbc:mysql://hadoop102
赤土 炙焱
·
2023-12-25 12:50
hive
hadoop
数据仓库
spark 连接 hive 报错 Identifier principalName is unresolved (not a static field)
spark连接hive的mysql元数据库
metastore
,不能直接访问,需要通过
metastore
server间接访问因此需要开启元数据服务修改hive-site.xml配置 hive.
metastore
.uris
赤土 炙焱
·
2023-12-25 12:20
spark
hive
Hive学习笔记(二)—— Hive的安装
2.4MySql安装2.4.1安装包准备2.4.2安装MySql服务器2.4.3安装MySql客户端2.4.4MySql中user表中主机配置2.5Hive元数据配置到MySql2.5.1驱动拷贝2.5.2配置
Metastore
Alienware^
·
2023-12-24 08:53
#
Hive
hive
Hive权限管理
Hive权限管理1、hive授权模型介绍(1)StorageBasedAuthorizationinthe
Metastore
Server基于存储的授权-可以对
Metastore
中的元数据进行保护,但是没有提供更加细粒度的访问控制
新鲜氧气
·
2023-12-23 22:26
大数据
#
hive
#
hadoop
hive
hadoop
数据仓库
Hive-high Avaliabl
hive—highAvaliablehive的搭建方式有三种,分别是1、Local/Embedded
Metastore
Database(Derby)2、Remote
Metastore
Database3、
新鲜氧气
·
2023-12-23 12:05
#
hadoop
大数据
#
hive
hive
hadoop
数据仓库
HIVE基本操作
1、启动远程服务端:hive--service
metastore
启动(这里是阻塞式),然后在客户端操作2、HiveDDL(数据库定义语言)--展示所有数据库showdatabases;--切换数据库usedatabase_name
新鲜氧气
·
2023-12-20 05:56
hive
数据库
hadoop
Presto连接Hive
配置HiveConnectoretc/catalog/hive.propertiesconnector.name=hive-hadoop2hive.
metastore
.uri=thrift://:9083hive.config.resources
kongxx
·
2023-12-17 16:46
Sqoop基础理论与常用命令详解(超详细)
文章目录前言一、Sqoop概述1.Sqoop简介2.Sqoop架构(1)SqoopClient(2)SqoopServer(3)Connector(4)
Metastore
(5)Hadoop/HDFS3.
大数据魔法师
·
2023-12-16 15:57
大数据
sqoop
hadoop
hive
spark链接hive时踩的坑
使用spark操作hive,使用
metastore
连接hive,获取hive的数据库时,当我们在spark中创建数据库的时候,创建成功。
YuPangZa
·
2023-12-15 18:00
大数据中踩过的坑
spark
hive
大数据
20.Hive中的beeline和jdbc(hive学习3)
不能做增删改操作,只做查询工作beeline查询的时候,如果没开启客户端代理,就连接不上
metastore
,就查不到东西的,可以在安装了hive元数据的服务器上使用beeline查HiveServer是一种可选服务
文茶君
·
2023-12-15 14:54
【Flink名称解释一】什么是cataLog
元数据也可以是持久化的,例如Hive
Metastore
中的元数据。Catalog提供了一个统一的API,用于管理元数据,并使其可以从TableAPI和SQL查询语句中来访问。
周润发的弟弟
·
2023-12-15 03:18
从零开始搞大数据
flink
大数据
【Hive】——CLI客户端(bin/beeline,bin/hive)
1HiveServer、HiveServer22bin/hive、bin/beeline区别3bin/hive客户端hive-site.xml配置远程MateStore地址XMLhive.
metastore
.uristhrift
那时的样子_
·
2023-12-14 23:26
hive
hadoop
数据仓库
【Hive】——安装部署
1MetaData(元数据)2
MetaStore
(元数据服务)3
MetaStore
配置方式3.1内嵌模式3.2本地模式3.3远程模式4安装前准备hadoop.proxyuser.root.hosts*hadoop.proxyuser.root.groups
那时的样子_
·
2023-12-14 23:15
hive
hadoop
数据仓库
Hive的
metastore
服务的两种运行模式
Hive的
metastore
服务的作用是为HiveCLI或者Hiveserver2提供元数据访问接口1.
metastore
运行模式
metastore
有两种运行模式,分别为嵌入式模式和独立服务模式。
Appreciate(欣赏)
·
2023-12-06 16:14
hive
数据仓库
头歌—Hive的安装与配置
第1关:Hive的安装与配置在修改conf下面的hive-site.xml文件这里,题目给的信息是错误的,正确的内容如下:hive.
metastore
.warehouse.dir/opt/hive/warehousehive.exec.scratchdir
Changersh
·
2023-12-05 06:17
头歌
hive
hadoop
数据仓库
Hudi-集成Spark之spark-sql方式
Hudi集成Spark之spark-sql方式启动spark-sql#启动spark-sql之前需要先启动Hive的
Metastore
nohuphive--service
metastore
针对Spark3.2spark-sql
迷雾总会解
·
2023-12-04 02:01
大数据
数据库
spark
sql
大数据
hudi
spark-sql 指定
metastore
地址、读取mysql
spark-sql-hivespark-sql--databasesrc--hiveconfhive.
metastore
.uris=thrift://hdp02:2083-e"select*fromsrc_db2
qzWsong
·
2023-12-04 02:00
spark
spark
sql
hive
Spark---Spark on Hive
1、SparkOnHive的配置1)、在Spark客户端配置HiveOnSpark在Spark客户端安装包下spark-2.3.1/conf中创建文件hive-site.xml:配置hive的
metastore
30岁老阿姨
·
2023-12-02 10:40
Spark
spark
hive
大数据
Hdoop学习笔记(HDP)-Part.15 安装HIVE
十五、安装HIVE1.配置
MetaStore
利用ambari创建的MySQL作为
MetaStore
,创建用户hive及数据库hivemysql-uroot-pCREATEDATABASEhive;CREATEUSER'hive
这啥命啊
·
2023-12-02 06:58
hadoop
学习
笔记
hive
hadoop
本地IDEA、spark程序远程读取hive数据
先说成功步骤,再说配置过程出现的的问题和解决办法步骤确保hive--service
metastore
服务在Linux服务器已开启,在hive-cli可以正常读取数据。
一加六
·
2023-11-30 02:08
大数据
hive
spark
spark-submit 样例
spark-submit--confspark.driver.host=xx\--confhive.
metastore
.uris=xx\--classcom.mainclass\--num-executors1
旅途心情
·
2023-11-29 22:03
spark
spark
java
元数据管理|Hive Hooks和
Metastore
监听器介绍
本文主要介绍HiveHook和
MetaStore
Listener,使用这些功能可以进行自动的元数据管理。
大数据技术与数仓
·
2023-11-29 21:58
【运维】hive 高可用详解: Hive
MetaStore
HA、hive server HA原理详解;hive高可用实现
文章目录一.hive高可用原理说明1.Hive
MetaStore
HA2.hiveserverHA二.hive高可用实现1.配置2.beeline链接测试3.zookeeper相关操作一.hive高可用原理说明
roman_日积跬步-终至千里
·
2023-11-29 20:39
hive
运维
hive
hadoop
【hive-design】hive架构详解:描述了hive架构,hive主要组件的作用、hsql在hive执行过程中的底层细节、hive各组件作用
文章目录一.HiveArchitecture二.
Metastore
1.
Metastore
Architecture2.
Metastore
Interface三.Compiler四.hive架构小结本文主要讨论了描述了
roman_日积跬步-终至千里
·
2023-11-29 06:42
hive
hive
架构
hadoop
一次azkaban-exec某个节点不执行任务的问题总结复盘
azkaban-exec部署在prod11、prod12两台机器上,这两台都是物理机,同时还不部署了namenode、resourcemanafer、historyserver、hiverserver、
metastore
Java小田
·
2023-11-28 21:24
工作记录
技术研究
#
azkaban
azkaban
SparkSQL与parquet,处理decimal类型数据时遇到的问题及注意事项
SparkSQL为了更好的性能,在读写Hive
metastore
parquet格式的表时,会默认使用自己的ParquetSerDe,而不是采用Hive的SerDe进行序列化和反序列化。
雾岛与鲸
·
2023-11-28 11:03
数据仓库
hive
spark
Day06 Hive表的管理和SQL基础使用
Hive默认情况下会将这些表的数据存储在由配置项hive.
metastore
.warehouse.dir(例如,/user/hive/warehouse)所定义的目录的子目录下。
Tgmmmmmmmm
·
2023-11-28 10:04
#
数据仓库项目
hive
sql
hadoop
大数据基础设施搭建 - Hive
文章目录一、上传压缩包二、解压压缩包三、配置环境变量四、初始化元数据库4.1配置MySQL地址4.2拷贝MySQL驱动4.3初始化元数据库4.3.1创建数据库4.3.2初始化元数据库五、启动元数据服务
metastore
5.1
m0_46218511
·
2023-11-25 13:15
大数据基础设施搭建
大数据
hive
数据仓库 Hive
、Hive简介2.1、Hive的特点2.2、Hive的优缺点2.3、Hive与Hadoop生态系统中的关系2.4、Hive与传统数据库的对比分析2.5、Hive架构2.5.1.Client5.2.1.
Metastore
5.2.3
忄凝^
·
2023-11-25 09:48
大数据
hadoop
大数据
hive
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他