E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
HIVE安装配置
oracle数据同步开源,阿里开源数据同步工具--DataX
:能够将MySQLsqlServerOracle
Hive
HBaseFTP之间进行稳定高效的数据同步。设计思路:网状连接-》星型连接看图:目前支持哪些数据同步?
海纳易拓
·
2024-01-28 12:09
oracle数据同步开源
mysql 同步 工具 开源_开源数据同步工具——datax
开源数据同步工具——dataxDataX是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、
Hive
、ADS、HBase、
weixin_39942572
·
2024-01-28 12:08
mysql
同步
工具
开源
Presto源码阅读——如何获取
Hive
中的Metadata(HMS+HDFS)
Presto源码阅读——如何获取
Hive
中的Metadata(HMS+HDFS)本文的Metadata定义SQLonHadoop系统在执行一个query时所需要的Metadata主要有两部分
Hive
中的
stiga-huang
·
2024-01-28 12:38
Presto
Impala-shell卡顿分析——记一次曲折的Debug经历
Impala-shell卡顿分析——记一次曲折的Debug经历问题发现最近准备在Impala中增加对UTF-8的支持,以修正跟
Hive
、Spark等基于Java的系统在UTF-8字符串上的不兼容表现(如
stiga-huang
·
2024-01-28 12:06
Impala
大数据
impala
debug
Impala元数据简介
与其它SQL-on-Hadoop的ROLAP解决方案如Presto、SparkSQL等不同的是,Impala对元数据(Metadata/Catalog)做了缓存,因此在做查询计划生成时不再依赖外部系统(如
Hive
stiga-huang
·
2024-01-28 12:05
Impala
Impala元数据缓存的生命周期
在
Hive
中建了个新表,但在Impala中不可见,如何解决?在
Hive
中建了个新的函数,
stiga-huang
·
2024-01-28 12:05
Impala
impala
Impala依赖组件的客户端源码下载
比如Impala-4.3.0依赖的CDP_BUILD_NUMBER是44206393,在bin/impala-config.sh中也列出了组件版本,如
Hive
版本是3.1.3000.7.2.18.0-273
stiga-huang
·
2024-01-28 12:04
Impala
impala
开源数据同步工具DataX
DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、
Hive
、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS
快乐江小鱼
·
2024-01-28 12:34
java
开源
java
黑猴子的家:
Hive
删除数据库
1、删除空数据库
hive
>dropdatabasedb_
hive
2;2、如果删除的数据库不存在,最好采用ifexists判断数据库是否存在
hive
>dropdatabasedb_
hive
2;FAILED
黑猴子的家
·
2024-01-28 11:12
hive
之行转列与列转行的实现
一:前言在某些场景下比如报表的产出,为了更加易于理解,往往会行列互置这样显示,又或者我们需要将某个相同键的值,所属的属性进行合并显示,这样都会用到行转列或者列转行。二:行转列如何实现使用lateralview结合explode这样的UDTF进行实现,由于explode的参数要求是list()或者array()类型,所以往往还需要用到spilt函数进行分割。以下是一个演示:selectsplit(d
愤怒的谜团
·
2024-01-28 11:02
66.管理
Hive
外部表——Sentry
66.1演示环境介绍操作系统:CentOS6.5CM和CDH版本:5.12.1采用root用户操作集群运行正常,Kerberos/HDFS/
Hive
/Impala/Hue服务已与Sentry集成,
Hive
大勇任卷舒
·
2024-01-28 11:57
浅谈
Hive
和HBase有哪些区别与联系及适用场景
在学大数据分析的过程中,
Hive
和HBase是两个非常重要的内容,对于初学者而言容易混淆。所以比较两者的联系与差别,能够帮助我们对这两个组件有一个清晰的认识和定位。
尚学先生
·
2024-01-28 11:19
Hive
SQL优化常见问题汇总
一、
hive
动态配置项
hive
.optimize.cp=true:列裁剪
hive
.optimize.prunner:分区裁剪
hive
.limit.optimize.enable=true:优化LIMITn
Luckyliboy
·
2024-01-28 09:07
hive
hive
常见问题汇总
>>>1、java.sql.SQLException:ColumnnamepatterncannotbeNULLorempty.在启动
hive
时,可能会遇到以下异常:java.sql.SQLException
weixin_34413802
·
2024-01-28 09:07
大数据
数据库
java
hive
常见问题汇总
1、
hive
的
Hive
MetaStore或者
Hive
Server2服务进程正常,但却不能提供相应服务原因:堆内存不足解决方案:在
hive
-env.sh中调整堆内存大小2、连接
hive
metastore出现
cxy1991xm
·
2024-01-28 09:37
hive
Hive
常见问题汇总
Hive
和Hadoop的关系
Hive
构建在Hadoop之上,HQL中对查询语句的解释、优化、生成查询计划是由
Hive
完成的所有的数据都是存储在Hadoop中查询计划被转化为MapReduce任务,在Hadoop
不加班程序员
·
2024-01-28 09:37
Hadoop相关
ETL
hive
hive
hadoop
数据仓库
Spark——Spark/
Hive
向量化查询执行原理分析(Vectorization Query Execution)
文章目录什么是向量化查询执行列式存储Spark向量化查询执行
Hive
向量化查询执行参考什么是向量化查询执行在标准的查询执行系统中,每次只处理一行数据,每次处理都要走过较长的代码路径和元数据解释,从而导致
Southwest-
·
2024-01-28 08:47
Spark
Spark
Hive
向量化
Spark——Spark读写MongoDB
文章目录Spark直连MongoDB1.通过SparkConf2.通过ReadConfig3.通过DataFrameReader
Hive
中创建映射表mongoexport导出文件参考如果我们要想通过Spark
Southwest-
·
2024-01-28 08:46
Spark
Spark
MongoDB
Spark——Spark读写Greenplum/Greenplum-Spark Connector高速写Greenplum
文章目录问题背景解决方式代码实现Spark写GreenplumSpark读Greenplum参考问题背景通过数据平台上的DataX把
Hive
表数据同步至Greenplum(因为DataX原生不支持GreenplumWriter
Southwest-
·
2024-01-28 08:42
Spark
spark
大数据
分布式
Levmar使用小结(一)
Levmar的
安装配置
大家可以看这篇文章:http://blog.sina.com.cn/s/blog_45b747f70101he1t.htmlLevmar的官网是这个:http://users
hhh0209
·
2024-01-28 08:05
非线性优化
levmal
Hive
面试题*精选*!附答案!!!
HIVE
面试一、
Hive
的基本概念1.什么是
hive
Hive
是一款开源的基于hadoop的用于统计海量结构化数据的一个数据仓库,它定义了简单的类似SQL的查询语言,称为HQL,允许熟悉SQL的用户查询数据
yhy_only
·
2024-01-28 07:36
hive
学习
大数据
Hive
面试题
Hive
面试题1.
Hive
的架构2.
Hive
和数据库比较
Hive
和数据库除了拥有类似的查询语言,再无类似之处。1)数据存储位置
Hive
存储在HDFS。数据库将数据保存在块设备或者本地文件系统中。
肿么肥四啊哈
·
2024-01-28 07:34
hive学习笔记
大数据面试题
hive
Hive
框架的搭建和使用_第三节_
hive
建表_分区_函数
Hive
框架的搭建和使用_第三节_
hive
建表_分区_函数
hive
的相关操作分区建表函数系列化1.
hive
的内部外部表2.
hive
下的分区建表2.1单分区内部表2.2双分区内部表2.3外部表双分区2.4
下次遇见说你好
·
2024-01-28 07:34
hive
大数据
hive
数据库
Hive
之set参数大全-17
配置是否启用
Hive
Server2的Web用户界面(WebUI)中的跨源资源共享(CORS)在
Hive
中,
hive
.server2.webui.enable.cors是一个参数,用于配置是否启用
Hive
Server2
OnePandas
·
2024-01-28 07:33
Hive
hive
数据仓库
Hive
之set参数大全-18
指定在执行Spark上的动态分区裁剪时,用于评估分区数据大小的最大限制在
Hive
中,
hive
.spark.dynamic.partition.pruning.max.data.size是一个配置参数,用于指定在执行
OnePandas
·
2024-01-28 07:33
Hive
hive
数据仓库
hive
面试题总结(大数据面试)
Hive
概述
Hive
是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射成为一张数据库表,并提供类SQL的查询功能。可以将sql语句转化为MapReduce任务进行运行。
404个问号
·
2024-01-28 07:02
大数据
大数据
hive
java
Hive
3.1.3基础(续)
参考B站尚硅谷分区表和分桶表分区表
Hive
中的分区就是把一张大表的数据按照业务需要分散的存储到多个目录,每个目录就称为该表的一个分区。
魅美
·
2024-01-28 07:31
hive
hive
面试题
0.思维导图1.简述
Hive
♥♥ 我理解的,
hive
就是一款构建数据仓库的工具,它可以就结构化的数据映射为一张表,并且可以通过SQL语句进行查询分析。
韩顺平的小迷弟
·
2024-01-28 07:29
大数据面试题
hive
hadoop
数据仓库
mysql5.7 二进制包安装
一、mysql二进制安装1.下载安装包1.1下载地址:https://downloads.mysql.com/arc
hive
s/community/ProductVersion:5.7.34(选择需要的安装的版本
dacidong
·
2024-01-28 07:27
数据库
mysql
linux
数据库
Xcode 14.3 打包Command PhaseScriptExecution failed with a nonzero exit code
Xcode14.3Arc
hive
打包时在编译到最后的时候会出现CommandPhaseScriptExecutionfailedwithanonzeroexitcode的报错出现这个问题的时候当时也是有点懵逼的
ZJS_Sky
·
2024-01-28 06:04
从零开发基于chatGPT的社区交友系统 (前后端分离)丨环境配置 01
01环境配置项目介绍
安装配置
Node.js下载
安装配置
淘宝镜像安装vue脚手架(vue-cli)可视化创建vue项目运行vue项目总结项目介绍本项目是一个基于ChatGPT人工智能技术开发的社区社交类应用程序
_Kaiser
·
2024-01-28 06:07
IUchat
前端
后端
vue
golang
实时音视频
Gstreamer的编译以及配置要点[初次总结]
这篇文章主要说明一下如何编译gstreamer以及
安装配置
插件--起码不会报插件notfound的错误吧。
码农下的天桥
·
2024-01-28 06:06
直播及多媒体处理
gstreamer
libnice
linux
Java必备技能之环境搭建篇(基础环境)详细版之Git
我们最终的环境目标k8s+Docker的CICD环境草图:
安装配置
GitA、下载安装登录git官网进行下载:下载稳定版的最新的即可目前是2.29.2.2https://git-scm.com/进行安装(
Coder_Boy_
·
2024-01-28 06:28
Java架构师
DevOps
java
git
github
DevOps工程师技能_容器化技术之K8s集群搭建
K8s-集群搭建部署说明1、安装包下载CentOSLinux7.61810x8664iso官方原版镜像下载https://renwole.com/arc
hive
s/15302、系统环境配置ipaddrvi
Coder_Boy_
·
2024-01-28 06:57
DevOps
软件工程化
devops
k8s
vue-cli4按需引入element-plus
文章目录项目说明一、步骤1.安装&配置element-plus
安装配置
2.安装&配置babel-plugin-import
安装配置
3.创建vue页面总结项目说明【配置环境】vue-cli^4.5.0,创建项目过程请参考
_有志青年_
·
2024-01-28 05:32
Vue
vue
elementui
常见的MIME形式的数据类型
扩展名**文档类型**MIME类型.aacAACaudioaudio/aac.abwAbiWorddocumentapplication/x-abiword.arcArc
hive
document(multiplefilesembedded
微笑碧落
·
2024-01-28 04:48
Qt5编译qextserialport(Qt5.14.2+VS2017)
qextserialport:Automaticallyexportedfromcode.google.com/p/qextserialport(2)code.googlehttps://code.google.com/arc
hive
lingsnoopy
·
2024-01-28 04:12
QT
qt
开发语言
4.
Hive
表更新字段信息,一次讲明白
Hive
表更新字段信息一、更新表字段语句1、修改字段名称2、修改字段类型3、修改字段备注二、总结一、更新表字段语句ALTERTABLEtable_name[PARTITIONpartition_spec
幻想的蜗牛
·
2024-01-28 04:01
#
DDL相关
hive
5.
Hive
表修改Location,一次讲明白
Hive
表修改Loction一、
Hive
中修改Location语句二、方案1删表重建1.创建表,写错误的Location2.查看Location3.删表4.创建表,写正确的Location5.查看Location
幻想的蜗牛
·
2024-01-28 04:31
#
DDL相关
hive
3.工作中慎用删字段的操作(
Hive
)
1.分析原因在工作中你可能会遇到这种情况,某个表中字段很多,数据量又特别庞大,而某些字段可能用处不大。这时,你可能会想到删除这些不用的字段以减少数据量,加快任务的执行和数据的重刷。2.操作建议在生产环境中,慎用删字段的操作,删除字段很可能会带来一些意想不到的问题,解决起来也十分麻烦。建议操作如下:(1)将无用字段置空;(2)删表重建。
幻想的蜗牛
·
2024-01-28 04:31
#
DDL相关
数据仓库
etl
hive
mysql双机bin-log备份
前置条件:1.安装同版本mysql2.数据库内容一致(最好是全新安装的两个数据库)3.数据库位于不同的服务器上
安装配置
如下:1.先安装好mysql,安装mysql可参考Mysql安装说明安装好后,进行主从配置
lytcreatee
·
2024-01-28 03:11
mysql
数据库
Linux之
安装配置
CentOS7+换源
目录一.安装CentOS7二.配置CentOS7三.查看、设置IP地址3.1查看IP地址3.2设置IP地址四.使用Xshell连接Linux客户端4.1Xshell的下载4.2Xshell的使用五.换软件源一.安装CentOS7博主是在虚拟机中进行安装的,大家也可以在虚拟机中跟着尝试一下第一步:在vmvare中新建虚拟机文件--->新建虚拟机第二步:选择自定义第三步:下一步第四步:可以选择稍后安装
廖彩雲
·
2024-01-28 02:08
centos
linux
运维
PostgreSQL 12 数据库安装
环境系统版本:CentOSLinuxrelease7.7.1908(Core)
安装配置
PostgreSQL下载PostgreSQL安装包下载地址:https://yum.postgresql.org/repopackages.php
一个欠登儿程序员
·
2024-01-28 02:49
持续交付部署
hive
sql 语句执行顺序及执行计划
hive
语句执行顺序from...where....select...groupby...having...orderby...执行计划MapOperatorTree:TableScanalias:表名
姜小嫌
·
2024-01-28 01:15
Windows下
安装配置
爬虫工具Scrapy及爬虫环境
爬虫工具Scrapy在Mac和Linux环境下都相对好装,但是在Windows上总会碰到各种莫名其妙的问题。本文记录下Scrapy在Window上的安装过程。本文是基于Python2.7及Windows10安装Scrapy及各种爬虫相关库。下载安装ScrapyScrapy官方文档按照官网建议下载安装Anaconda,使用这个安装比直接pip安装会少很多问题。下载地址安装完成后,python2.7也
罗伊德666
·
2024-01-28 00:21
MacOS开发 鼠标拖动窗口事件
参考官方文档:https://developer.apple.com/library/arc
hive
/documentation/Cocoa/Conceptual/WinPanel/Tasks/SizingPlacingWindows.htmlNSWindow
drmi
·
2024-01-28 00:40
Oracle 11g
安装配置
详细教程
Oracle11g
安装配置
详细教程一、准备工作1、系统要求:确保你的操作系统满足Oracle11g的安装要求,比如WindowsServer版本、Linux发行版及内核版本等。
清水白石008
·
2024-01-28 00:02
oracle
数据库
Hive
-
Hive
QL练习题
数组下标取元素扩充数据题目扩充为连续整数解决笛卡尔积题目扩充为自身解决标记过滤展开数据题目展开字符串思路解决1交叉连接解决2lateralview炸裂函数环境Windows,VMware,Linux,
hive
日月交辉
·
2024-01-27 23:48
HiveQL
sql
hive
Hive
-
Hive
QL练习题-提取位置
文章目录提取位置题目提取1的位置解决字符串拆成数组题目成对提取解决1posexplode位置相等解决2数组下标解决3explode+排名+交叉连接提取位置题目提取1的位置createtableposition_1(avarchar(7)comment'含1的字符串')comment'1的位置';insertintoposition_1values('1011'),('0101');解决字符串拆成数
日月交辉
·
2024-01-27 23:48
HiveQL
hive
hadoop
数据仓库
Hive
数据倾斜
目录数据倾斜what怎么判断/主要表现why小表join大表倾斜场景优化mapjoin不能解决的大表join大表不同数据类型关联异常值(null/0)groupbydistinct转groupby优化之前其他数据倾斜what“倾斜”来自于统计学里的的偏态分布数据分布不均匀,大量数据集中到一点,造成数据热点怎么判断/主要表现查看日志/任务监控页面,reduce节点大部分执行完毕,少数几个运行很慢或卡
日月交辉
·
2024-01-27 23:18
Hive
hive
hadoop
数据仓库
big
data
mapreduce
大数据
上一页
18
19
20
21
22
23
24
25
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他