E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hive日期函数
Hive
中left join 中的where 和 on的区别
目录一、知识点二、测试验证三、引申一、知识点leftjoin中关于where和on条件的知识点:多表leftjoin是会生成一张临时表。on后面:一般是对leftjoin的右表进行条件过滤,会返回左表中的所有行,而右表中没有匹配上的数据直接补为null。on后面:如果存在对左表的筛选条件,无论条件真假,仍返回左表中的所有行,只是会影响右表的匹配值。即:on中针对左表的限制条件只会影响右表的匹配内容
爱吃辣条byte
·
2024-01-28 23:11
Hive
hive
hadoop
数据仓库
数仓治理-小文件治理
注:文章参考:数据治理实践|小文件治理本文中将介绍
Hive
中小文件治理的方法和技巧,希望对大家有所帮助https://mp.weixin.qq.com/s/HDxAGhGIPvXF38wPiXZ7xg[
爱吃辣条byte
·
2024-01-28 23:40
数据治理
大数据
数据仓库
Hive
SQL题——用户连续登陆
目录一、连续登陆1.1连续登陆3天以上的用户0问题描述1数据准备2数据分析3小结1.2每个用户历史至今连续登录的最大天数0问题描述1数据准备2数据分析3小结1.3每个用户连续登录的最大天数(间断也算)0问题描述1数据准备2数据分析3小结一、连续登陆1.1连续登陆3天以上的用户0问题描述查询连续登陆3天以上的用户(字节面试题)1数据准备createtableifnotexiststable1(idi
爱吃辣条byte
·
2024-01-28 23:09
Hive
数据仓库
大数据
sql
Ubuntu官方安装微信——Ubuntu16.04/18.04/20.04/22.04
,本教程适用于Ubuntu16.04/18.04/20.04/22.04安装包下载进入微信下载官网下载微信Linux客户端点击64位下载即可,如果不能下载,使用终端如下命令wgethttp://arc
hive
.ubuntukylin.com
HIT_Vanni
·
2024-01-28 18:32
Ubunut
ubuntu
linux
运维
微信
iproute 随手记
想要学习iproute请去https://www.zsythink.net/arc
hive
s/1199讲解的非常好。
kaiyuanheshang
·
2024-01-28 17:00
Linux
iproute
win10安装mysql8免安装版
官网地址:link安装mysql解压选择Windows(x86,64-bit),ZIPArc
hive
下载,将会得
迷踪客
·
2024-01-28 17:57
环境搭建
mysql
mysql
数据库
windows
关于
hive
的迁移 之 表结构批量迁移
image.png我们在做数据治理数据仓库的时候,集群数据迁移时必不可少的一项,因为什么呢,比如1刚开始集群搭在亚马逊aws,几十万美金的创业红包用完了,差不多三四个月,2aws的小规模集群也有900TB的数据,迁移到腹黑的阿里云平台,3过几天有人来你公司搞推销,告诉你使用他们阿里云大集团账号上六折折扣,结果迁移到他们的上面,4结果过了半年阿里云开始清查,发现他们的大集团账号违规操作,收回折扣价,
Helen_Cat
·
2024-01-28 16:44
HIVE
优化场景三-合理并行控制
场景三.合理进行并行控制合理的使用并行化参数控制并行化参数有以下几个:开启任务并行执行set
hive
.exec.parallel=true;允许并行任务的最大线程数set
hive
.exec.parallel.thread.number
xuanxing123
·
2024-01-28 14:36
CUDA下载安装教程,新手详细
一、下载进入官方下载地址:https://developer.nvidia.com/cuda-toolkit-arc
hive
选择自己需要的版本。
ChangYan.
·
2024-01-28 14:57
安装问题
c++
oracle数据同步开源,阿里开源数据同步工具--DataX
:能够将MySQLsqlServerOracle
Hive
HBaseFTP之间进行稳定高效的数据同步。设计思路:网状连接-》星型连接看图:目前支持哪些数据同步?
海纳易拓
·
2024-01-28 12:09
oracle数据同步开源
mysql 同步 工具 开源_开源数据同步工具——datax
开源数据同步工具——dataxDataX是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、
Hive
、ADS、HBase、
weixin_39942572
·
2024-01-28 12:08
mysql
同步
工具
开源
Presto源码阅读——如何获取
Hive
中的Metadata(HMS+HDFS)
Presto源码阅读——如何获取
Hive
中的Metadata(HMS+HDFS)本文的Metadata定义SQLonHadoop系统在执行一个query时所需要的Metadata主要有两部分
Hive
中的
stiga-huang
·
2024-01-28 12:38
Presto
Impala-shell卡顿分析——记一次曲折的Debug经历
Impala-shell卡顿分析——记一次曲折的Debug经历问题发现最近准备在Impala中增加对UTF-8的支持,以修正跟
Hive
、Spark等基于Java的系统在UTF-8字符串上的不兼容表现(如
stiga-huang
·
2024-01-28 12:06
Impala
大数据
impala
debug
Impala元数据简介
与其它SQL-on-Hadoop的ROLAP解决方案如Presto、SparkSQL等不同的是,Impala对元数据(Metadata/Catalog)做了缓存,因此在做查询计划生成时不再依赖外部系统(如
Hive
stiga-huang
·
2024-01-28 12:05
Impala
Impala元数据缓存的生命周期
在
Hive
中建了个新表,但在Impala中不可见,如何解决?在
Hive
中建了个新的函数,
stiga-huang
·
2024-01-28 12:05
Impala
impala
Impala依赖组件的客户端源码下载
比如Impala-4.3.0依赖的CDP_BUILD_NUMBER是44206393,在bin/impala-config.sh中也列出了组件版本,如
Hive
版本是3.1.3000.7.2.18.0-273
stiga-huang
·
2024-01-28 12:04
Impala
impala
开源数据同步工具DataX
DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、
Hive
、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS
快乐江小鱼
·
2024-01-28 12:34
java
开源
java
黑猴子的家:
Hive
删除数据库
1、删除空数据库
hive
>dropdatabasedb_
hive
2;2、如果删除的数据库不存在,最好采用ifexists判断数据库是否存在
hive
>dropdatabasedb_
hive
2;FAILED
黑猴子的家
·
2024-01-28 11:12
hive
之行转列与列转行的实现
一:前言在某些场景下比如报表的产出,为了更加易于理解,往往会行列互置这样显示,又或者我们需要将某个相同键的值,所属的属性进行合并显示,这样都会用到行转列或者列转行。二:行转列如何实现使用lateralview结合explode这样的UDTF进行实现,由于explode的参数要求是list()或者array()类型,所以往往还需要用到spilt函数进行分割。以下是一个演示:selectsplit(d
愤怒的谜团
·
2024-01-28 11:02
66.管理
Hive
外部表——Sentry
66.1演示环境介绍操作系统:CentOS6.5CM和CDH版本:5.12.1采用root用户操作集群运行正常,Kerberos/HDFS/
Hive
/Impala/Hue服务已与Sentry集成,
Hive
大勇任卷舒
·
2024-01-28 11:57
浅谈
Hive
和HBase有哪些区别与联系及适用场景
在学大数据分析的过程中,
Hive
和HBase是两个非常重要的内容,对于初学者而言容易混淆。所以比较两者的联系与差别,能够帮助我们对这两个组件有一个清晰的认识和定位。
尚学先生
·
2024-01-28 11:19
Hive
SQL优化常见问题汇总
一、
hive
动态配置项
hive
.optimize.cp=true:列裁剪
hive
.optimize.prunner:分区裁剪
hive
.limit.optimize.enable=true:优化LIMITn
Luckyliboy
·
2024-01-28 09:07
hive
hive
常见问题汇总
>>>1、java.sql.SQLException:ColumnnamepatterncannotbeNULLorempty.在启动
hive
时,可能会遇到以下异常:java.sql.SQLException
weixin_34413802
·
2024-01-28 09:07
大数据
数据库
java
hive
常见问题汇总
1、
hive
的
Hive
MetaStore或者
Hive
Server2服务进程正常,但却不能提供相应服务原因:堆内存不足解决方案:在
hive
-env.sh中调整堆内存大小2、连接
hive
metastore出现
cxy1991xm
·
2024-01-28 09:37
hive
Hive
常见问题汇总
Hive
和Hadoop的关系
Hive
构建在Hadoop之上,HQL中对查询语句的解释、优化、生成查询计划是由
Hive
完成的所有的数据都是存储在Hadoop中查询计划被转化为MapReduce任务,在Hadoop
不加班程序员
·
2024-01-28 09:37
Hadoop相关
ETL
hive
hive
hadoop
数据仓库
Spark——Spark/
Hive
向量化查询执行原理分析(Vectorization Query Execution)
文章目录什么是向量化查询执行列式存储Spark向量化查询执行
Hive
向量化查询执行参考什么是向量化查询执行在标准的查询执行系统中,每次只处理一行数据,每次处理都要走过较长的代码路径和元数据解释,从而导致
Southwest-
·
2024-01-28 08:47
Spark
Spark
Hive
向量化
Spark——Spark读写MongoDB
文章目录Spark直连MongoDB1.通过SparkConf2.通过ReadConfig3.通过DataFrameReader
Hive
中创建映射表mongoexport导出文件参考如果我们要想通过Spark
Southwest-
·
2024-01-28 08:46
Spark
Spark
MongoDB
Spark——Spark读写Greenplum/Greenplum-Spark Connector高速写Greenplum
文章目录问题背景解决方式代码实现Spark写GreenplumSpark读Greenplum参考问题背景通过数据平台上的DataX把
Hive
表数据同步至Greenplum(因为DataX原生不支持GreenplumWriter
Southwest-
·
2024-01-28 08:42
Spark
spark
大数据
分布式
Hive
面试题*精选*!附答案!!!
HIVE
面试一、
Hive
的基本概念1.什么是
hive
Hive
是一款开源的基于hadoop的用于统计海量结构化数据的一个数据仓库,它定义了简单的类似SQL的查询语言,称为HQL,允许熟悉SQL的用户查询数据
yhy_only
·
2024-01-28 07:36
hive
学习
大数据
Hive
面试题
Hive
面试题1.
Hive
的架构2.
Hive
和数据库比较
Hive
和数据库除了拥有类似的查询语言,再无类似之处。1)数据存储位置
Hive
存储在HDFS。数据库将数据保存在块设备或者本地文件系统中。
肿么肥四啊哈
·
2024-01-28 07:34
hive学习笔记
大数据面试题
hive
Hive
框架的搭建和使用_第三节_
hive
建表_分区_函数
Hive
框架的搭建和使用_第三节_
hive
建表_分区_函数
hive
的相关操作分区建表函数系列化1.
hive
的内部外部表2.
hive
下的分区建表2.1单分区内部表2.2双分区内部表2.3外部表双分区2.4
下次遇见说你好
·
2024-01-28 07:34
hive
大数据
hive
数据库
Hive
之set参数大全-17
配置是否启用
Hive
Server2的Web用户界面(WebUI)中的跨源资源共享(CORS)在
Hive
中,
hive
.server2.webui.enable.cors是一个参数,用于配置是否启用
Hive
Server2
OnePandas
·
2024-01-28 07:33
Hive
hive
数据仓库
Hive
之set参数大全-18
指定在执行Spark上的动态分区裁剪时,用于评估分区数据大小的最大限制在
Hive
中,
hive
.spark.dynamic.partition.pruning.max.data.size是一个配置参数,用于指定在执行
OnePandas
·
2024-01-28 07:33
Hive
hive
数据仓库
hive
面试题总结(大数据面试)
Hive
概述
Hive
是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射成为一张数据库表,并提供类SQL的查询功能。可以将sql语句转化为MapReduce任务进行运行。
404个问号
·
2024-01-28 07:02
大数据
大数据
hive
java
Hive
3.1.3基础(续)
参考B站尚硅谷分区表和分桶表分区表
Hive
中的分区就是把一张大表的数据按照业务需要分散的存储到多个目录,每个目录就称为该表的一个分区。
魅美
·
2024-01-28 07:31
hive
hive
面试题
0.思维导图1.简述
Hive
♥♥ 我理解的,
hive
就是一款构建数据仓库的工具,它可以就结构化的数据映射为一张表,并且可以通过SQL语句进行查询分析。
韩顺平的小迷弟
·
2024-01-28 07:29
大数据面试题
hive
hadoop
数据仓库
mysql5.7 二进制包安装
一、mysql二进制安装1.下载安装包1.1下载地址:https://downloads.mysql.com/arc
hive
s/community/ProductVersion:5.7.34(选择需要的安装的版本
dacidong
·
2024-01-28 07:27
数据库
mysql
linux
数据库
MySQL 函数参考手册
目录MySQL字符串函数MySQL数值函数MySQL
日期函数
MySQL高级函数MySQL字符串函数函数描述ASCII返回特定字符的ASCII值CHAR_LENGTH返回字符串的长度(以字符为单位)CHARACTER_LENGTH
@HNUSTer
·
2024-01-28 07:50
SQL系列教程
SQL
教程
资料
笔记
Xcode 14.3 打包Command PhaseScriptExecution failed with a nonzero exit code
Xcode14.3Arc
hive
打包时在编译到最后的时候会出现CommandPhaseScriptExecutionfailedwithanonzeroexitcode的报错出现这个问题的时候当时也是有点懵逼的
ZJS_Sky
·
2024-01-28 06:04
DevOps工程师技能_容器化技术之K8s集群搭建
K8s-集群搭建部署说明1、安装包下载CentOSLinux7.61810x8664iso官方原版镜像下载https://renwole.com/arc
hive
s/15302、系统环境配置ipaddrvi
Coder_Boy_
·
2024-01-28 06:57
DevOps
软件工程化
devops
k8s
常见的MIME形式的数据类型
扩展名**文档类型**MIME类型.aacAACaudioaudio/aac.abwAbiWorddocumentapplication/x-abiword.arcArc
hive
document(multiplefilesembedded
微笑碧落
·
2024-01-28 04:48
Qt5编译qextserialport(Qt5.14.2+VS2017)
qextserialport:Automaticallyexportedfromcode.google.com/p/qextserialport(2)code.googlehttps://code.google.com/arc
hive
lingsnoopy
·
2024-01-28 04:12
QT
qt
开发语言
4.
Hive
表更新字段信息,一次讲明白
Hive
表更新字段信息一、更新表字段语句1、修改字段名称2、修改字段类型3、修改字段备注二、总结一、更新表字段语句ALTERTABLEtable_name[PARTITIONpartition_spec
幻想的蜗牛
·
2024-01-28 04:01
#
DDL相关
hive
5.
Hive
表修改Location,一次讲明白
Hive
表修改Loction一、
Hive
中修改Location语句二、方案1删表重建1.创建表,写错误的Location2.查看Location3.删表4.创建表,写正确的Location5.查看Location
幻想的蜗牛
·
2024-01-28 04:31
#
DDL相关
hive
3.工作中慎用删字段的操作(
Hive
)
1.分析原因在工作中你可能会遇到这种情况,某个表中字段很多,数据量又特别庞大,而某些字段可能用处不大。这时,你可能会想到删除这些不用的字段以减少数据量,加快任务的执行和数据的重刷。2.操作建议在生产环境中,慎用删字段的操作,删除字段很可能会带来一些意想不到的问题,解决起来也十分麻烦。建议操作如下:(1)将无用字段置空;(2)删表重建。
幻想的蜗牛
·
2024-01-28 04:31
#
DDL相关
数据仓库
etl
hive
hive
sql 语句执行顺序及执行计划
hive
语句执行顺序from...where....select...groupby...having...orderby...执行计划MapOperatorTree:TableScanalias:表名
姜小嫌
·
2024-01-28 01:15
MacOS开发 鼠标拖动窗口事件
参考官方文档:https://developer.apple.com/library/arc
hive
/documentation/Cocoa/Conceptual/WinPanel/Tasks/SizingPlacingWindows.htmlNSWindow
drmi
·
2024-01-28 00:40
Hive
-
Hive
QL练习题
数组下标取元素扩充数据题目扩充为连续整数解决笛卡尔积题目扩充为自身解决标记过滤展开数据题目展开字符串思路解决1交叉连接解决2lateralview炸裂函数环境Windows,VMware,Linux,
hive
日月交辉
·
2024-01-27 23:48
HiveQL
sql
hive
Hive
-
Hive
QL练习题-提取位置
文章目录提取位置题目提取1的位置解决字符串拆成数组题目成对提取解决1posexplode位置相等解决2数组下标解决3explode+排名+交叉连接提取位置题目提取1的位置createtableposition_1(avarchar(7)comment'含1的字符串')comment'1的位置';insertintoposition_1values('1011'),('0101');解决字符串拆成数
日月交辉
·
2024-01-27 23:48
HiveQL
hive
hadoop
数据仓库
Hive
数据倾斜
目录数据倾斜what怎么判断/主要表现why小表join大表倾斜场景优化mapjoin不能解决的大表join大表不同数据类型关联异常值(null/0)groupbydistinct转groupby优化之前其他数据倾斜what“倾斜”来自于统计学里的的偏态分布数据分布不均匀,大量数据集中到一点,造成数据热点怎么判断/主要表现查看日志/任务监控页面,reduce节点大部分执行完毕,少数几个运行很慢或卡
日月交辉
·
2024-01-27 23:18
Hive
hive
hadoop
数据仓库
big
data
mapreduce
大数据
上一页
13
14
15
16
17
18
19
20
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他