E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hive启动报错
Linux一条命令换阿里源
Debian/Ubuntu系统:sudocp/etc/apt/sources.list/etc/apt/sources.list.backup#备份原始源列表sudosed-i's/http:\/\/arc
hive
.ubuntu.com
吻等离子
·
2024-01-29 09:00
嵌入式知识专栏
linux
运维
服务器
Hive
-DML
Load在将数据加载到表中时,
Hive
不会进行任何转换。加载操作是将数据文件移动到与
Hive
表对应的位置的纯复制或移动操作。
KevinDu_134d
·
2024-01-29 09:20
bert预训练模型下载
查看bert模型所支持的预训练模型有哪些fromtransformersimportBERT_PRETRAINED_MODEL_ARC
HIVE
_LISTprint(BERT_PRETRAINED_MODEL_ARC
HIVE
_LIST
木下瞳
·
2024-01-29 08:13
NLP
机器学习
深度学习
模型
bert
深度学习
人工智能
Hive
报错 Invalid column reference 列名
两张表当我执行selectm.movieid,m.moviename,substr(m.moviename,-5,4)asyears,avg(r.rate)asavgScoreFROMt_movieasmjoint_ratingasronm.movieid=r.movieidGROUPbym.movieidHAVINGavgScore>=4;报错:Invalidcolumnreference'mo
木下瞳
·
2024-01-29 08:43
hive
java jdk8和jdk17同时存在【环境配置】
1、先进行环境下载:jdk8:https://www.oracle.com/cn/java/technologies/javase/javase8u211-later-arc
hive
-downloads.htmljdk17
你小子在看什么……
·
2024-01-29 08:22
环境配置
java
windows
ubuntu18.04安装paddlepaddle开发环境
//www.jianshu.com/p/e70436c3b0072.安装CUDA下载选择系统信息:https://developer.nvidia.com/cuda-10.0-download-arc
hive
奋斗_登
·
2024-01-29 07:24
Hadoop,
HIve
, Spark关系简述
Hive
:在Had
小白兔奶糖ovo
·
2024-01-29 07:22
hadoop
hive
spark
【cdh】
hive
执行SQL提示缺少3.0.0-cdh6.3.2-mr-framework.tar.gz文件
问题:执行SQL报错提示缺少文件异常信息如下在hdfs上查看的时候连文件夹都没有,所以这个异常会抛出,但是我是基于CDH搭建的,可以直接基于下面操作执行完成之后查看HDFS文件重新执行SQL发现可以正常执行了
谷新龙001
·
2024-01-29 07:46
hive
sql
mr
记一次Flink自带jar包与第三方jar包依赖冲突解决
flink版本1.14.5hadoop2.6.0为了实现flink读取
hive
数据写入第三方的数据库,写入数据库需要调用数据库的SDK,当前SDK依赖的protobuf-java-3.11.0.jar,
一枚小刺猬
·
2024-01-29 06:10
flink
flink
jar
hadoop
Hive
之set参数大全-19
指定用于计算列的唯一值数(NDV,即基数)的算法在
Hive
中,
hive
.stats.ndv.algo是一个配置参数,用于指定用于计算列的唯一值数(NDV,即基数)的算法。
OnePandas
·
2024-01-29 06:39
Hive
hive
数据仓库
Hive
之set参数大全-20
指定在执行大表半连接操作时的最小表大小,以决定是否启用半连接操作的优化在
Hive
中,
hive
.tez.bigtable.minsize.semijoin.reduction是一个配置参数,用于指定在执行大表半连接操作时的最小表大小
OnePandas
·
2024-01-29 06:03
Hive
hive
数据仓库
Hive
(
Hive
Server2 & Beeline)
hive
有两种方式写SQL;方式一:bin/
hive
是
hive
的shell客户端,可直接写sql方式二:bin/
hive
--service
hive
server2后台执行脚本:nohupbin/
hive
-
%HelloWorld%
·
2024-01-29 03:41
hive
hadoop
数据仓库
Hive
初体验
首先,确保启动了Metastore服务{runjar就是metastore;hadoop要先启动}可以执行:bin/
hive
进入到
Hive
Shell环境中,可以直接执行SQL的语句;·创建表(
hive
里面的字符串就是
%HelloWorld%
·
2024-01-29 03:09
hive
hadoop
数据仓库
Hive
中left join 中的where 和 on的区别
目录一、知识点二、测试验证三、引申一、知识点leftjoin中关于where和on条件的知识点:多表leftjoin是会生成一张临时表。on后面:一般是对leftjoin的右表进行条件过滤,会返回左表中的所有行,而右表中没有匹配上的数据直接补为null。on后面:如果存在对左表的筛选条件,无论条件真假,仍返回左表中的所有行,只是会影响右表的匹配值。即:on中针对左表的限制条件只会影响右表的匹配内容
爱吃辣条byte
·
2024-01-28 23:11
Hive
hive
hadoop
数据仓库
数仓治理-小文件治理
注:文章参考:数据治理实践|小文件治理本文中将介绍
Hive
中小文件治理的方法和技巧,希望对大家有所帮助https://mp.weixin.qq.com/s/HDxAGhGIPvXF38wPiXZ7xg[
爱吃辣条byte
·
2024-01-28 23:40
数据治理
大数据
数据仓库
Hive
SQL题——用户连续登陆
目录一、连续登陆1.1连续登陆3天以上的用户0问题描述1数据准备2数据分析3小结1.2每个用户历史至今连续登录的最大天数0问题描述1数据准备2数据分析3小结1.3每个用户连续登录的最大天数(间断也算)0问题描述1数据准备2数据分析3小结一、连续登陆1.1连续登陆3天以上的用户0问题描述查询连续登陆3天以上的用户(字节面试题)1数据准备createtableifnotexiststable1(idi
爱吃辣条byte
·
2024-01-28 23:09
Hive
数据仓库
大数据
sql
Ubuntu官方安装微信——Ubuntu16.04/18.04/20.04/22.04
,本教程适用于Ubuntu16.04/18.04/20.04/22.04安装包下载进入微信下载官网下载微信Linux客户端点击64位下载即可,如果不能下载,使用终端如下命令wgethttp://arc
hive
.ubuntukylin.com
HIT_Vanni
·
2024-01-28 18:32
Ubunut
ubuntu
linux
运维
微信
iproute 随手记
想要学习iproute请去https://www.zsythink.net/arc
hive
s/1199讲解的非常好。
kaiyuanheshang
·
2024-01-28 17:00
Linux
iproute
win10安装mysql8免安装版
官网地址:link安装mysql解压选择Windows(x86,64-bit),ZIPArc
hive
下载,将会得
迷踪客
·
2024-01-28 17:57
环境搭建
mysql
mysql
数据库
windows
关于
hive
的迁移 之 表结构批量迁移
image.png我们在做数据治理数据仓库的时候,集群数据迁移时必不可少的一项,因为什么呢,比如1刚开始集群搭在亚马逊aws,几十万美金的创业红包用完了,差不多三四个月,2aws的小规模集群也有900TB的数据,迁移到腹黑的阿里云平台,3过几天有人来你公司搞推销,告诉你使用他们阿里云大集团账号上六折折扣,结果迁移到他们的上面,4结果过了半年阿里云开始清查,发现他们的大集团账号违规操作,收回折扣价,
Helen_Cat
·
2024-01-28 16:44
HIVE
优化场景三-合理并行控制
场景三.合理进行并行控制合理的使用并行化参数控制并行化参数有以下几个:开启任务并行执行set
hive
.exec.parallel=true;允许并行任务的最大线程数set
hive
.exec.parallel.thread.number
xuanxing123
·
2024-01-28 14:36
CUDA下载安装教程,新手详细
一、下载进入官方下载地址:https://developer.nvidia.com/cuda-toolkit-arc
hive
选择自己需要的版本。
ChangYan.
·
2024-01-28 14:57
安装问题
c++
oracle数据同步开源,阿里开源数据同步工具--DataX
:能够将MySQLsqlServerOracle
Hive
HBaseFTP之间进行稳定高效的数据同步。设计思路:网状连接-》星型连接看图:目前支持哪些数据同步?
海纳易拓
·
2024-01-28 12:09
oracle数据同步开源
mysql 同步 工具 开源_开源数据同步工具——datax
开源数据同步工具——dataxDataX是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、
Hive
、ADS、HBase、
weixin_39942572
·
2024-01-28 12:08
mysql
同步
工具
开源
Presto源码阅读——如何获取
Hive
中的Metadata(HMS+HDFS)
Presto源码阅读——如何获取
Hive
中的Metadata(HMS+HDFS)本文的Metadata定义SQLonHadoop系统在执行一个query时所需要的Metadata主要有两部分
Hive
中的
stiga-huang
·
2024-01-28 12:38
Presto
Impala-shell卡顿分析——记一次曲折的Debug经历
Impala-shell卡顿分析——记一次曲折的Debug经历问题发现最近准备在Impala中增加对UTF-8的支持,以修正跟
Hive
、Spark等基于Java的系统在UTF-8字符串上的不兼容表现(如
stiga-huang
·
2024-01-28 12:06
Impala
大数据
impala
debug
Impala元数据简介
与其它SQL-on-Hadoop的ROLAP解决方案如Presto、SparkSQL等不同的是,Impala对元数据(Metadata/Catalog)做了缓存,因此在做查询计划生成时不再依赖外部系统(如
Hive
stiga-huang
·
2024-01-28 12:05
Impala
Impala元数据缓存的生命周期
在
Hive
中建了个新表,但在Impala中不可见,如何解决?在
Hive
中建了个新的函数,
stiga-huang
·
2024-01-28 12:05
Impala
impala
Impala依赖组件的客户端源码下载
比如Impala-4.3.0依赖的CDP_BUILD_NUMBER是44206393,在bin/impala-config.sh中也列出了组件版本,如
Hive
版本是3.1.3000.7.2.18.0-273
stiga-huang
·
2024-01-28 12:04
Impala
impala
开源数据同步工具DataX
DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、
Hive
、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS
快乐江小鱼
·
2024-01-28 12:34
java
开源
java
黑猴子的家:
Hive
删除数据库
1、删除空数据库
hive
>dropdatabasedb_
hive
2;2、如果删除的数据库不存在,最好采用ifexists判断数据库是否存在
hive
>dropdatabasedb_
hive
2;FAILED
黑猴子的家
·
2024-01-28 11:12
hive
之行转列与列转行的实现
一:前言在某些场景下比如报表的产出,为了更加易于理解,往往会行列互置这样显示,又或者我们需要将某个相同键的值,所属的属性进行合并显示,这样都会用到行转列或者列转行。二:行转列如何实现使用lateralview结合explode这样的UDTF进行实现,由于explode的参数要求是list()或者array()类型,所以往往还需要用到spilt函数进行分割。以下是一个演示:selectsplit(d
愤怒的谜团
·
2024-01-28 11:02
66.管理
Hive
外部表——Sentry
66.1演示环境介绍操作系统:CentOS6.5CM和CDH版本:5.12.1采用root用户操作集群运行正常,Kerberos/HDFS/
Hive
/Impala/Hue服务已与Sentry集成,
Hive
大勇任卷舒
·
2024-01-28 11:57
浅谈
Hive
和HBase有哪些区别与联系及适用场景
在学大数据分析的过程中,
Hive
和HBase是两个非常重要的内容,对于初学者而言容易混淆。所以比较两者的联系与差别,能够帮助我们对这两个组件有一个清晰的认识和定位。
尚学先生
·
2024-01-28 11:19
Hive
SQL优化常见问题汇总
一、
hive
动态配置项
hive
.optimize.cp=true:列裁剪
hive
.optimize.prunner:分区裁剪
hive
.limit.optimize.enable=true:优化LIMITn
Luckyliboy
·
2024-01-28 09:07
hive
hive
常见问题汇总
>>>1、java.sql.SQLException:ColumnnamepatterncannotbeNULLorempty.在启动
hive
时,可能会遇到以下异常:java.sql.SQLException
weixin_34413802
·
2024-01-28 09:07
大数据
数据库
java
hive
常见问题汇总
1、
hive
的
Hive
MetaStore或者
Hive
Server2服务进程正常,但却不能提供相应服务原因:堆内存不足解决方案:在
hive
-env.sh中调整堆内存大小2、连接
hive
metastore出现
cxy1991xm
·
2024-01-28 09:37
hive
Hive
常见问题汇总
Hive
和Hadoop的关系
Hive
构建在Hadoop之上,HQL中对查询语句的解释、优化、生成查询计划是由
Hive
完成的所有的数据都是存储在Hadoop中查询计划被转化为MapReduce任务,在Hadoop
不加班程序员
·
2024-01-28 09:37
Hadoop相关
ETL
hive
hive
hadoop
数据仓库
Error creating bean with name ‘jmxMBeanExporter‘ defined in class path resource 解决方案
Errorcreatingbeanwithname‘jmxMBeanExporter’definedinclasspathresource解决方案IDEA
启动报错
:Errorcreatingbeanwithname
爱摸鱼的猫猫
·
2024-01-28 08:49
常见问题
Spark——Spark/
Hive
向量化查询执行原理分析(Vectorization Query Execution)
文章目录什么是向量化查询执行列式存储Spark向量化查询执行
Hive
向量化查询执行参考什么是向量化查询执行在标准的查询执行系统中,每次只处理一行数据,每次处理都要走过较长的代码路径和元数据解释,从而导致
Southwest-
·
2024-01-28 08:47
Spark
Spark
Hive
向量化
Spark——Spark读写MongoDB
文章目录Spark直连MongoDB1.通过SparkConf2.通过ReadConfig3.通过DataFrameReader
Hive
中创建映射表mongoexport导出文件参考如果我们要想通过Spark
Southwest-
·
2024-01-28 08:46
Spark
Spark
MongoDB
Spark——Spark读写Greenplum/Greenplum-Spark Connector高速写Greenplum
文章目录问题背景解决方式代码实现Spark写GreenplumSpark读Greenplum参考问题背景通过数据平台上的DataX把
Hive
表数据同步至Greenplum(因为DataX原生不支持GreenplumWriter
Southwest-
·
2024-01-28 08:42
Spark
spark
大数据
分布式
Hive
面试题*精选*!附答案!!!
HIVE
面试一、
Hive
的基本概念1.什么是
hive
Hive
是一款开源的基于hadoop的用于统计海量结构化数据的一个数据仓库,它定义了简单的类似SQL的查询语言,称为HQL,允许熟悉SQL的用户查询数据
yhy_only
·
2024-01-28 07:36
hive
学习
大数据
Hive
面试题
Hive
面试题1.
Hive
的架构2.
Hive
和数据库比较
Hive
和数据库除了拥有类似的查询语言,再无类似之处。1)数据存储位置
Hive
存储在HDFS。数据库将数据保存在块设备或者本地文件系统中。
肿么肥四啊哈
·
2024-01-28 07:34
hive学习笔记
大数据面试题
hive
Hive
框架的搭建和使用_第三节_
hive
建表_分区_函数
Hive
框架的搭建和使用_第三节_
hive
建表_分区_函数
hive
的相关操作分区建表函数系列化1.
hive
的内部外部表2.
hive
下的分区建表2.1单分区内部表2.2双分区内部表2.3外部表双分区2.4
下次遇见说你好
·
2024-01-28 07:34
hive
大数据
hive
数据库
Hive
之set参数大全-17
配置是否启用
Hive
Server2的Web用户界面(WebUI)中的跨源资源共享(CORS)在
Hive
中,
hive
.server2.webui.enable.cors是一个参数,用于配置是否启用
Hive
Server2
OnePandas
·
2024-01-28 07:33
Hive
hive
数据仓库
Hive
之set参数大全-18
指定在执行Spark上的动态分区裁剪时,用于评估分区数据大小的最大限制在
Hive
中,
hive
.spark.dynamic.partition.pruning.max.data.size是一个配置参数,用于指定在执行
OnePandas
·
2024-01-28 07:33
Hive
hive
数据仓库
hive
面试题总结(大数据面试)
Hive
概述
Hive
是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射成为一张数据库表,并提供类SQL的查询功能。可以将sql语句转化为MapReduce任务进行运行。
404个问号
·
2024-01-28 07:02
大数据
大数据
hive
java
Hive
3.1.3基础(续)
参考B站尚硅谷分区表和分桶表分区表
Hive
中的分区就是把一张大表的数据按照业务需要分散的存储到多个目录,每个目录就称为该表的一个分区。
魅美
·
2024-01-28 07:31
hive
hive
面试题
0.思维导图1.简述
Hive
♥♥ 我理解的,
hive
就是一款构建数据仓库的工具,它可以就结构化的数据映射为一张表,并且可以通过SQL语句进行查询分析。
韩顺平的小迷弟
·
2024-01-28 07:29
大数据面试题
hive
hadoop
数据仓库
上一页
13
14
15
16
17
18
19
20
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他