HIVE数据倾斜

数据湖技术之应用场景篇

比如说在线数据抽取场景原有模式对线上库表产生较大压力，flink多流join维护的大状态导致的稳定性问题等等，具体场景如下图所示：场景1:在线数据抽取业务一般会从线上mysql库表以离线方式抽取全量数据到hive
风筝Lee·2024-01-29 16:04

Chromium源码分析：ContentShell启动流程

http://mogoweb.net/archives/417ContentShell是基于ContentAPI的一个简单的浏览器外壳，下面我将分析chromiumforandroid中的ContentShell
dzhjsofo·2024-01-29 15:28

root + vm vh 实现响应式字体

原文链接==>http://sylblog.xin/archives/52前言一个网页中最多的东西是啥?正常人的第一反映肯定是文字，你要是跟我说是图片，那我只能表示：响应式网页设计中
程序员半夏·2024-01-29 13:36

Hive HWI 配置

前言1、下载安装好hive后，发现hive有hwi界面功能，研究下是否可以运行，于是使用hive–servicehwi命令启动hwi界面报错。
chde2Wang·2024-01-29 11:55

基于大数据平台的kylin安装部署手册

单例Kylin部署1.环境准备1.1软件要求1.2硬件要求1.3Hadoop环境1.4安装前环境检查1.4.1开启时钟同步1.4.2安装net-tools1.4.3检查hbase是否可用1.4.4检查hive
猿来孺词·2024-01-29 10:26

Sqoop使用详解

目录1.概述2.codegen3.create-hive-table4.eval5.export6.import7.import-all-tables8.job9.list-databases10.list-tables11
猿来孺词·2024-01-29 10:26

Sqoop实用linux脚本

1、通用脚本1.1、Sqoop导入DATADB数据到HIVEsqoop_load_data.sh#!
猿来孺词·2024-01-29 10:26

Linux一条命令换阿里源

Debian/Ubuntu系统：sudocp/etc/apt/sources.list/etc/apt/sources.list.backup#备份原始源列表sudosed-i's/http:\/\/archive.ubuntu.com
吻等离子·2024-01-29 09:00

Hive-DML

Load在将数据加载到表中时，Hive不会进行任何转换。加载操作是将数据文件移动到与Hive表对应的位置的纯复制或移动操作。
KevinDu_134d·2024-01-29 09:20

bert预训练模型下载

查看bert模型所支持的预训练模型有哪些fromtransformersimportBERT_PRETRAINED_MODEL_ARCHIVE_LISTprint(BERT_PRETRAINED_MODEL_ARCHIVE_LIST
木下瞳·2024-01-29 08:13

Hive 报错 Invalid column reference 列名

两张表当我执行selectm.movieid,m.moviename,substr(m.moviename,-5,4)asyears,avg(r.rate)asavgScoreFROMt_movieasmjoint_ratingasronm.movieid=r.movieidGROUPbym.movieidHAVINGavgScore>=4;报错：Invalidcolumnreference'mo
木下瞳·2024-01-29 08:43

java jdk8和jdk17同时存在【环境配置】

1、先进行环境下载：jdk8:https://www.oracle.com/cn/java/technologies/javase/javase8u211-later-archive-downloads.htmljdk17
你小子在看什么……·2024-01-29 08:22

ubuntu18.04安装paddlepaddle开发环境

//www.jianshu.com/p/e70436c3b0072.安装CUDA下载选择系统信息：https://developer.nvidia.com/cuda-10.0-download-archive
奋斗_登·2024-01-29 07:24

Hadoop, HIve, Spark关系简述

Hive：在Had
小白兔奶糖ovo·2024-01-29 07:22

【cdh】hive执行SQL提示缺少3.0.0-cdh6.3.2-mr-framework.tar.gz文件

问题：执行SQL报错提示缺少文件异常信息如下在hdfs上查看的时候连文件夹都没有，所以这个异常会抛出，但是我是基于CDH搭建的，可以直接基于下面操作执行完成之后查看HDFS文件重新执行SQL发现可以正常执行了
谷新龙001·2024-01-29 07:46

记一次Flink自带jar包与第三方jar包依赖冲突解决

flink版本1.14.5hadoop2.6.0为了实现flink读取hive数据写入第三方的数据库，写入数据库需要调用数据库的SDK，当前SDK依赖的protobuf-java-3.11.0.jar，
一枚小刺猬·2024-01-29 06:10

Hive之set参数大全-19

指定用于计算列的唯一值数（NDV，即基数）的算法在Hive中，hive.stats.ndv.algo是一个配置参数，用于指定用于计算列的唯一值数（NDV，即基数）的算法。
OnePandas·2024-01-29 06:39

Hive之set参数大全-20

指定在执行大表半连接操作时的最小表大小，以决定是否启用半连接操作的优化在Hive中，hive.tez.bigtable.minsize.semijoin.reduction是一个配置参数，用于指定在执行大表半连接操作时的最小表大小
OnePandas·2024-01-29 06:03

Hive(HiveServer2 & Beeline)

hive有两种方式写SQL；方式一：bin/hive是hive的shell客户端，可直接写sql方式二：bin/hive--servicehiveserver2后台执行脚本：nohupbin/hive-
%HelloWorld%·2024-01-29 03:41

Hive初体验

首先，确保启动了Metastore服务{runjar就是metastore；hadoop要先启动}可以执行：bin/hive进入到HiveShell环境中，可以直接执行SQL的语句；·创建表（hive里面的字符串就是
%HelloWorld%·2024-01-29 03:09

spark shuffle

判断数据倾斜的时候，可以根据spark的UI界面来判断各个Task的shufflewrite的记录的多少，这样来进行判断shuffle的过程之中是否产生了数
流砂月歌·2024-01-29 01:13

Hive中left join 中的where 和 on的区别

目录一、知识点二、测试验证三、引申一、知识点leftjoin中关于where和on条件的知识点：多表leftjoin是会生成一张临时表。on后面：一般是对leftjoin的右表进行条件过滤，会返回左表中的所有行，而右表中没有匹配上的数据直接补为null。on后面：如果存在对左表的筛选条件，无论条件真假，仍返回左表中的所有行，只是会影响右表的匹配值。即：on中针对左表的限制条件只会影响右表的匹配内容
爱吃辣条byte·2024-01-28 23:11

数仓治理-小文件治理

注：文章参考:数据治理实践|小文件治理本文中将介绍Hive中小文件治理的方法和技巧，希望对大家有所帮助https://mp.weixin.qq.com/s/HDxAGhGIPvXF38wPiXZ7xg[
爱吃辣条byte·2024-01-28 23:40

HiveSQL题——用户连续登陆

目录一、连续登陆1.1连续登陆3天以上的用户0问题描述1数据准备2数据分析3小结1.2每个用户历史至今连续登录的最大天数0问题描述1数据准备2数据分析3小结1.3每个用户连续登录的最大天数(间断也算)0问题描述1数据准备2数据分析3小结一、连续登陆1.1连续登陆3天以上的用户0问题描述查询连续登陆3天以上的用户（字节面试题）1数据准备createtableifnotexiststable1(idi
爱吃辣条byte·2024-01-28 23:09

Ubuntu官方安装微信——Ubuntu16.04/18.04/20.04/22.04

，本教程适用于Ubuntu16.04/18.04/20.04/22.04安装包下载进入微信下载官网下载微信Linux客户端点击64位下载即可，如果不能下载，使用终端如下命令wgethttp://archive.ubuntukylin.com
HIT_Vanni·2024-01-28 18:32

iproute 随手记

想要学习iproute请去https://www.zsythink.net/archives/1199讲解的非常好。
kaiyuanheshang·2024-01-28 17:00

win10安装mysql8免安装版

官网地址:link安装mysql解压选择Windows(x86,64-bit),ZIPArchive下载，将会得
迷踪客·2024-01-28 17:57

关于hive 的迁移 之 表结构批量迁移

image.png我们在做数据治理数据仓库的时候，集群数据迁移时必不可少的一项，因为什么呢，比如1刚开始集群搭在亚马逊aws，几十万美金的创业红包用完了，差不多三四个月，2aws的小规模集群也有900TB的数据，迁移到腹黑的阿里云平台，3过几天有人来你公司搞推销，告诉你使用他们阿里云大集团账号上六折折扣，结果迁移到他们的上面，4结果过了半年阿里云开始清查，发现他们的大集团账号违规操作，收回折扣价，
Helen_Cat·2024-01-28 16:44

HIVE优化场景三-合理并行控制

场景三.合理进行并行控制合理的使用并行化参数控制并行化参数有以下几个：开启任务并行执行sethive.exec.parallel=true;允许并行任务的最大线程数sethive.exec.parallel.thread.number
xuanxing123·2024-01-28 14:36

CUDA下载安装教程，新手详细

一、下载进入官方下载地址：https://developer.nvidia.com/cuda-toolkit-archive选择自己需要的版本。
ChangYan.·2024-01-28 14:57

oracle数据同步开源,阿里开源数据同步工具--DataX

：能够将MySQLsqlServerOracleHiveHBaseFTP之间进行稳定高效的数据同步。设计思路：网状连接-》星型连接看图：目前支持哪些数据同步？
海纳易拓·2024-01-28 12:09

mysql 同步 工具 开源_开源数据同步工具——datax

开源数据同步工具——dataxDataX是阿里巴巴集团内被广泛使用的离线数据同步工具/平台，实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、
weixin_39942572·2024-01-28 12:08

Presto源码阅读——如何获取Hive中的Metadata(HMS+HDFS)

Presto源码阅读——如何获取Hive中的Metadata(HMS+HDFS)本文的Metadata定义SQLonHadoop系统在执行一个query时所需要的Metadata主要有两部分Hive中的
stiga-huang·2024-01-28 12:38

Impala-shell卡顿分析——记一次曲折的Debug经历

Impala-shell卡顿分析——记一次曲折的Debug经历问题发现最近准备在Impala中增加对UTF-8的支持，以修正跟Hive、Spark等基于Java的系统在UTF-8字符串上的不兼容表现（如
stiga-huang·2024-01-28 12:06

Impala元数据简介

与其它SQL-on-Hadoop的ROLAP解决方案如Presto、SparkSQL等不同的是，Impala对元数据（Metadata/Catalog）做了缓存，因此在做查询计划生成时不再依赖外部系统（如Hive
stiga-huang·2024-01-28 12:05

Impala元数据缓存的生命周期

在Hive中建了个新表，但在Impala中不可见，如何解决？在Hive中建了个新的函数，
stiga-huang·2024-01-28 12:05

Impala依赖组件的客户端源码下载

比如Impala-4.3.0依赖的CDP_BUILD_NUMBER是44206393，在bin/impala-config.sh中也列出了组件版本，如Hive版本是3.1.3000.7.2.18.0-273
stiga-huang·2024-01-28 12:04

开源数据同步工具DataX

DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS
快乐江小鱼·2024-01-28 12:34

黑猴子的家：Hive 删除数据库

1、删除空数据库hive>dropdatabasedb_hive2;2、如果删除的数据库不存在，最好采用ifexists判断数据库是否存在hive>dropdatabasedb_hive2;FAILED
黑猴子的家·2024-01-28 11:12

hive之行转列与列转行的实现

一：前言在某些场景下比如报表的产出，为了更加易于理解，往往会行列互置这样显示，又或者我们需要将某个相同键的值，所属的属性进行合并显示，这样都会用到行转列或者列转行。二：行转列如何实现使用lateralview结合explode这样的UDTF进行实现，由于explode的参数要求是list()或者array()类型，所以往往还需要用到spilt函数进行分割。以下是一个演示：selectsplit(d
愤怒的谜团·2024-01-28 11:02

66.管理Hive外部表——Sentry

66.1演示环境介绍操作系统：CentOS6.5CM和CDH版本：5.12.1采用root用户操作集群运行正常，Kerberos/HDFS/Hive/Impala/Hue服务已与Sentry集成，Hive
大勇任卷舒·2024-01-28 11:57

浅谈Hive和HBase有哪些区别与联系及适用场景

在学大数据分析的过程中，Hive和HBase是两个非常重要的内容，对于初学者而言容易混淆。所以比较两者的联系与差别，能够帮助我们对这两个组件有一个清晰的认识和定位。
尚学先生·2024-01-28 11:19

Hive SQL优化常见问题汇总

一、hive动态配置项hive.optimize.cp=true：列裁剪hive.optimize.prunner：分区裁剪hive.limit.optimize.enable=true：优化LIMITn
Luckyliboy·2024-01-28 09:07

hive常见问题汇总

>>>1、java.sql.SQLException:ColumnnamepatterncannotbeNULLorempty.在启动hive时，可能会遇到以下异常：java.sql.SQLException
weixin_34413802·2024-01-28 09:07

hive 常见问题汇总

1、hive的HiveMetaStore或者HiveServer2服务进程正常，但却不能提供相应服务原因：堆内存不足解决方案：在hive-env.sh中调整堆内存大小2、连接hivemetastore出现
cxy1991xm·2024-01-28 09:37

Hive常见问题汇总

Hive和Hadoop的关系Hive构建在Hadoop之上，HQL中对查询语句的解释、优化、生成查询计划是由Hive完成的所有的数据都是存储在Hadoop中查询计划被转化为MapReduce任务，在Hadoop
不加班程序员·2024-01-28 09:37

Spark——Spark/Hive向量化查询执行原理分析（Vectorization Query Execution）

文章目录什么是向量化查询执行列式存储Spark向量化查询执行Hive向量化查询执行参考什么是向量化查询执行在标准的查询执行系统中，每次只处理一行数据，每次处理都要走过较长的代码路径和元数据解释，从而导致
Southwest-·2024-01-28 08:47

Spark——Spark读写MongoDB

文章目录Spark直连MongoDB1.通过SparkConf2.通过ReadConfig3.通过DataFrameReaderHive中创建映射表mongoexport导出文件参考如果我们要想通过Spark
Southwest-·2024-01-28 08:46

Spark——Spark读写Greenplum/Greenplum-Spark Connector高速写Greenplum

文章目录问题背景解决方式代码实现Spark写GreenplumSpark读Greenplum参考问题背景通过数据平台上的DataX把Hive表数据同步至Greenplum（因为DataX原生不支持GreenplumWriter
Southwest-·2024-01-28 08:42

Hive面试题*精选*！附答案！！！

HIVE面试一、Hive的基本概念1.什么是hiveHive是一款开源的基于hadoop的用于统计海量结构化数据的一个数据仓库，它定义了简单的类似SQL的查询语言，称为HQL，允许熟悉SQL的用户查询数据
yhy_only·2024-01-28 07:36
上一页 12 13 14 15 16 17 18 19 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他