hive数据倾斜

《PySpark大数据分析实战》-24.数据可视化图表介绍

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2024-01-05 13:02

大数据开发个人简历范本（2024最新版-附模板）

大数据运维工程师背景，熟悉相关技术和工具具备良好的团队合作能力，善于沟通和协作具有快速学习新知识和解决问题的能力对于数据科学和分析充满热情，喜欢研究和探索新技术专业技能大数据熟悉Hadoop、Spark、Hive
itLeeyw·2024-01-05 13:53

Spark调优解析-spark数据倾斜优化2（七）

1数据倾斜优化1.1为何要处理数据倾斜（DataSkew）什么是数据倾斜对Spark/Hadoop这样的大数据系统来讲，数据量大并不可怕，可怕的是数据倾斜。何谓数据倾斜？
有语忆语·2024-01-05 12:53

Spark调优解析-sparkshuffle和程序开发优化2(七)

但是也必须提醒大家的是，影响一个Spark作业性能的因素，主要还是代码开发、资源参数以及数据倾斜，shuffle调优只能在整个Spark的性能调优中占到一小部分而已。因此
有语忆语·2024-01-05 12:49

oracle增量恢复解决备库GAP问题

RollingforwardastandbydatabaseusingRMANIncrementalBackup.模拟归档丢失的情况一主库操作：查看当前归档停用归档传输altersystemsetlog_archive_dest_state
ZzzkiYoumi·2024-01-05 12:28

weblogic中间件安装

1.下载jdkJavaArchiveDownloads-JavaSE6下载jdk-6u45-linux-x64.bin2.配置防火墙和SELINUXRedhat7操作系统配置防火墙，开放应用端口，例如7001
ZzzkiYoumi·2024-01-05 12:24

ubuntu安装xinetd服务报错 invoke-rc.d: policy-rc.d denied execution of restart解决

1、下载xinetd安装包wgethttp://archive.ubuntu.com/ubuntu/pool/universe/x/xinetd/xinetd_2.3.15.3-1_amd64.debwgethttp
cjz0422·2024-01-05 12:19

hive之Map Join使用方法

目录介绍mapjoin的使用方法结语介绍MAPJION会把小表全部加载到内存中，在map阶段直接拿另外一个表的数据和内存中表数据做匹配，由于在map端是进行了join操作，省去了reduce运行的时间，算是hive
IMezZ·2024-01-05 10:42

【Spark精讲】Spark on Hive性能优化

目录第一章1.1集群配置概述1.2集群规划概述第二章Yarn配置2.1Yarn配置说明yarn.nodemanager.resource.memory-mbyarn.nodemanager.resource.cpu-vcoresyarn.scheduler.maximum-allocation-mbyarn.scheduler.minimum-allocation-mb第三章Spark的配置说明3
话数Science·2024-01-05 10:10

启动hive报错org.datanucleus.exceptions.NucleusException:Error creating transactional connecCtion factory

一、问题描述安装完hive后，在启动时报错：org.datanucleus.exceptions.NucleusException:ErrorcreatingtransactionalconnecCtionfactory
哇咔咔哇咔·2024-01-05 09:54

如何下载R语言的最新版本和旧版本

R语言官网地址：R:TheRProjectforStatisticalComputing(r-project.org)国内清华镜像：TheComprehensiveRArchiveNetwork(tsinghua.edu.cn
哇咔咔哇咔·2024-01-05 09:23

No suitable application records were found. Verify your bundle identifier 'XXXXXXXXXX' is correct.

问题描述今天在向AppStoreConnect提交新构建的app时，Archive-DistributeApp后，显示“Nosuitableapplicationrecordswerefound.Verifyyourbundleidentifier'XXXXX'iscorrect
NapoleonY·2024-01-05 08:56

Hive11_Rank函数

Rank1）函数说明RANK()排序相同时会重复，总数不会变DENSE_RANK()排序相同时会重复，总数会减少ROW_NUMBER()会根据顺序计算2）数据准备3）需求计算每门学科成绩排名。4）创建本地score.txt，导入数据[root@localhostdatas]$viscore.txt孙悟空语文87孙悟空数学95孙悟空英语68大海语文94大海数学56大海英语84宋宋语文64宋宋数学86
程序喵猴·2024-01-05 08:44

Hive10_窗口函数

窗口函数（开窗函数）1相关函数说明普通的聚合函数聚合的行集是组,开窗函数聚合的行集是窗口。因此,普通的聚合函数每组(Groupby)只返回一个值，而开窗函数则可为窗口中的每行都返回一个值。简单理解，就是对查询的结果多出一列，这一列可以是聚合值，也可以是排序值。开窗函数一般分为两类,聚合开窗函数和排序开窗函数。OVER()：指定分析函数工作的数据窗口大小，这个数据窗口大小可能会随着行的变而变CURR
程序喵猴·2024-01-05 08:13

Hive实战处理（二十三）hive整合phoenix

背景：业务表使用hbase存储,使用hive整合phoenix，使用sql语句进行数据查询（如果可以的话使用网关API对外提供服务）统一接口调用，查询上线比较高效。
sheep8521·2024-01-05 08:13

datax不支持对hive hdfs(ha)高可用 的hdfsreader（即无法读取到HDFS多节点高可用）.

处理方案：采用引入CDH的hive、hdfs等配置文件到hdfsreader,jar替换原的jar文件解决。
whbi·2024-01-05 08:06

hive问题记录

expected.at[row,col,system-id]:[48,15,"file:/opt/cloudera/parcels/CDH-6.3.2-1.cdh6.3.2.p0.1605554/etc/hive
李小晨同学·2024-01-05 08:02

【Spark精讲】性能优化：并行度

端并行度RDD：参数：spark.default.parallelism手动：groupByKey(10)，10即为并行度SparkSQL：参数：spark.sql.shuffle.partitionsHiveonSpark
话数Science·2024-01-05 07:58

Mac上安装MySQL

MySQL官网上http://dev.mysql.com/downloads/mysql/，下载mysql可安装dmg版本以5.7.14为例：MacOSX10.11(x86,64-bit),DMGArchive
喜叔z·2024-01-05 05:24

HBase 和 Hive 的差别是什么，各自适用在什么场景中？

转载自（爱我的程序人生）Hbase和Hive在大数据架构中处在不同位置，Hbase主要解决实时数据查询问题，Hive主要解决数据处理和计算问题，一般是配合使用。
杰在天涯·2024-01-05 05:23

ekho环境Linux通过Docker安装

第一步下载ekho-master源码https://github.com/hgneng/ekho/archive/master.zip第二步创建DockerFile#使用Ubuntu作为基础镜像FROMubuntu
月慕向阳·2024-01-05 02:52

黑猴子的家：Hive查询之排序

全局排序（OrderBy）1）使用ORDERBY子句排序ASC（ascend）:升序（默认）DESC（descend）:降序2）ORDERBY子句在SELECT语句的结尾案例查询员工信息按工资升序排列hive
黑猴子的家·2024-01-05 02:23

访问 JetPack 存档

存档：https://developer.nvidia.cn/zh-cn/embedded/jetpackhttps://developer.nvidia.cn/embedded/jetpack-archiveSDKManager
南沙的星星·2024-01-05 02:33

impala + kudu | 大数据实时计算踩坑优化指南

一开始需要全量导入kudu，这时候我们先用sqoop把关系数据库数据导入临时表，再用impala从临时表导入kudu目标表由于sqoop从关系型数据直接以parquet格式导入hive会有问题，这里默认
王知无(import_bigdata)·2024-01-04 23:41

拒绝纸张浪费，Paperless-ngx开源文档管理系统将纸质版转换成可搜索的电子版档案

GitHub-paperless-ngx/paperless-ngx:Acommunity-supportedsuperchargedversionofpaperless:scan,indexandarchiveallyourphysicaldocuments
喜好儿aigc·2024-01-04 22:59

Hive基本使用（2）

hiveDML数据操作一、数据导入1.向表中装载数据（Load）语法：hive>loaddata[local]inpath‘数据的path’[overwrite]intotablestudent[partition
DIY……·2024-01-04 22:42

hive常用的函数

一、概述1.查看系统自带的函数showfunctions;hive(dyhtest)>showfunctions;OKtab_name!!
DIY……·2024-01-04 22:42

hive优化

一、执行计划（Explain）基本语法EXPLAIN[EXTENDED|DEPENDENCY|AUTHORIZATION]querydemo:hive(dyhtest)>explainselect*fromemp
DIY……·2024-01-04 22:42

Hive基本使用（1）

这里写目录标题#HiveDDL数据定义1.显示数据库2.创建数据库3.查看数据库详情4.修改数据库5.删除数据库6.建表#HiveDDL数据定义1.显示数据库hive(dyhtest)>showdatabases
DIY……·2024-01-04 22:12

mysql之四大引擎、账号管理以及建库

目录一、数据库存储引擎1.1存储引擎查看1.2四大引擎1.2.1InnoDB1.2.2MyISAM1.2.3MEMORY1.2.4Aichive二、数据库管理2.1元数据库简介2.2元数据库分类2.2.1information_schema2.2.2mysql2.2.3performance_schema2.3
小黎同学.·2024-01-04 20:17

Redis在Window服务下的安装

Redis安装1.首先在Windows下下载安装Redis下载地址：https://github.com/MicrosoftArchive/redis/releases图片.png根据你电脑系统的实际情况选择
KavinDotG·2024-01-04 18:43

MySQL之四大引擎、账号管理以及建库

目录数据库存储引擎简介存储引擎得查看support字段说明InnoDBMyISAMMEMORYArchive数据库管理元数据库简介元数据库分类相关操作MySQL库数据表管理三大范式基本数据类型优化原则整形实数字符串
懒大王o·2024-01-04 17:16

Linux第3步_安装Ubuntu操作系统

等几秒钟，得到下面的界面：4、点击“CD/DVD”，得到下图：5、选择“使用ISO映像文件(M)”，见下图：6、点击“浏览”，选择“ubuntu-18.04.5-desktop-amd64.isoArchive
LaoZhangGong123·2024-01-04 16:49

漏洞环境搭建（利用ubuntu）

dockercurl-shttps://get.docker.com/|sh运行docker服务systemctlstartdocker3.下载项目​wgethttps://github.com/vulhub/vulhub/archive
金灰·2024-01-04 16:16

（十一）数据分片(Sharding)和数据分区(PARTITIONing)简述

虽然可能跟其它的例如HBase、Hive之类的比有些差异和不足，但并不影响壮志。
紫狐挽诗·2024-01-04 14:36

Hudi介绍

记录每一次操作类型、状态及详细的元数据，这些Instant最终都会存到.hoodie元数据目录下，为了避免元数据文件数量过多，ActiveTimeline越来越长，需要对比较久远的操作进行归档（archive
实时即未来·2024-01-04 11:38

Lua中使用List

Postedon2008-10-2611:06剑孤寒http://groups.google.com/group/jianguhanhttp://www.cppblog.com/jianguhan/archive
cwq水域·2024-01-04 11:01

Flume基础知识（四）：Flume实战之实时监控单个追加文件

1）案例需求：实时监控Hive日志，并上传到HDFS中2）需求分析：3）实现步骤：（1）Flume要想将数据输出到HDFS，依赖Hadoop相关jar包检查/etc/profile.d/my_env.sh
依晴无旧·2024-01-04 10:08

学习MySQL(5.7)第二战：四大引擎、账号管理以及建库（干货满满）

目录前言：一.数据库存储引擎1.存储引擎简介存储引擎查看support字段说明2.四大引擎详细介绍InnoDBMylSAMMEMORYArchive二.数据库管理1.元数据库简介2.元数据库分类infomation_schemamysqlperformance_schema
默o。·2024-01-04 10:16

Java技术栈 —— Hadoop入门（一）

Hadoop三、Hadoop解析3.1Hadoop生态介绍3.1.1MapReduce-核心组件3.1.2HDFS-核心组件3.1.3YARN-核心组件3.1.4其它组件3.1.4.1HBase3.1.4.2Hive3.1.4.3Spark
键盘国治理专家·2024-01-04 08:02

【hive】报错累积

6.1创建新表错误1：FAILED:SemanticException[Error10006]:Line1:63Partitionnotfound'"20210919"'场景：在创建例行表时，报错。这种情况是先创建了多级分区表（date，product），在落表跑数时只指定了一个分区（date）解决：修改分区字段，与已有表里保持一致；或者删掉已有表，重新落表错误2：FAILED:SemanticE
零壹贰伍·2024-01-04 08:59

Hive中用户自定义函数UDF UDTF UDAF

概述Hive自带了一些函数，比如：max/min等，但是数量有限，当Hive提供的内置函数无法满足你的业务处理需要时，此时就可以考虑使用用户自定义函数（UDF：user-definedfunction）
17245·2024-01-04 08:29

HIVE自定义函数--UDF函数（用户自定义函数）详解

虽然HIVE当中的函数功能很强大，但是有的时候我们需要自定义函数，今天我们介绍一个最简单的函数，UDF函数.当Hive提供的内置函数无法满足你的业务处理需要时，此时就可以考虑使用用户自定义函数（UDF：
一只懒得睁眼的猫·2024-01-04 08:27

Hive用户自定义函数之UDF开发

在进行大数据分析或者开发的时候，难免用到Hive进行数据查询分析，Hive内置很多函数，但是会有一部分需求需要自己开发，这个时候就需要自定义函数了，Hive的自定义函数开发非常方便，今天首先讲一下UDF
枫叶梨花·2024-01-04 08:56

MySQL之四大引擎、建库建表以及账号管理

目录一.数据库存储引擎1.1存储引擎查看1.2InnoDB1.3MyISAM1.4MEMORY1.5ARCHIVE二.数据库管理2.1元数据库简介2.2元数据库分类2.3数据库的增删改查及使用：2.4MySQL
廖彩雲·2024-01-04 08:26

IoTDB 集群部署——windows

本文的测试环境为windowserver2016，版本包为1.1.0，jdk版本为1.8首先下载IoTDB版本包，链接地址如下https://archive.apache.org/dist/iotdb/
zhu1361·2024-01-04 07:54

利用python将excel文件转成txt文件，再将txt文件上传hdfs，最后传入hive中

将excel文件转成txt文件，再将txt文件上传hdfs，最后传入hive中1.利用python将excel转成txt文件#!
m0_37759590·2024-01-04 06:03

对比Pig、Hive和SQL，浅看大数据工具之间的差异

本文，DeZyre公司专家ManishaNandyMazumder对比了Pig、Hive和SQL的区别，并为读者浅谈了一些选择标准。
MayerBin·2024-01-04 06:09

【数据库】MySQL数据库存储引擎、数据库管理和数据库账号管理

【数据库】MySQL数据库存储引擎、数据库管理和数据库账号管理一常用的数据引擎1.1InnoDB存储引擎1.2MyISAM存储引擎1.3Memory存储引擎1.4ARCHIVE存储引擎二数据库管理2.1
匿瘾:·2024-01-04 06:19

hiveSQL基本语句三-----连接查询--inner join、left join、full join、union all、union

一、(inner)join连接2个表，取出公共部分必须重命名on后连接条件键值唯一连接前注意去重，提高效率inner可省略select*fromuser_list_1asainnerjoinuser_list_2asbona.user_id=b.user_id;三表连接selecta.user_namefrom(selectdistinctuser_namefromdata1)asainnerjo
cc抱富·2024-01-04 04:42
上一页 29 30 31 32 33 34 35 36 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他