hive数据倾斜

Hadoop基础学习十一（hive语法）

文章目录1.map阶段2.reduce阶段3.where2.join3.groupby4.orderby5.sortby6.if（判断条件，成立的返回值，否则的返回值）7.casewhenxxthenyyelsezzend8、函数1）split2）concat_ws3）datediff4）concat5）向下取整函数floor6）日期增加函数date_add7）类型转换函数cast8）explod
一只小呆呆·2023-12-24 23:55

学习笔记Hive（一）—— Hive简介

一、Hive设计思想（了解）Facebook用户社交数据存储与处理Facebook是美国的一个社交网站，于2004年2月4日上线。主要创始人为美国人马克·扎克伯格。
别呀·2023-12-24 23:55

【Hive笔记】1——Hive入门

1.什么是Hivehive是由Facebook开源用于解决海量结构化日志的数据统计Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张表，并提供sql查询功能。
sdut菜鸟·2023-12-24 23:55

Hadoop学习笔记（17）Hive的数据类型和文件编码

一、Hive的常用内部命令1、有好几种方式可以与Hive进行交互。此处主要是命令行界面（CLI）。
柏冉看世界·2023-12-24 23:24

Hive学习笔记 —— Hive的数据类型

Hive本质上是一个数据库，可以创建表，表有列组成，而列支持的主要类型有：基本数据类型、复杂数据类型、时间数据类型。
慢行慢行·2023-12-24 23:24

大数据从入门到精通(超详细版)之Hive的分区表，带你理解Hive当中的高阶玩法！！！

前言嗨，各位小伙伴，恭喜大家学习到这里，不知道关于大数据前面的知识遗忘程度怎么样了，又或者是对大数据后面的知识是否感兴趣，本文是《大数据从入门到精通（超详细版）》的一部分，小伙伴们如果对此感谢兴趣的话，推荐大家按照大数据学习路径开始学习哦。以下就是完整的学习路径哦。↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓↓大数据从入门到精通文章体系！！！！！！！！！！！！！！↑↑↑↑↑↑↑↑↑↑
木 木 水.·2023-12-24 23:52

Flink优化——数据倾斜（二）

目录数据倾斜判断是否存在数据倾斜数据倾斜的解决KeyBy之前发生数据倾斜KeyBy之后发生的数据倾斜聚合操作存在数据倾斜窗口聚合操作存在数据倾斜数据倾斜判断是否存在数据倾斜相同Task的多个Subtask
Stray_Lambs·2023-12-24 22:54

hive tez出现java堆内存溢出进行调优

运行hive任务的时候出现了错误，日志如下：ERROR:FAILED:ExecutionError,returncode2fromorg.apache.hadoop.hive.ql.exec.tez.TezTask.Vertexfailed
旺旺_865f·2023-12-24 17:36

Start kafka connect

启动kafkabroker先下载从官网下载kafkaconsole包，wget"https://archive.apache.org/dist/kafka/0.11.0.1/kafka_2.12-0.11.0.1
yehongyu_2018·2023-12-24 17:50

【Hive_04】分区分桶表以及文件格式

1.1分区表基本语法（1）创建分区表（2）分区表读写数据（3）分区表基本操作1.2二级分区1.3动态分区2、分桶表2.1分桶表的基本语法2.2分桶排序表3、文件格式与压缩3.1Hadoop压缩概述3.2Hive
温欣2030·2023-12-24 16:41

十八、本地配置Hive

1、配置MYSQLmysql>alteruser'root'@'localhost'identifiedby'Yang3135989009';QueryOK,0rowsaffected(0.00sec)mysql>grantallon*.*to'root'@'%';QueryOK,0rowsaffected(0.00sec)mysql>flushprivileges;QueryOK,0rowsaf
弦之森·2023-12-24 16:40

控制map个数与性能调优参数

本文转自：涤生手记本系列几章系统地介绍了开发中Hive常见的用户配置属性（有时称为参数，变量或选项），并说明了哪些版本引入了哪些属性，常见有哪些属性的使用，哪些属性可以进行Hive调优，以及如何使用的问题
xuanxing123·2023-12-24 13:13

Hive分区表简介

Hive中的分区表分为两种：静态分区和动态分区。1.静态分区:可以根据PARTITIONEDBY创建分区表，一个表可以拥有一个或者多个分区，每个分区以文件夹的形式单独存在表文件夹的目录下。
K_un·2023-12-24 12:39

Hive优化(十三)-小文件进行合并

小文件进行合并在Map执行前合并小文件，减少Map数：CombineHiveInputFormat具有对小文件进行合并的功能（系统默认的格式）。HiveInputFormat没有对小文件合并功能。
bigdata张凯翔·2023-12-24 12:08

基于Hue，Dolphinscheduler，HIVE分析数据仓库层级实现及项目需求案例实践分析

目录一、数仓各个层级及作用1，ODS层（OperationDataStore-源数据层）2，DW层（DataWarehouse-数据仓库层）(1)DWD(DataWarehouseDetail-明细数据层)(2)DWM(DataWarehouseMiddle-明细数据层)(3)DWS(DataWarehouseService服务数据层)3，ADS层（ApplicationDataStore-数据应
Len°·2023-12-24 11:32

《PySpark大数据分析实战》-04.了解Spark

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2023-12-24 10:32

《PySpark大数据分析实战》-06.安装环境准备

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2023-12-24 10:32

《PySpark大数据分析实战》-17.云服务模式Databricks介绍运行作业

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2023-12-24 10:32

《PySpark大数据分析实战》-02.了解Hadoop

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2023-12-24 10:02

《PySpark大数据分析实战》-01.关于数据

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2023-12-24 10:01

《PySpark大数据分析实战》-18.什么是数据分析

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2023-12-24 10:01

Hive学习笔记（二）—— Hive的安装

文章目录Hive安装2.1Hive安装地址2.2Hive安装部署2.3将本地文件导入Hive案例2.4MySql安装2.4.1安装包准备2.4.2安装MySql服务器2.4.3安装MySql客户端2.4.4MySql
Alienware^·2023-12-24 08:53

在虚拟机中执行Hive命令该如何操作呢？

前言前段时间在学习hive,之前是通过hue进行编程的，但是由于设备问题，网络连接不顺畅，使用感很不好，又不想再安装客户端了，于是学习了一下怎么在虚拟机中执行hive命令并作了简单的记录。
纪筱白·2023-12-24 08:53

Hadoop+Hive学习笔记-4

Hadoop集群搭建配置三台虚拟机之间的免密登录1切换到root用户：crontab-e在第一行写入：*/5****/usr/sbin/ntpdatentp1.aliyun.com三台机器都一同操作，这一步让三台机器的时间服务器一致2关闭selinux：vim/etc/selinux/configvim编辑器打开文件，把里面的SELINUX值修改为disabled这一步是关闭selinuxseli
fwings260·2023-12-24 08:22

hadoop学习笔记(五)Hive安装部署

Hive安装部署Hive安装及配置配置已经完成,在此处启动hadoop集群Hive常用命令将本地文件导入Hive案例安装MySqlHive元数据配置到MySqlHive安装及配置下载地址:https:/
So.j·2023-12-24 08:22

hive企业级调优策略之CBO,谓词下推等优化

测试所用到的数据参考：原文链接：https://blog.csdn.net/m0_52606060/article/details/135080511本教程的计算环境为HiveonMR。
Appreciate(欣赏)·2023-12-24 07:26

FaceBook Redex使用总结

Redex踩坑全集第一步安装Redex安装以下前置条件sudoapt-getinstall\g++\automake\autoconf\autoconf-archive\libtool\libboost-all-dev
topone37·2023-12-24 07:52

SpringBoot 3 集成Hive 3

*+Hive3.
在奋斗的大道·2023-12-24 07:46

Hadoop入门学习笔记——六、连接到Hive

pwd=5ay8Hadoop入门学习笔记（汇总）目录六、连接到Hive6.1.使用Hive的Shell客户端6.2.使用Beeline客户端连接HiveServer2操作Hive6.3.使用
faith瑞诚·2023-12-24 07:10

Hadoop入门学习笔记——五、在虚拟机中部署Hive

pwd=5ay8Hadoop入门学习笔记（汇总）目录五、在虚拟机中部署Hive5.1.在node1虚拟机安装MySQL5.2.配置Hadoop5.3.下载并加压Hive5.4.下载MySQL
faith瑞诚·2023-12-24 07:09

Hadoop入门学习笔记——七、Hive语法

pwd=5ay8Hadoop入门学习笔记（汇总）目录七、Hive语法7.1.数据库相关操作7.1.1.创建数据库7.1.2.选择数据库7.1.3.描述数据库详细信息7.1.4.创建数据库并指
faith瑞诚·2023-12-24 07:37

pygrib

https://www.cnblogs.com/kallan/archive/2016/01/26/5160017.htmlhttps://www.cnblogs.com/sunshine8/p/7815216
榴莲气象·2023-12-24 06:20

数据质量监控框架及解决方案总结

概述随着业务发展和数据量的增加，大数据应用开发已成为部门应用开发常用的开发方式，由于部门业务特点的关系，spark和hive应用开发在部门内部较为常见。
坨坨的大数据·2023-12-24 05:41

黑苹果 安装教程+工具包(EFI引导文件+dmg镜像+工具)

完整黑苹果安装指南,苹果EFI引导文件等相关资源一应俱全.https://fostmar.online/archives/445/EFI引导文
单丽尔·2023-12-24 04:09

技本功|Hive优化之监控（三）

Hive是大数据领域常用的组件之一，主要是大数据离线数仓的运算，关于Hive的性能调优在日常工作和面试中是经常涉及的一个点，因此掌握一些Hive调优是必不可少的技能。
云掣YUNCHE·2023-12-24 03:15

技本功|Hive优化之Spark执行引擎参数调优（二）

Hive是大数据领域常用的组件之一，主要是大数据离线数仓的运算，关于Hive的性能调优在日常工作和面试中是经常涉及的的一个点，因此掌握一些Hive调优是必不可少的一项技能。
云掣YUNCHE·2023-12-24 03:44

Pytorch的C++端(libtorch)在Windows中的使用

https://oldpan.me/archives/pytorch-windows-libtorch
蒋豆芽·2023-12-24 02:25

Java-jar包的创建与运行

jar包的概念JAR文件的全称是JavaArchiveFile，意思是Java档案文件。是一种压缩文件，与常见的ZIP压缩文件兼容。
得过且过的勇者y·2023-12-24 01:16

Hive 存储与压缩

格式（推荐）Parquet格式对比压缩ORC——ZLIB压缩ORC——SNAPPY压缩Parquet——GZIP压缩Parquet——SNAPPY压缩总结本文中用到的数据源下载：log.data存储格式Hive
月亮给我抄代码·2023-12-23 22:28

Hive存储格式和压缩算法

Hive存储格式和压缩算法在实际的项目开发当中，hive表的存储格式一般选择：ORC或PARQUET，压缩算法一般选择Zlib和SNAPPY存储格式分类逻辑表中的数据，最终需要落到磁盘上，以文件的形式存储
Kazi_1024·2023-12-23 22:58

Hive文件压缩说明(转)

为什么要压缩在Hive中对中间数据或最终数据做压缩，是提高数据吞吐量和性能的一种手段。对数据做压缩，可以大量减少磁盘的存储空间，比如基于文本的数据文件，可以将文件压缩40%或更多。
大怀特·2023-12-23 22:57

讲道理，Hive文件存储与压缩还是挺重要的

压缩和存储1、文件存储格式Hive支持的存储数的格式主要有：TEXTFILE、SEQUENCEFILE、ORC、PARQUET。
看朱成碧_·2023-12-23 22:27

HIVE 建表 插入数据 文件格式与压缩格式算法比较

HIVE文件格式与压缩格式一：mapreduce的压缩mapreduce压缩主要是在shuffle阶段的优化。
皮卡帅·2023-12-23 22:27

Hive文件存储格式和Hive数据压缩小总结

二、Hive文件存储格式TEXTFILEHive数据表的默认格式，存储方式：行存储。可以使用Gzip压缩算法，但压缩后的文件不支持split。
浪尖聊大数据-浪尖·2023-12-23 22:27

Hive压缩、存储与优化

1、Hive压缩概述：Hive的压缩是MR的压缩，分为Map端结果文件压缩和Reduce端结果文件压缩压缩性能比较压缩算法原始文件大小压缩文件大小压缩速度解压速度gzip8.3GB1.8GB17.5MB
zeroLinked·2023-12-23 22:57

hive文件存储格式及数据压缩

二、Hive文件存储格式TEXTFILEHive数据表的默认格式，存储方式：行存储。
菜梨子不想这么菜！·2023-12-23 22:57

【004hive基础】hive的文件存储格式与压缩

文章目录一.hive的行式存储与列式存储二.存储格式1.TEXTFILE2.ORC格式3.PARQUET格式ing三.Hive压缩格式1.mr支持的压缩格式:2.hive配置压缩的方式:2.1.开启map
roman_日积跬步-终至千里·2023-12-23 22:56

Hive文件格式与压缩

Hive文件格式与压缩Hive支持的存储数据格式主要有：文本格式（TEXTFILE）、二进制序列化文件（SEQUENCEFILE）、行列式文件（RCFile）、优化的行列式文件（ORC）、PARQUET
会撸代码的懒羊羊·2023-12-23 22:56

Hive权限管理

Hive权限管理1、hive授权模型介绍（1）StorageBasedAuthorizationintheMetastoreServer基于存储的授权-可以对Metastore中的元数据进行保护，但是没有提供更加细粒度的访问控制
新鲜氧气·2023-12-23 22:26

Hive优化

Hive优化Hive的存储层依托于HDFS，Hive的计算层依托于MapReduce，一般Hive的执行效率主要取决于SQL语句的执行效率，因此，Hive的优化的核心思想是MapReduce的优化。
新鲜氧气·2023-12-23 22:26
上一页 36 37 38 39 40 41 42 43 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他