Hive常用命令

Hive小文件合并

作者：振鹭一、参数配置：在Map输入的时候,把小文件合并。--每个Map最大输入大小，决定合并后的文件数setmapred.max.split.size=256000000;--一个节点上split的至少的大小，决定了多个datanode上的文件是否需要合并setmapred.min.split.size.per.node=100000000;--一个交换机下split的至少的大小，决定了多个交换
云掣YUNCHE·2025-01-19 09:20

hive小文件合并机制_hive小文件的问题弊端以及合并

小文件的弊端1、HDFS中每个文件的元数据信息，包括位置大小分块信息等，都保存在NN内存中，在小文件数较多的情况下，会造成占用大量内存空间，导致NN性能下降；2、在读取小文件多的目录时，MR会产生更多map数，造成GC频繁，浪费集群资源；3、现在大数据平台文件总数超过30亿，单个NS文件数超过4亿的时候，读写性能会急剧下降，影响到所有读写该NS的任务性能；4、如果队列限制最大map数是20000，
做生活的创作者·2025-01-19 08:49

数仓建模（五）选择数仓技术栈：Hive & ClickHouse & 其它

市场上主流数仓技术栈丰富，如Hive、ClickHouse、Druid、Greenplum等，对于初学者而言，选择合适的技术栈是一项挑战。
昊昊该干饭了·2025-01-19 08:45

Hive--HiveServer2 命令行代码连接、Hive常用命令、自定义UDF函数、排序

目录1Hive--HiveServer2命令行代码连接1.1配置HiveServer2WEB参数1.2开启HiveServer21.3使用Beeline连接HiveServer21.4使用代码查询HiveServer21.5
XK&RM·2025-01-19 08:13

Hive 数据类型全解析：大数据开发者的实用指南

在大数据处理领域，Hive作为一款基于Hadoop的数据仓库工具，被广泛应用于数据的存储、查询和分析。
大鳥·2025-01-19 08:42

上位机操作篇---Linux常用命令

第二章Linux常用命令（简介）常用命令及其简介第二章Linux常用命令（简介）前言第一部分：基础命令一、pwd二、ls或者ls[选项][目录名]三、cd四、clear或者crtl+l第二部分：文件操作一
Ronin-Lotus·2025-01-19 07:03

Apache Hive--排序函数解析

在大数据处理与分析中，ApacheHive是一个至关重要的数据仓库工具。其丰富的函数库为数据处理提供了诸多便利，排序函数便是其中一类非常实用的工具。
大鳥·2025-01-19 06:31

大数据新视界 -- Hive 数据仓库设计的优化原则（2 - 16 - 4）

亲爱的朋友们，热烈欢迎你们来到青云交的博客！能与你们在此邂逅，我满心欢喜，深感无比荣幸。在这个瞬息万变的时代，我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客，正是这样一个温暖美好的所在。在这里，你们不仅能够收获既富有趣味又极为实用的内容知识，还可以毫无拘束地畅所欲言，尽情分享自己独特的见解。我真诚地期待着你们的到来，愿我们能在这片小小的天地里共同成长，共同进步。本博客的精华专栏：大数
青云交·2025-01-19 05:49

使用 Hadoop 实现大数据的高效存储与查询

大数据技术：涵盖Hadoop（HDFS）、Hive、Spark、Fli
王子良.·2025-01-18 23:24

ORACLE与SQL SERVER的区别

ORACLE与SQLSERVER的区别转载自：https://www.cnblogs.com/chuncn/archive/2009/01/28/1381262.html体系结构ORACLE的文件体系结构为
nanzhuhe·2025-01-18 20:17

hdfs和hive对于小文件的处理方案

一、hdfs如何处理小文件小文件问题的危害小文件问题对HDFS的性能和稳定性产生显著影响，主要包括：占用过多的存储空间：每个小文件都会占用一个独立的Block，导致存储资源的浪费。降低数据处理效率：HDFS是为处理大文件而设计的，小文件会导致大量的Map任务启动，增加处理时间和资源消耗。NameNode内存压力增大：NameNode需要维护所有文件和目录的元数据信息，小文件过多会导致NameNod
二进制_博客·2025-01-18 19:35

hive 创建访问用户_Hive权限控制和超级管理员的实现

Hive权限控制Hive权限机制：Hive从0.10可以通过元数据控制权限。但是Hive的权限控制并不是完全安全的。基本的授权方案的目的是防止用户不小心做了不合适的事情。
weixin_39826089·2025-01-18 18:31

hive表级权限控制_Hive权限管理

最近遇到一个hive权限的问题，先简单记录一下，目前自己的理解不一定对，后续根据自己的理解程度更新一、hive用户的概念hive本身没有创建用户的命令，hive的用户就是Linux用户，若当前是用mr用户输入
weixin_39769091·2025-01-18 18:01

HIVE的权限控制和超级管理员的实现

Hive用户权限管理从remote部署hive和mysql元数据表字典看，已经明确hive是通过存储在元数据中的信息来管理用户权限。现在重点是Hive怎么管理用户权限。
weixin_34364071·2025-01-18 18:59

hive批量修复分区

/bin/bashset-x#定义Hive数据库的名称database_name="edu"#定义要排除的表名exclude_table="tab_name"#使用Hive的shell命令获取所有的表名
青云游子·2025-01-18 18:25

Git常用命令

1.仓库#将当前目录初始化为Git代码库$gitinit#新建一个文件夹，并将其初始化为Git代码库$gitinit[folder-name]#下载一个项目和它的全部代码历史$gitclone[url]2.配置#查看所有配置$gitconfig-l/--list#查看系统配置$gitconfig--system-l/--list#查看用户配置$gitconfig--global-l/--list#
pingcode·2025-01-18 18:25

HiveMetaException: Unknown version specified for initialization: 3.1.0（或者其他版本号）

遇到这个问题，也是很难发现的，查阅很多文章，乱七八糟，也可能是遇到的问题不相同吧，我们从以下两个方面去排查吧1.检查你的hive-site.xml和hive-env.sh，配置对就行，这个网上一大片，注意要正确
一品_人生·2025-01-18 18:25

hive表修改字段类型没有级连导致历史分区报错

一：问题背景修改hive的分区表时有级连概念，指字段的最新状态，默认只对往后的分区数据生效，而之前的分区保留历史元数据状态。
尘世壹俗人·2025-01-18 17:18

Hive 查看partition 以及msck 修复分区

#checktable的partitionhive>showpartitionstable_name;如果是外部表，不小心把表给删除了，可以适用下命令重新关联表和数据[MSCKREPAIRTABLE
dgsdaga3026010·2025-01-18 17:48

集群间hive数仓迁移

方式一：(此方法需要建库建表)第一步：建库建表在原集群hive上查看迁移表的建表语句及所在库，然后在新集群hive上建库建表；showcreatetabletb_name;createdatabasedb_name
one code·2025-01-18 17:15

HIVE合并小文件

会产生多个MapTask,然而每个MapTask处理的数据量很少，那么导致MapTask启动时间大于执行时间，整体任务时间消耗较大如何合并小文件：1）在map执行前合并小文件，减少map数：CombineHiveInputFormat
难以触及的高度·2025-01-18 16:12

Hive中没有超级管理员，如何进行权限控制

Hive中没有超级管理员，任何用户都可以进行Grant/Revoke操作开发实现自己的权限控制类，确保某个用户为超级用户比如任何用户都可以grant权限给别的用户。
二进制_博客·2025-01-18 16:42

docker-ubuntu-24.04安装openresty1.21.4.3全过程

dockerpullubuntu:latest创建启动容器dockerrun-it--name容器名称-p8082:8082镜像id/bin/bash更换apt-get为阿里云镜像sed-i's@archive.ubuntu.com
司江龙·2025-01-18 12:43

大数据-257 离线数仓 - 数据质量监控 监控方法 Griffin架构

目前已经更新到了：Hadoop（已更完）HDFS（已更完）MapReduce（已更完）Hive（已更完）Flume（已更完）Sqoop（已更完）Zookeeper（已更完）HBase（已更完）Redis
武子康·2025-01-18 10:29

架构师反向代理Haproxy+压力测试 - 学习笔记

.Apache的编译安装:yuminstallapr-develapr-util-develpcre-developenssl-develcd/usr/local/src/wgethttp://archive.apache.org
无影V随风·2025-01-18 10:25

K8S集群常用命令

1，查看podkubectlgetpods-A查看所有的podkubectlgetpods这个只查看namespace为default下的pod，也就是只查看默认命名空间下的podkubectlgetpod-A-owide查看所有的pod，并且放出的信息更全（包含了pod的ip）2，查看pod的具体信息kubectldescribepodmy-pod-nmy-namespace查看命名空间my-n
年薪丰厚·2025-01-18 09:19

Vim 命令、操作、文件操作示例

目录1.常用命令2.常用选项3.文件操作示例1.常用命令编辑以下命令在命令模式执行i，a，r：在光标的前，后，上方插入字符命令(i=insert,a=append,r=replace)O，o：在当前行前面
Lllongroad·2025-01-18 08:11

Python 爬虫：获取网页数据的 5 种方法

大数据技术：涵盖Hadoop（HDFS）、Hive、Spark、Fli
王子良.·2025-01-18 07:35

QT ListView 记录

http://www.cnblogs.com/chenxuelian/archive/2009/12/22/1629601.html转载于:https://www.cnblogs.com/whisht/
weixin_30872157·2025-01-18 07:03

linux安装卸载软件

（三）归档压缩程序仅归档ar：archiver。后缀名为.a,.arTar：TapeArchive。通过Tar归档
int8·2025-01-18 06:29

一步到位：购买适合 SEO 的域名全攻略

WebArchive：查看域名以前的用途，判断是否有不良记录或与您的行业冲突。GoogleTransparencyReport：检
·2025-01-18 05:14

2024年最新Python：Page Object设计模式_python page object，BTAJ大厂最新面试题汇集

知识体系：含编程语言、算法、大数据生态圈组件（Mysql、Hive、Spark、Flink）、数据仓库、Python、前端等等。网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是
m0_60707708·2025-01-17 20:36

采用海豚调度器+Doris开发数仓保姆级教程（满满是踩坑干货细节，持续更新）

目录一、采用海豚调度器+Doris开发平替CDHHdfs+Yarn+Hive+Oozie的理由。
大模型大数据攻城狮·2025-01-17 19:56

hdc常用命令大全

当我们在使用命令行或脚本时，经常会遇到一些报错信息，其中一个常见的错误是"hdc不是内部或外部命令"。这个错误一般出现在Windows系统中，它意味着系统无法找到我们输入的命令或执行的脚本。那么需要系统属性---环境变量PATH里添加hdc.exe的路径。一般路径为：C:\Users\name\AppData\Local\Huawei\Sdk\openharmony\9\toolchains。也可
趋势大仙·2025-01-17 19:25

FFMpeg的一些常用命令

1.查看是否安装成功和版本ffmpegversion2.视频转换类2.1转换视频格式：ffmpeg-iinput.mp4output.avi2.2压缩视频格式：ffmpeg-iinput.mp4-b:v1Moutput.mp4压缩input.mp4并将其保存为output.mp4，视频比特率设为1M。2.3提取视频中的音频：ffmpeg-iinput.mp4-vn-acodeccopyoutput
无敌 喵星人·2025-01-17 18:21

瑞芯微RK3588 isp调试中常用命令整理

1.cat/proc/rkisp*查看isp进程2../rkaiq_tool_sever-d0&运行tunner驱动程序，并在后台运行（+&）
无敌 喵星人·2025-01-17 18:51

【纯血鸿蒙】hdc常用命令汇总

1.查看工具版本hdc-v输出版本号，证明可以用了2.查看当前连接设备查看当前连接所有设备,-v显示详情hdclisttargetshdclisttargets-vhdc-t设备shellhdc-t7001005458323933328a250f004e3900shell3.安装指定的应用package文件hdcinstall[happath]交互命令hdcinstallpackageFileWi
新时代农民工007·2025-01-17 18:48

xclip和xsel命令行工具详解

以下是详细说明：1.xclip安装在Ubuntu或其他基于Debian的系统中安装：sudoaptinstallxclip常用命令复制文本到剪贴板将文件内容复制到系统剪贴板：xclip-selclip<
码农君莫笑·2025-01-17 18:15

02、Redis从入门到放弃 之 常用命令和基本数据类型操作

Redis从入门到放弃之常用命令和基本数据类型操作一、Redis通用命令redis-cli-h127.0.0.1-p6379redis客户端登录-hhost-p端口-a密码exit退出当前客户端info
跳跳的向阳花·2025-01-17 15:15

deepin 中 apt 与 dpkg 安装包管理工具的区别

本文将详细介绍这两种工具的主要区别以及它们的常用命令。1.主要区别1.1dpkg功能：dpkg侧重于本地软件包的管理。它主要用于安装、删除和查询本地的.deb文件。
慵懒的猫mi·2025-01-17 14:37

【YashanDB知识库】原生mysql驱动配置连接崖山数据库

【问题分类】功能兼容【关键字】YAS-07202、YAS\_MYERROR，不兼容【问题描述】本项目的架构是hadoop+hive+yashandb使用崖山数据库，将mysql相关的创建表语句进行初始化同步使用崖山
·2025-01-17 10:58

Spring Boot 和微服务：快速入门指南

大数据技术：涵盖Hadoop（HDFS）、Hive、Spark、Fli
王子良.·2025-01-17 09:56

oracle同步数据adg_oracle11g ADG主备切换

protection_mode,protection_level,switchover_statusfromv$database;altersystemswitchlogfile;altersystemarchivelogcurrent
weixin_39536630·2025-01-17 05:27

Maven 知识点总结

、坐标：通过坐标唯一定位2、scope依赖范围3、maven的传递性依赖性质4、optional可选依赖5、exclusion排除依赖6、properties归类依赖7、优化依赖Maven基本使用1、常用命令仓库
技术人Q·2025-01-17 03:05

CDP中的Hive3之Hive Metastore（HMS）

CDP中的Hive3之HiveMetastore（HMS）1、CDP中的HMS2、HMS表的存储（转换）3、HWC授权1、CDP中的HMSCDP中的HiveMetastore（HMS）是一种服务，用于在后端
对许·2025-01-17 02:31

Hive 窗口函数与分析函数深度解析：开启大数据分析的新维度

Hive窗口函数与分析函数深度解析：开启大数据分析的新维度在当今大数据蓬勃发展的时代，Hive作为一款强大的数据仓库工具，其窗口函数和分析函数犹如一把把精巧的手术刀，助力数据分析师们精准地剖析海量数据，
自节码·2025-01-17 02:25

大数据新视界 -- 大数据大厂之 Hive 数据压缩算法对比与选择（下）（20 / 30）

亲爱的朋友们，热烈欢迎你们来到青云交的博客！能与你们在此邂逅，我满心欢喜，深感无比荣幸。在这个瞬息万变的时代，我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客，正是这样一个温暖美好的所在。在这里，你们不仅能够收获既富有趣味又极为实用的内容知识，还可以毫无拘束地畅所欲言，尽情分享自己独特的见解。我真诚地期待着你们的到来，愿我们能在这片小小的天地里共同成长，共同进步。本博客的精华专栏：大数
青云交·2025-01-17 01:14

大数据新视界 -- 大数据大厂之 Hive 数据安全：权限管理体系的深度解读（上）（15/ 30）

亲爱的朋友们，热烈欢迎你们来到青云交的博客！能与你们在此邂逅，我满心欢喜，深感无比荣幸。在这个瞬息万变的时代，我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客，正是这样一个温暖美好的所在。在这里，你们不仅能够收获既富有趣味又极为实用的内容知识，还可以毫无拘束地畅所欲言，尽情分享自己独特的见解。我真诚地期待着你们的到来，愿我们能在这片小小的天地里共同成长，共同进步。本博客的精华专栏：大数
青云交·2025-01-17 01:14

【YashanDB知识库】Hive 命令工具insert崖山数据库报错

【问题分类】功能兼容【关键字】spark30041、不兼容【问题描述】本项目的架构是hadoop+hive+yashandb使用崖山数据库，初始化所有的原数据表和数据新建表之后，插入数据时候报错，hadoopcode30041
·2025-01-17 00:46

大数据新视界 -- Hive 数据仓库设计模式：星型与雪花型架构（2 - 16 - 3）

亲爱的朋友们，热烈欢迎你们来到青云交的博客！能与你们在此邂逅，我满心欢喜，深感无比荣幸。在这个瞬息万变的时代，我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客，正是这样一个温暖美好的所在。在这里，你们不仅能够收获既富有趣味又极为实用的内容知识，还可以毫无拘束地畅所欲言，尽情分享自己独特的见解。我真诚地期待着你们的到来，愿我们能在这片小小的天地里共同成长，共同进步。本博客的精华专栏：大数
青云交·2025-01-16 23:03
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他