Hive进阶之路

K8s进阶之路-核心概念/架构：

架构：Master/NodeMaster组件--主控节点{负责集群管理（接收用户事件转化成任务分散到node节点上）}Apiserver：资源操作的唯一入口，提供认证、授权、API注册和发现等机制Scheduler：负责集群资源调度，按照预定的调度策略将Pod调度到相应的node节点上注：容器负载均衡部署Deployment控制器是之一Controller-manager：负责维护集群的状态，比如
是芸晗ya·2024-02-19 21:31

K8s进阶之路-安装部署K8s

参考：（部署过程参考的下面红色字体文档链接就可以，步骤很详细，重点部分在下面做了标注）安装部署K8S集群文档：使用kubeadm方式搭建K8S集群·GitBook本机：master：10.0.0.13masternode1：10.0.0.11node1node2：10.0.0.12node2#systemctlstopfirewalld&&systemctldisablefirewalld#sys
是芸晗ya·2024-02-19 20:12

K8s进阶之路-命名空间级-服务发现 ：

服务发现：Service（东西流量）：集群内网络通信、负载均衡（四层负载）内部跨节点，节点与节点之间的通信，以及pod与pod之间的通信，用Service暴露端口即可实现Ingress（南北流量）：将内部服务暴露外网访问的服务ingress-nginx，也就是nginx反向代理负载均衡服务（七层http负载）Service：
是芸晗ya·2024-02-19 20:12

kerberos 合并keytab文件 ktutil

非交互式：printf"%b""rkt/root/keytab/hdfs.keytab\nrkt/root/keytab/hive.keytab\nwkt/root/keytab/merged.keytab
brandblue·2024-02-19 19:51

ktutil编写生成keytab文件的脚本、通过keytab文件认证用户

/usr/bin/bashktutil<hive用户，生成
但行益事莫问前程·2024-02-19 19:13

centos 安装 maven

wgethttps://archive.apache.org/dist/maven/maven-3/3.8.6/binaries/apache-maven-3.8.6-bin.tar.gz解压文件：使用
iteye_10392·2024-02-19 16:15

docker ubuntu tomcat 换源 安装软件

第一种办法参考docker中ubuntu容器更换apt源_ubuntu更改apt源withdockerfile-CSDN博客sed-is@/archive.ubuntu.com/@/mirrors.aliyun.com
linux实践操作记录·2024-02-19 16:36

K8s进阶之路-Pod(创建过程)/Pause/Replicas

Pod：是一个容器组，基于容器组管理容器（建议一个pod创建一个应用程序容器必须是紧耦合实例放在一起）pause容器：实现容器与容器之间的共享（在容器创建之前，底层都要先创建一个容器叫pause，用来实现对内的网络及ip、文件系统、主机名、内存等共享）Replicas副本数：描述制定副本数创建第二个即为副本，名字和uid会自动调整组件架构图：k8s集群，至少需要2台ECS机器k8s本身，也是以客器
是芸晗ya·2024-02-19 16:55

js实现判断大写锁定是否开启（转）

转载地址：http://www.cnblogs.com/xiaoao808/archive/2008/07/31/1257624.html在用户登录输入密码时，常常会有因为大写锁定开启而造成输入密码错误的情况
weixin_30621959·2024-02-19 15:59

Visual Studio设置Solution Explorer同步当前文档

从Debug或Tools菜单项打开Options窗体，勾选下面的选项：http://www.cnblogs.com/findcaiyzh/archive/2011/03/31/2000529.html
霍莉雪特·2024-02-19 14:00

数据归档神器-pt-archiver

前言介绍`pt-archiver是用来归档表的工具，可以做到低影响、高性能的归档工具，从表中删除旧数据，而不会对OLTP查询产生太大影响。可以将数据插入到另一个表中，该表不需要在同一台服务器上。
落弋V·2024-02-19 14:40

数据归档工具pt-archiver原理研究与使用

1.介绍之前处理mysql历史数据归档，直接写存储过程实现的（《mysql历史数据自动归档》），换新东家后，还是决定研究下主流的pt-archiver并实施。
sdmei·2024-02-19 14:08

MySQL-运维工具 pt-archiver数据归档工具

逐行进行)4.2表归档到表(批量进行)4.2.1归档到当前实例，并删除数据4.2.2归档到远程实例，不删除数据4.3仅清除表数据4.4表自增字段处理5.总结1.引言2.工具说明2.1使用方式pt-archiver
凡尘技术·2024-02-19 14:07

利用 pt-archiver 实现数据库归档功能

文章目录一、前言关于Percona二、PerconaToolkit安装percona-toolkit：pt-archiver归档命令的使用格式：示例：三、归档步骤：1）、创建归档数据库和归档表方式一(推荐
程序没有缘·2024-02-19 14:02

(10)Hive的相关概念——文件格式和数据压缩

1.1.1行存储的特点1.1.2列存储的特点1.2TextFile1.3SequenceFile1.4Parquet1.5ORC二、数据压缩2.1数据压缩-概述2.1.1压缩的优点2.1.2压缩的缺点2.2Hive
爱吃辣条byte·2024-02-19 13:21

K8s进阶之路-控制器无状态服务：

RC/RS/Deployment控制器deployment无状态（最常用）：nginx和Apachestatefulset有状态：mysql和redisdamonset初始化job一次性任务cronjob任务计划1无状态：不会对本地环境产生依赖如：nginx和Apache3.RC、RS和Deployment区别：RC和RS：动态更新pod副本数管理pod，控制pod怎么创建，创建不同的pod类型，
是芸晗ya·2024-02-19 13:42

k8s进阶之路-pod探针：容器内的监控机制，检测应用是否存活

配合Pod重启策略：RestartPolicy应用程序是否启动完成：3.startupProbe启动探针1.16：排他性如果三个都配置了，会优先启动，会禁用前两个反馈成功后，才会启动以下两个应用启动成功后：1.LivenessProbe存活探针-->故障自动恢复：如果容器挂掉了，会检测是否有重启策略，决定是否需要重启2.ReadnessProbe就绪探针--->应用初始化探针探测成功，确认应用容器
是芸晗ya·2024-02-19 13:42

linux压缩webfile文件夹 webfile.tar.gz和webfile.tar的区别

tar，全称TapeArchive，最初被设计用于在磁带存储设备上存储文件，但现在已经广泛用于在硬盘驱动器上存储和分发文件。
·2024-02-19 11:53

(15)Hive调优——数据倾斜的解决指南

目录前言一、什么是数据倾斜二、发生数据倾斜的表现2.1MapReduce任务2.2Spark任务三、如何定位发生数据倾斜的代码四、发生数据倾斜的原因3.1key分布不均匀3.1.1某些key存在大量相同值3.1.2存在大量异常值或空值3.2业务数据本身的特性3.3SQL语句本身就有数据倾斜3.4建表时考虑不周四、触发数据倾斜的SQL操作五、数据倾斜的解决方案5.1Map长尾优化5.1.1Map读取
爱吃辣条byte·2024-02-19 11:50

Hive入门，Hive是什么？

1.1Hive是什么？Hive是一个开源的数据仓库工具，主要用于处理大规模数据集。它是建立在Hadoop生态系统之上的，利用Hadoop的分布式存储和计算能力来处理和分析数据。
JayGboy·2024-02-19 10:31

Hive Distribute by 应用之动态分区小文件过多问题优化

Fatalerroroccurredwhennodetriedtocreatetoomanydynamicpartitions.Themaximumnumberofdynamicpartitionsiscontrolledbyhive.exec.max.dynamic.p
莫叫石榴姐·2024-02-15 10:58

Hive调优——count distinct替换

离线数仓开发过程中经常会对数据去重后聚合统计，而对于大数据量来说，count(distinct)操作消耗资源且查询性能很慢，以下是调优的方式。解决方案一：groupby替代原sql如下：#=====7日、14日的app点击的用户数（user_id去重统计）selectgroup_id,app_id,--7日内UVcount(distinctcasewhendt>='${7d_before}'the
爱吃辣条byte·2024-02-15 10:58

Hive的相关概念——架构、数据存储、读写文件机制

目录一、架构及组件介绍1.1Hive整体架构1.2Hive组件1.3Hive数据模型（DataModel）1.3.1Databases1.3.2Tables1.3.3Partitions1.3.4Buckets
爱吃辣条byte·2024-02-15 10:57

Hive的相关概念——分区表、分桶表

目录一、Hive分区表1.1分区表的概念1.2分区表的创建1.3分区表数据加载及查询1.3.1静态分区1.3.2动态分区1.4分区表的本质及使用1.5分区表的注意事项1.6多重分区表二、Hive分桶表2.1
爱吃辣条byte·2024-02-15 10:57

Hive——动态分区导致的小文件问题

目录0问题现象1问题解决解决方案一：调整动态分区数方案一弊端：小文件剧增解决方案二：distributeby方案二弊端：数据倾斜解决方案三：distributeby命令2思考3小结0问题现象现象：报错errorr如下：[Error20004]:Fatalerroroccurredwhennodetriedtocreatetoomanydynamicpartitions.Themaximumnumb
爱吃辣条byte·2024-02-15 10:25

【大数据Hive】hive 表设计常用优化策略

目录一、前言二、hive普通表查询原理2.1操作演示说明2.1.1创建一张表，并加载数据2.1.2统计3月24号的登录人数2.1.3查询原理过程总结2.2普通表结构带来的问题三、hive分区表设计3.1
逆风飞翔的小叔·2024-02-15 10:22

Hive on Spark配置

前提条件1、安装好Hive，参考：Hive安装部署-CSDN博客2、下载好Spark安装包，链接：https://pan.baidu.com/s/1plIBKPUAv79WJxBSbdPODw?
在下区区俗物·2024-02-15 10:51

配置hive on spark

配置hiveonspark1、上传Spark纯净版jar包到HDFS：hdfsdfs-mkdir/spark-jarshdfsdfs-put/opt/spark/jars/*/spark-jars2、修改
空白格2519·2024-02-15 10:51

hive on spark配置经验

常规配置配置完，开启hadoop，开启spark（如果在hdfs上上传了纯净版的spark则不需要开启），开启hive注：当前节点一定要是namenode的active节点，因为hadoop长时间不用namenode
小五冲冲冲·2024-02-15 10:21

部署一个3节点的Kafka集群

一Java环境部署：1.1官网下载jdkJava下载官网https://www.oracle.com/cn/java/technologies/javase/javase8u211-later-archive-downloads.html1.12
小关暗器·2024-02-15 09:25

Hive3.1.2——企业级调优

前言本篇文章主要整理hive-3.1.2版本的企业调优经验，有误请指出~一、性能评估和优化1.1Explain查询计划使用explain命令可以分析查询计划，查看计划中的资源消耗情况，定位潜在的性能问题
爱吃辣条byte·2024-02-15 09:48

python 线程池ThreadPoolExecutor

参考链接(https://www.codersrc.com/archives/6732
沧海二阳·2024-02-15 06:42

【MySQL进阶之路】亿级数据量表SQL调优实战

欢迎关注公众号（通过文章导读关注：【11来了】），及时收到AI前沿项目工具及新技术的推送！在我后台回复「资料」可领取编程高频电子书！在我后台回复「面试」可领取硬核面试笔记！文章导读地址：点击查看文章导读！感谢你的关注！亿级数据量表SQL调优实战先说一下案例背景：在电商平台中，有一个商品表，数据量级别上亿，有一天晚上突然出现大量的慢查询告警，导致每一个数据库连接执行慢查询耗费几十秒的时间，以至于数据
11来了·2024-02-15 05:32

【MySQL进阶之路】详解执行计划 type 列

欢迎关注公众号（通过文章导读关注：【11来了】），及时收到AI前沿项目工具及新技术的推送！在我后台回复「资料」可领取编程高频电子书！在我后台回复「面试」可领取硬核面试笔记！文章导读地址：点击查看文章导读！感谢你的关注！详解执行计划type列通过explain语句可以帮助我们查看查询语句的具体执行计划，那么在执行计划中的type列表示MySQL是如何查找对应的数据了，我们先来说一下执行计划中type
11来了·2024-02-15 05:32

【MySQL进阶之路】通过实操理解 explain 执行计划

欢迎关注公众号（通过文章导读关注：【11来了】），及时收到AI前沿项目工具及新技术的推送！在我后台回复「资料」可领取编程高频电子书！在我后台回复「面试」可领取硬核面试笔记！文章导读地址：点击查看文章导读！感谢你的关注！通过实操理解explain执行计划案例一：开胃小菜SQL语句：explainselect*fromtest1;执行计划如下：首先，id=1，id是每一个SQL语句的唯一标识selec
11来了·2024-02-15 05:32

【MySQL进阶之路】十亿量级评论表SQL调优实战

欢迎关注公众号（通过文章导读关注：【11来了】），及时收到AI前沿项目工具及新技术的推送！在我后台回复「资料」可领取编程高频电子书！在我后台回复「面试」可领取硬核面试笔记！文章导读地址：点击查看文章导读！感谢你的关注！十亿量级评论表SQL调优实战先说一下案例背景：在电商系统的评论表中，数据量非常大，达到了十亿量级，因此对评论的数据库进行分库分表处理，在分库分表之后，基本上单表的评论数据在百万级别左
11来了·2024-02-15 05:32

conan安装

这里以pip安装为例，python安装建议anaconda，下载地址：https://repo.anaconda.com/archive/Anaconda3-2021.11-Windows-x86_64
曳帆·2024-02-15 05:39

Sqoop你用对了吗？

个人想法，有错请指出怎么让sqoop流程化1.首先创造配置表和任务表tb_configidjdbc_urluserpass_wordcolumnstablehive_tableis_incremental1jdbc
你值得拥有更好的12138·2024-02-15 03:43

FFmpeg+x264编码qcif会出现花屏的问题

http://www.cppblog.com/tx7do/archive/2013/01/11
cyqyong·2024-02-15 02:59

Kibana启动问题

chrome-mac.zip时访问超时，日志如下[2022-09-05T11:57:55.901+08:00][WARN][plugins.screenshotting.chromium]Browserarchivefordarwin
qinghuazs·2024-02-15 01:19

HIVE优化场景七--数据倾斜--Join 倾斜

2)由于数据类型不一致，导致的转换问题，导致的数据倾斜场景说明：用户表中user_id字段为int，log表中user_id为既有string也有int的类型。当按照两个表的user_id进行join操作的时候，默认的hash操作会按照int类型的id进行分配，这样就会导致所有的string类型的id就被分到同一个reducer当中。解决方案：将INT类型id,转换为STRING类型的id.SEL
xuanxing123·2024-02-15 01:10

第四届全国智力运动会口号 吉祥物和会徽介绍

转自：第四届智运会官网http://www.imsa.cn/archives/75194四智会主题口号：四智会主题口号释义：在儒家的道德规范体系中“智”是最基本最重要的德目之一，东方的儒雅智慧绵延不息，
五子棋宝典APP·2024-02-14 21:38

把自己的应用添加到系统的“分享”列表中

不要跟原先的一块，要不然不生效；mimeType代表支持分享的类型：{".3gp","video/3gpp"},{".apk","application/vnd.android.package-archive
桃先森_·2024-02-14 20:51

Hive经典面试题

1.Hive表关联查询，如何解决数据倾斜的问题1）倾斜原因：map输出数据按keyHash的分配到reduce中，由于key分布不均匀、业务数据本身的特、建表时考虑不周、等原因造成的reduce上的数据量差异过大
Yang_6234·2024-02-14 20:03

Hive MR任务结束后进行文件合并

sethive.merge.mapfiles=true;sethive.merge.mapredfiles=true;sethive.merge.size.per.task=256000000;sethive.merge.smallfiles.avgsize
破阵子沙场秋点兵·2024-02-14 20:06

hive中的三种建表方法

文章目录一、直接建表二、查询建表三、like建表一、直接建表CREATE[EXTERNAL]TABLE[IFNOTEXISTS]employee_external(//EXTERNAL关键字添加为外部表namestring,work_placeARRAY,sex_ageSTRUCT,skills_scoreMAP,depart_titleMAP>)COMMENT'Thisisanexternalt
日写BUG八百行·2024-02-14 19:40

hive中的Load data 和 insert的区别

文章目录一、Loaddata二、insert三、IMPORT/EXPORT一、Loaddata语法为LOADDATA[LOCAL]INPATH'filepath'[OVERWRITE]INTOTABLEtablename[PARTITION(partcol1=val1,partcol2=val2...)]local关键字：有，表示从本地文件系统中导入没有，表示从HDFS文件系统中导入，这里是文件的
日写BUG八百行·2024-02-14 19:10

dp进阶之路——最后一块石头的重量

1049.最后一块石头的重量II有一堆石头，用整数数组stones表示。其中stones[i]表示第i块石头的重量。每一回合，从中选出任意两块石头，然后将它们一起粉碎。假设石头的重量分别为x和y，且x=stones[i];j--){//两种情况，要么放，要么不放dp[j]=Math.max(dp[j],dp[j-stones[i]]+stones[i]);}}returnsum-2*dp[targ
半个菜鸟_·2024-02-14 17:07

Winform中使用NPOI实现导出Excel并文件另存为

NPOI官网https://archive.codeplex.com/?
霸道流氓气质·2024-02-14 16:48

维护职场关系才是你的进阶之路

我加入了我的理解杨蜜月爱读书2020-03-2219:20:22今天在知乎看到一个问题：为什么公司里贡献多的人，反而很难得到晋升？@杨蜜月爱读书有这么一个小伙子，大概30岁出头，是典型的IT男，在互联网公司做技术经理。永远都穿一件看起来很廉价的绿色格子衬衫。裤子永远是一件发了黄的牛仔裤，上面还有两个洞。和其他穿着干净时尚的同事形成鲜明对比，是一个不太注重形象的人。但他是公司的技术牛人。他曾用他的技
a阿铠·2024-02-14 13:43
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他