Hive进阶之路

【Pyspark-驯化】一文搞懂Pyspark修改hive表描述以及增加列使用技巧

【Pyspark-驯化】一文搞懂Pyspark修改hive表描述以及增加列使用技巧本次修炼方法请往下查看欢迎莅临我的个人主页这里是我工作、学习、实践IT领域、真诚分享踩坑集合，智慧小天地！
算法驯化师·2024-08-24 13:43

【Pyspark-驯化】一文搞懂Pyspark写入hive表的使用技巧

【Pyspark-驯化】一文搞懂Pyspark写入hive表的使用技巧本次修炼方法请往下查看欢迎莅临我的个人主页这里是我工作、学习、实践IT领域、真诚分享踩坑集合，智慧小天地！
算法驯化师·2024-08-24 13:43

从零到一建设数据中台 - 关键技术汇总

数据分布式存储：HadoopHDFS离线批处理计算：MapReduce、Spark、Flink实时流式计算：Storm/SparkStreaming、Flink批处理消息队列：Kafka查询分析：Hbase、Hive
我码玄黄·2024-08-24 12:09

Kylin的工作原理及使用分享

Kylin提供了一个Hadoop之上的SQL查询接口及多维分析(OLAP)能力，能够支持大规模数据，处理TB乃至PB级别的分析任务，并且能够在亚秒级查询巨大的Hive表。
丁爸·2024-08-24 07:01

Xcode 14.3 Run、Build、Archive 报错

由于手机升级了iOS16.4，想要真机调试，Xcode也要升级到14.3，于是就升级了一下，结果各种报错。Run、Build报错Filenotfound:/Users/johnson/Downloads/Xcode-beta.app/Contents/Developer/Toolchains/XcodeDefault.xctoolchain/usr/lib/arc/libarclite_iphon
齐云霄霄·2024-08-23 14:31

Ubuntu下部署Hadoop集群+Hive（二）

Hadoop集群搭建准备环境hadoop-3.3.6.tar.gz，jdk-8u421-linux-x64.tar.gz根据自己的使用下载对的hadoop和jdk版本hadoop下载地址：ApacheHadoopJDK下载地址：JavaDownloads|Oracle在3台服务器上的/opt/目录下新建module和software文件夹，其中software文件夹用来存放软件包，module用来
岩屿·2024-08-23 14:46

iOS 关于 Cookie 验证登录状态

AFN取获取接口数据,Cookie已经写入了,所以无需处理,每次请求的时候,会自动将该cookie传给后台去验证.2.将Cookie缓存到本地NSData*cookiesData=[NSKeyedArchiverarchivedDataWithRootObject
路飞_Luck·2024-08-23 00:27

Unity3D直线绘制

http://blog.csdn.net/dzyi_/article/details/22937349原文地址:http://www.xuanyusong.com/archives/561任何一个无规则曲线它都是有若干个线段组成
爱串门的小马驹·2024-08-22 04:46

HiveSQL常见函数及使用方法（含代码示例）

HiveSQL（HiveSQL）是ApacheHive所使用的SQL方言，专门用于在Hadoop上进行大规模数据处理。以下是一些常见的HiveSQL函数及其使用方法：1.聚合函数COUNT统计记录数。
会飞的岛格酱·2024-08-21 21:31

Azkaban各种类型的Job编写

概述原生的Azkaban支持的plugin类型有以下这些：command：Linuxshell命令行任务gobblin：通用数据采集工具hadoopJava：运行hadoopMR任务java：原生java任务hive
__元昊__·2024-03-28 21:00

Linux（centos7）部署hive

前提环境：已部署完hadoop(HDFS、MapReduce、YARN)1、安装元数据服务MySQL切换root用户#更新密钥rpm--importhttps://repo.mysql.com/RPM-GPG-KEY-mysqL-2022#安装Mysqlyum库rpm-Uvhhttp://repo.mysql.com//mysql57-community-release-el7-7.noarch.
灯下夜无眠·2024-03-28 12:44

centos7中的MySQL安装

/bin/bashcd/rootmkdirmysql_tarwgethttps://downloads.mysql.com/archives/get/p/23/file/mysql-community-server
老伙子53·2024-03-27 00:16

CDH 启停使用HiveServer2

翻译：https://www.cloudera.com/documentation/enterprise/latest/topics/cdh_ig_hiveserver2_start_stop.html
金刚_30bf·2024-03-26 23:41

关于HDP的20道高级运维面试题

HDP（HortonworksDataPlatform）的主要组件包括Hadoop框架、HDFS、MapReduce、YARN以及Hadoop生态系统中的其他关键工具，如Spark、Flink、Hive
编织幻境的妖·2024-03-26 15:34

【Caddy】Caddy实践1——此网站无法提供安全连接

Caddy在另外一个机器上出现了错误，执行步骤如下：步骤一：添加Caddy软件源并安装执行以下命令添加Caddy的软件源并安装：sudoaptinstall-ydebian-keyringdebian-archive-keyringapt-transport-httpscurlcurl
鲁正杰·2024-03-24 12:31

hive sql实现查找商品表名称中包含敏感词的商品

背景用户上传的商品表一般会包含商品名称，由于这些商品名称是用户自己起的，里面可能包含了敏感词，需要通过sql找出来哪些商品的商品名称包含了敏感词汇hivesql实现查找商品表名称中包含敏感词的商品实现思路
lixia0417mul2·2024-03-24 03:50

大数据开发（Hive面试真题-卷二）

大数据开发（Hive面试真题）1、举几个Hive开窗函数例子？什么要有开窗函数，和聚集函数区别？2、说下Hive是什么？跟数据仓库区别？3、Hive架构？4、Hive数据倾斜以及解决方案？
Key-Key·2024-03-20 05:14

windows下用cmd命令netstat查看系统端口使用情况

转:https://www.cnblogs.com/lvxiuquan/archive/2012/08/22/2650507.html开始--运行--cmd进入命令提示符输入netstat-ano即可看到所有连接的
wmh188·2024-03-18 13:22

linux安装单机版spark3.5.0

一、spark介绍是一种通用的大数据计算框架，正如传统大数据技术Hadoop的MapReduce、Hive引擎，以及Storm流式实时计算引擎等.Spark主要用于大数据的计算二、spark下载spark3.5.0
爱上雪茄·2024-03-17 18:57

Hive中的NVL函数与COALESCE函数

ReturnsdefaultvalueifvalueisnullelsereturnsvalueExample:>SELECTnvl(null,'bla')FROMsrcLIMIT1;blaFunctionclass:org.apache.hadoop.hive.ql.udf.generic.GenericUDFNv
独影月下酌酒·2024-03-15 13:13

hive库表占用空间大小的命令

1、查每个hive表占用的空间大小hdfsdfs-du-h/user/hive/warehouse2、按占用空间大小降序排列hdfsdfs-du/user/hive/warehouse/ipms.db|
刀鋒偏冷·2024-03-15 13:13

Hive中常用函数 wm_concat & concat_ws & collect_set & sort_array总结

concat_ws&collect_set:应用1:usereach_iduser_id1id1user_id1id2user_id2id1user_id2id2user_id2id3user_id3id1useridsuser_id1id1,id2user_id2id1,id2,id3user_id3id1selectdt,user_id,concat_ws(',',collect_set(ea
Lens5935·2024-03-15 13:12

HIVE表中导入导出数据的几种方式

一：往HIVE表中导入导出数据语法结构:[]带括号的表示可选择字段LOADDATA[LOCAL]INPATH‘filepath’[OVERWRITE]INTOTABLEtablename[PARTITION
qq_37805784·2024-03-15 12:11

Hive中的CONCAT、CONCAT_WS与COLLECT_SET函数

1.CONCAT与CONCAT_WS函数1.1CONCAT函数--concat(str1,str2,...strN)-returnstheconcatenationofstr1,str2,...strNorconcat(bin1,bin2,...binN)-returnstheconcatenationofbytesinbinarydatabin1,bin2,...binNReturnsNULLi
独影月下酌酒·2024-03-15 11:09

03hive数仓安装与基础使用

hiveHive概述Hive是基于Hadoop的一个数据仓库工具。
daydayup9527·2024-03-14 13:39

Hive函数 LAG 和 LEAD 使用示例

Hive函数LAG和LEAD使用示例在Hive中LAG和LEAD是用于访问前一个或后一个行的函数，通常与窗口函数一起使用。
公子乂·2024-03-13 05:24

Apache Paimon 使用之Creating Catalogs

hivemetastore，将metadata存储在Hivemetastore中。用户可以直接从Hive访问表。
猫猫爱吃小鱼粮·2024-03-12 03:48

Sqoop一些常用命令及参数

命令类说明importImportTool将数据导入到集群exportExportTool将集群数据导出codegenCodeGenTool获取数据库中某张表数据生成Java并打包Jarcreate-hive-tableCreateHiveTableTool
大数据小同学·2024-03-11 09:19

Spark从入门到精通29:Spark SQL：工作原理剖析以及性能优化

SparkSQL工作原理剖析1.编写SQL语句只要是在数据库类型的技术里面，例如MySQL、Oracle等，包括现在大数据领域的数据仓库，例如Hive。
勇于自信·2024-03-11 00:20

hive--去除特殊字符regexp_replace

文章目录regexp_replace`'\tabc\ndef\rhij'`→`'abcdefhij'``'\tabc\ndef\rhij'`→`'abcdefhij'`看一下其他的情况regexp_replace'\tabc\ndef\rhij'→'abcdefhij'selectregexp_replace('\tabc\ndef\rhij','\n|\t|\r|','');'abcdefhij
韩家小志·2024-03-10 22:21

Hive--行转列/列转行

行转列/列转行一、lateralview案例1：与explode连用案例2：与parse_url_tuple连用二、explode三、行列转换行转列多行转多列多行转单列列转行多列转多行单列转多行一、lateralview分类：视图功能：配合UDTF来使用,把某一行数据拆分成多行数据很多的UDTF不能将结果与源表进行关联，使用lateralview，可以将UDTF拆分的单个字段数据与原始表数据关联上
韩家小志·2024-03-10 22:51

HiveSQL某天每个直播间最大在线人数

一张表dwd_user_log有如下字段：1）直播间：live_id2）用户:userid3）时间戳:date_stamp4）登陆类型:entry_type(登入in和登出out)求某天每个直播间最大在线人数？selectlive_id,max(total_users)max_total_usersfrom(selectlive_id,userid,date_stamp,sum(ind)over(
sofo2017·2024-03-09 21:51

Hive SQL 开发指南（三）优化及常见异常

在大数据领域，HiveSQL是一种常用的查询语言，用于在Hadoop上进行数据分析和处理。为了确保代码的可读性、维护性和性能，制定一套规范化的HiveSQL开发规范至关重要。
大数据_苡~·2024-03-09 14:13

大数据开发（Hadoop面试真题-卷九）

大数据开发（Hadoop面试真题）1、Hivecount(distinct)有几个reduce，海量数据会有什么问题？
Key-Key·2024-03-09 10:06

Hive分组排序取topN的sql查询示例

Hive分组排序取topN的sql查询示例要在Hive中实现分组排序并取每组的前N条记录，可以使用ROW_NUMBER()窗口函数结合PARTITIONBY和ORDERBY子句。
公子乂·2024-03-06 08:31

归档模式

1：归档日志文件在线日志——用于崩溃/实例恢复/介质恢复归档日志——用于介质恢复2：确认数据库是否为归档模式archiveloglist;--查看数据归档信息selectlog_modefromv$database
个人精进成长营·2024-03-06 08:12

hbase、hive、clickhouse对比

概念架构hbasemaster存储元数据、regionServer实际控制表数据，存储单位是Region，底层数据存储使用HDFShive通过driver将sql分解成mapreduce任务元数据需要单独存储到一个关系型数据库
freshrookie·2024-03-05 16:40

Mac 离线安装Qt5

1下载QT1.1.打开链接：https://download.qt.io/archive/qt/在这个链接上，可以看到不同版本的QT，我们选择稳定5.9/点开后，选择5.9.8版本，可以看到不同版本的QT
熊明之·2024-03-05 11:33

hive--字符串连接函数concat(),concat_ws()

一、字符串连接函数：concat功能：将多个字符串连接成一个字符串语法:concat(stringA,stringB…)返回值:string说明：返回输入字符串连接后的结果，支持任意个输入字符串举例：hive
nuhao_·2024-03-03 17:08

【Hadoop】使用Metorikku框架读取hive数据统计分析写入mysql

一、定义作业文件作业文件该文件将包括输入源、输出目标和要执行的配置文件的位置，具体内容如下metrics:-/user/xrx/qdb.yaml#此位置为hdfs文件系统目录inputs:output:jdbc:connectionUrl:"jdbc:mysql://233.233.233.233:3306/sjjc"user:"root"password:"123456"driver:"com.
方大刚233·2024-03-03 06:23

hive join中出现的数据暴增（数据重复）

什么是join过程中导致的数据暴增？例如：给左表的每个用户打上是否是新用户的标签，左表的用户数为100，但是关联右表之后，得到的用户数为200甚至更多什么原因导致的数据暴增呢？我们来看一下案例：spark-sql>withtest1as>(select'10001'asuid,'xiaomi'asqid>unionall>select'10002'asuid,'huawei'asqid>union
不想起的昵称·2024-03-02 15:03

hive四种常见的join

1.左连接leftjoinspark-sql>withtest1as(>select1asuser_id,'xiaoming'asname>unionall>select2asuser_id,'xiaolan'asname>unionall>select3asuser_id,'xiaoxin'asname>),>>test2as(>select1asuser_id,19asage>unionall
不想起的昵称·2024-03-02 15:33

【Java编程进阶之路 04】深入探索：Java类加载器与双亲委派 & 打破双亲委派桎梏

文章目录导言01双亲委派模型的基本概念02双亲委派模型的工作流程03双亲委派模型的优势04双亲委派模型在Java生态系统中的应用05如何打破双亲委派模型5.1线程上下文类加载器5.2类加载器的代理模式5.3使用JavaAgent和InstrumentationAPI步骤1:编写一个JavaAgent步骤2:打包JavaAgent步骤3:使用JavaAgent步骤4:使用Instrumentatio
浅夏的猫·2024-03-01 04:42

【Java编程进阶之路 06】深入探索：JDK、JRE与JVM的关系与差异

JDK、JRE与JVM：揭开Java运行环境的神秘面纱在Java开发者的日常工作中，JDK、JRE和JVM这三个概念是不可或缺的。它们构成了Java应用程序的运行环境，但很多初学者可能对这三者的关系和差异感到困惑。本文旨在详细解析JDK、JRE和JVM之间的关系，帮助读者更好地理解Java的运行机制。01JDK：Java开发工具包1.1定义与重要性JDK是Java开发工具包，它提供了开发、调试和运
浅夏的猫·2024-02-29 20:31

Spark整合hive（保姆级教程）

准备工作：1、需要安装配置好hive，如果不会安装可以跳转到Linux下编写脚本自动安装hive2、需要安装配置好spark，如果不会安装可以跳转到Spark安装与配置（单机版）3、需要安装配置好Hadoop
万家林·2024-02-29 09:47

Hive复杂数据类型之array

定义格式如下：createtabletableName(......colNamearray......)说明：下标从0开始，越界不报错，以null代替案例准备：测试数据zhangsan78,89,92,96lisi67,75,83,94王五23,12createtableifnotexistsarr1(namestring,scoresarray)rowformatdelimitedfields
鸭梨山大哎·2024-02-28 08:48

Hive数据仓库行转列

查了很多资料发现网上很多文章都是转发和抄袭，有些问题。这里分享一个自己项目中使用的行转列例子，供大家参考。代码如下：SELECTmy_id,nm_cd_map['A']ASmy_cd_a,nm_cd_map['B']ASmy_cd_b,nm_cd_map['C']ASmy_cd_c,nm_num_map['A']ASmy_num_a,nm_num_map['B']ASmy_num_b,nm_num
XueminXu·2024-02-28 07:47

Hive--删除数据库

一、删除数据库注意：Hive与MySQL再删除数据库时是有一点不一样的。Hive再删除数据库操作时，要保证该库下没有任何数据表！
nuhao_·2024-02-26 19:33

Java面试八股文

面渣逆袭必看，面试题八股文Java基础、Java集合框架、Java并发编程、JVM、Spring、Redis、MyBatis、MySQL、操作系统、计算机网络、RocketMQ、分布式、微服务|二哥的Java进阶之路
翁正存·2024-02-26 05:16

转载：Linux全自动批量配置SSH免密

转载自https://www.mr-mao.cn/archives/auto-configure-ssh-nopass-login.html1、在主机的操作系统上安装expect2、新建host_ip文件
徐sir（徐慧阳）·2024-02-26 04:14
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他