hive数据加载

Hive 优化总结

Hive优化本质：HDFS+MapReduce问题原因：倾斜：分区：有的分区没有数据，有的分区数据堆积。(若按天分区，每一天数据差别大就叫倾斜。)
Byyyi耀·2024-01-24 10:25

Hive之set参数大全-12

指定是否尝试在HiveMetastore中使用直接SQL查询执行DDL（数据定义语言）操作hive.metastore.try.direct.sql.ddl是Hive的配置参数之一，用于指定是否尝试在HiveMetastore
OnePandas·2024-01-24 10:55

Hive之set参数大全-13

是否进行编译时优化hive.optimize.skewjoin.compiletime是一个Hive配置参数，用于控制在执行SkewJoin操作时是否进行编译时优化。
OnePandas·2024-01-24 10:55

hive 行列转化

用SQL判断字段串中连续出现两个以上的数字，并返回对应的数字withaas(selectexplode(split(regexp_replace(‘sdfsd1232sdf324’,‘[0-9]+’,‘,’),‘,’))col)select*fromawhereLENGTH(col)>1结果为sdfsdsdfselectexplode(split(regexp_replace(‘sdfsd1232
KANGBboy·2024-01-24 10:53

Hive 行列转换

行列转换列转行使用lateralview+explode(array|map)或lateralview+inline(array_struct)可以将列转换为行。单列转多行，降维（单列数组或键值对）示例1：explode(array(…))select...,AfromTlateralviewexplode(ARRAY_FIELD)asA;selectexplode(`array`(88.2,98
Byyyi耀·2024-01-24 10:51

linux netstat命令

转载Linuxnetstat命令详解-ggjucheng-博客园(cnblogs.com)https://www.cnblogs.com/ggjucheng/archive/2012/01/08/2316661
你好，此用户已存在·2024-01-24 09:30

Hudi0.14.0集成Spark3.2.3（Spark SQL方式）

1整合HiveForuserswhohaveSpark-Hiveintegrationintheirenvironment,thisguideassumesthatyouhavetheappropriatesettingsconfiguredtoallowSparktocreatetablesandregisterinHiveMetastore
跟着大数据和AI去旅行·2024-01-24 08:05

银行数据仓库体系实践（4）--数据抽取和加载

L：加载，将数据加载到目标数据库(Target)。ELT也是同样三个单词的首字母组合，只是把T、L颠倒了下顺序。ETL强调的是先进
南极找南·2024-01-24 07:12

Oracle 19c RAC集群管理 ---------关键参数以及常用命令

Oracle19cRAC集群管理---------关键参数Oracle19CRAC参数最佳实践--开启强制归档ALTERDATABASEFORCELOGGING;--设置30分钟强制归档ALTERSYSTEMSETARCHIVE_LAG_TARGET
加油鸭啦啦啦啦·2024-01-24 07:27

flink-java使用介绍，flink，java

1.18/zh/仓库：https://github.com/apache/flink下载：https://flink.apache.org/zh/downloads/下载指定版本：https://archive.apache.org
raoxiaoya·2024-01-24 07:47

记一次Flink通过Kafka写入MySQL的过程

transform-->sink,即从source获取相应的数据来源，然后进行数据转换，将数据从比较乱的格式，转换成我们需要的格式，转换处理后，然后进行sink功能，也就是将数据写入的相应的数据库DB中或者写入Hive
梦痕长情·2024-01-24 07:17

tableau mysql 驱动安装

MySQL::DownloadMySQLConnector/ODBC(ArchivedVersions)
CCCHHH333·2024-01-24 07:17

Hadoop安装配置HBase

1、文件准备http://archive.apache.org/dist/hbase/1.3.1/下载hbase-1.3.1-bin.tar.gz并上传到虚拟机/root目录下。
m0_69595107·2024-01-24 06:10

Redis

什么是RedisRedis是有C语言开发的开源的高性能的键值对内存数据库,是一种单线程非关系型数据库(NOSQL),不存在线程安全问题,可用作数据库,缓存,消息中间键,分布式锁,数据加载在内存中,读写效率高
百事可乐丶·2024-01-24 04:04

【Ubuntu】Ubuntu安装微信

1.1安装WineWine环境包下载地址：http://archive
Do_GH·2024-01-24 02:45

Hive分析窗口函数(五) GROUPING SETS,GROUPING__ID,CUBE,ROLLUP

Hive分析窗口函数(五)GROUPINGSETS,GROUPING__ID,CUBE,ROLLUP这几个分析函数通常用于OLAP中，不能累加，而且需要根据不同维度上钻和下钻的指标统计，比如，分小时、天
bigdata张凯翔·2024-01-24 02:45

springboot项目打包jar和war有什么区别

SpringBoot项目可以打包成可执行的JAR（JavaArchive）文件或WAR（WebArchive）文件，两者之间有一些区别：JAR（可执行的JavaArchive）：JAR文件是一种常见的Java
CoolTiger、·2024-01-24 00:39

mui图片懒加载 - 动态加载数据

准备工作：必须引入两个js文件：1、mui.lazyload.js2、mui.lazyload.img.js//当数据动态加载时要展示的img元素写法;//该方法在数据加载完成后调用就行。
一个记事本·2024-01-23 23:11

redis基本用法

Redis安装包分为windows版和Linux版：Windows版下载地址：https://github.com/microsoftarchive/redis/releasesLinux版下载地址：https
NL_LIU·2024-01-23 22:01

Hive基础(十二)-hive 存储，解析，处理json数据

hive存储，解析，处理json数据hive处理json数据总体来说有两个方向的路走将json以字符串的方式整个导入Hive表，然后通过使用UDF函数解析已经导入到hive中的数据，比如使用LATERALVIEWjson_tuple
bigdata张凯翔·2024-01-23 22:00

在hive插入数据时出现“Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask”报错

SQL错误[2][08S01]:Errorwhileprocessingstatement:FAILED:ExecutionError,returncode2fromorg.apache.hadoop.hive.ql.exec.mr.MapRedTaskErrorwhileprocessingstatement
絲箹·2024-01-23 21:50

设计模式学习总结

责任链模式使用方法：1.创建接口2.定义实现类，每个实现类实现接口，并拥有一个ArchiveHandle的成员，用作责任链的链接publicinterfaceArchiveHandle{   voidhandle
qq_56876713·2024-01-23 21:16

[pytorch入门] 5. DataLoader的使用

简介dataset：数据集，提供数据dataloader：数据加载器，对数据进行加载，可以讲数据加载到神经网络当中从dataset中取数据时，通过在dataloader中设置参数来确定取数据的方式用法要
晴空对晚照·2024-01-23 18:34

PLC不用编程也不用二次开发实现JSON文件MQTT发布与订阅

本案例是采用IGT-DSER智能网关，实现PLC变量寄存器地址通过一个免费的MQTT服务端(Broker：broker.hivemq.com:1883)，与MQTT的其它客户端双向通讯。
智能工厂·2024-01-23 18:14

Win7快速部署weblogic 12c

windows-x64weblogic12.2.1.30x02下载地址JDK下载地址https://www.oracle.com/java/technologies/javase/javase8-archive-downloads.htmljdk1.8
counsellor·2024-01-23 16:10

Qt Linux安装qt5.9全过程

1准备好安装包qt安装包下载官网:https://download.qt.io/archive/qt2将安装包放到Linux环境下我这里使用WinSCP将windows下的文件传输到Linux3.
江凡心·2024-01-23 13:45

【HIVE】系统数据分析实战 汽车销售数据随机生成

文章目录一、生成测试数据二、创建HIVE数据库1.创建数据库2.装载数据3.查看数据一、生成测试数据#利用Python随机生成一份汽车销售数据，共100行，包括销售时间、销售地点、车辆类型、车辆型号、制造商
奥利文儿·2024-01-23 12:29

大厂大数据面试题收录（1）

8.Hivesql到MapReduce转化的流程清楚吗？
后季暖·2024-01-23 11:49

如何突破网站对selenium的屏蔽

http://www.site-digger.com/html/articles/20180821/653.html使用selenium模拟浏览器进行数据抓取无疑是当下最通用的数据采集方案，它通吃各种数据加载方式
长亭远望夜色微凉·2024-01-23 10:03

Hadoop基本介绍

1、Hadoop的整体框架Hadoop由HDFS、MapReduce、HBase、Hive和ZooKeeper等成员组成，其中最基础最重要元素为底层用于存储集群中所有存储节点文件的文件系统HDFS（HadoopDistributedFileSystem
w蕾丝·2024-01-23 08:53

DATAX的架构和运行原理

一.概念DATAX呢就是把各个不同构的数据库进行同步的过程，具体有hdfshiveOracle等等吧。二.架构1.设计原理显而易见从强连通图到星形图，大大的简化了工作量。
加林so cool·2024-01-23 08:37

Sqoop数据导入到Hive表的最佳实践

将数据从关系型数据库导入到Hive表是大数据领域中的常见任务之一，Sqoop是一个强大的工具，可以帮助实现这一目标。
晓之以理的喵~~·2024-01-23 07:35

HIVE中关联键类型不同导致数据重复，以及数据倾斜

比如左表关联键是string类型，右表关联键是bigint类型，关联后会出现多条的情况解决方案：关联键先统一转成string类型再进行关联原因：根据HIVE版本不同，数据位数上限不同，低版本的超过16位会出现这种情况
帅成一匹马·2024-01-23 07:34

cdh6.3.2的hive配udf

之后就可以永久使用了，重启hs2也可以调研先查的hive官网https://cwiki.apache.org/confluence/display/Hive/LanguageManual+UDF#La
zdkdchao·2024-01-23 07:02

究极保姆式教你如何在Ubuntu上源码安装Qt5.15.2

**Ubuntu下Qt5.15.2源码安装环境：Ubuntu18.04（qt5.15.2要求最少也得在18.04以上）一．下载源码1.打开官网：https://download.qt.io/archive
程序小白的成长旅程·2024-01-23 06:17

Hive 拉链表详解及实例

拉链表版本迭代：hive0.14slowlychangingdimension=>hive2.6.0merge事务管理原来采用分区表，用户分区存储历史增量数据，缺点是重复数据太多定义：数仓用于解决持续增长且存在一定时间时间范围内重复的数据存储
Byyyi耀·2024-01-23 06:45

Hive 数仓及数仓设计方案

数仓(DataWarehouse)数据仓库存在的意义在于对企业的所有数据进行汇总，为企业各个部门提供一个统一、规范的出口。做数仓就是做方案，是用数据治理企业的方案。数据仓库的特点面向主题集成公司中不同的部门都会去数据仓库中拿数据，把独立从数据仓库中拿数据的单元，称为一个主题。数据仓库中的数据是从各个分散的数据库中抽取出来的，需要进行完整集合，还要进行数据处理。涉及的数据操作主要是查询数仓的本质能够
Byyyi耀·2024-01-23 06:34

zeppelin部署文档

后台支持接入多种数据处理引擎，如spark，hive等。
不加班程序员·2024-01-23 06:54

数仓建设 - 维度建模 - DIM维度

表结构设计3.2ETL任务脚本四、地区维度表4.1表结构设计4.2ETL任务脚本五、日期维度表六、用户维度表6.1表结构设计6.2ETL任务脚本前置：准备数据库[hadoop@hadoop102apache-hive
m0_46218511·2024-01-23 05:14

jenkins ios 配置

结果登录打包机看了一下发下是硬盘空间还有80G后来想想证书好像换了，所以就去检查了一下打包机的证书，果然，证书不对，导入新的证书后，发现打包还是不对，然后重新核对导出文件，结果发现导出文件也是各种对不上，所以本地又archive
张_何·2024-01-23 05:10

Presto

完全基于内存的并行计算的分布式SQL查询引擎，是一种Massivelyparallelprocessing(MPP)架构，多个节点管道式执行，适用于交互式分析查询，数据量支持GB到PB字节，presto的查询速度比hive
Cool_Pepsi·2024-01-23 02:43

Hadoop -- Hive

文章目录1.什么是hive？1.1基本思想1.2为什么使用hive？
Cool_Pepsi·2024-01-23 02:12

Hadoop -- ZooKeeper

ZooKeeper就是动物园管理员，他是用来管hadoop（大象）、Hive(蜜蜂)等的管理员。
Cool_Pepsi·2024-01-23 02:42

Hive 自定义函数

系统内置函数查看系统内置函数hive>showfunctions;显示内置函数用法hive>descfunction函数名;详细显示内置函数用法hive>descfunctionextended函数名;
歌哥居士·2024-01-23 01:41

c语言进阶（1）

将程序数据加载到内存当中，让计算机运行。任何程序在运行之前，都必须被加载到内存当中。接着让我们思考两个问题：1.为什么程序运行之前都要被加载到内存当中？快2.在程序被加载到内存之前，程序在哪里？
GISer_pearl·2024-01-23 00:14

CDH6.2 集群离线部署

免密码登录认证在cm-server服务器上下载CDH6.2相关的安装包安装nginx做cm本地yumrepo服务器安装postgressql安装和配置cm-server配置CDH集群CDH集群配置lzo压缩hive
那些、快乐。·2024-01-22 21:44

1. 线程和进程的区别？

指令加载至CPU，数据加载至内存。指令运行过程中还需要用到磁盘、网络等设备。（IO）进程就是用来加载指令、管理内存、管理IO的。当一个程序被运行，从磁盘加载这个程序的代码至内存，这时就开启了一个进程。
java牛虻·2024-01-22 20:22

Xcode 清理缓存，瘦身

路径：1~/Library/Developer/Xcode/DerivedData释放空间：0~xxGB移除APP打包的ipa历史版本(Archives)删除后不可恢复，文件夹是按照日期排列的，
西充小凡哥·2024-01-22 19:57

Impala：基于内存的MPP查询引擎

Impala查询引擎1、Impala概述1.1、Impala简介1.2、Impala的特点1.3、Impala与Hive1、Impala概述1.1、Impala简介Impala是Cloudera公司主导研发的高性能
对许·2024-01-22 17:26

前端渲染和后端渲染与前端路由和后端路由的发展

1595928489205.png前后端没有分离HTML代码CSS代码和数据以及逻辑都是混在一起的,不利于编写和维护,而且后端人员负责大多数事情,前端想要编写都必须会后端java或者PHP语言服务端渲染的模板引擎数据加载较慢
柴桑鹿郎·2024-01-22 17:39
上一页 17 18 19 20 21 22 23 24 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他