Hive开发总结

hive之Map Join使用方法

目录介绍mapjoin的使用方法结语介绍MAPJION会把小表全部加载到内存中，在map阶段直接拿另外一个表的数据和内存中表数据做匹配，由于在map端是进行了join操作，省去了reduce运行的时间，算是hive
IMezZ·2024-01-05 10:42

【Spark精讲】Spark on Hive性能优化

目录第一章1.1集群配置概述1.2集群规划概述第二章Yarn配置2.1Yarn配置说明yarn.nodemanager.resource.memory-mbyarn.nodemanager.resource.cpu-vcoresyarn.scheduler.maximum-allocation-mbyarn.scheduler.minimum-allocation-mb第三章Spark的配置说明3
话数Science·2024-01-05 10:10

启动hive报错org.datanucleus.exceptions.NucleusException:Error creating transactional connecCtion factory

一、问题描述安装完hive后，在启动时报错：org.datanucleus.exceptions.NucleusException:ErrorcreatingtransactionalconnecCtionfactory
哇咔咔哇咔·2024-01-05 09:54

如何下载R语言的最新版本和旧版本

R语言官网地址：R:TheRProjectforStatisticalComputing(r-project.org)国内清华镜像：TheComprehensiveRArchiveNetwork(tsinghua.edu.cn
哇咔咔哇咔·2024-01-05 09:23

No suitable application records were found. Verify your bundle identifier 'XXXXXXXXXX' is correct.

问题描述今天在向AppStoreConnect提交新构建的app时，Archive-DistributeApp后，显示“Nosuitableapplicationrecordswerefound.Verifyyourbundleidentifier'XXXXX'iscorrect
NapoleonY·2024-01-05 08:56

Hive11_Rank函数

Rank1）函数说明RANK()排序相同时会重复，总数不会变DENSE_RANK()排序相同时会重复，总数会减少ROW_NUMBER()会根据顺序计算2）数据准备3）需求计算每门学科成绩排名。4）创建本地score.txt，导入数据[root@localhostdatas]$viscore.txt孙悟空语文87孙悟空数学95孙悟空英语68大海语文94大海数学56大海英语84宋宋语文64宋宋数学86
程序喵猴·2024-01-05 08:44

Hive10_窗口函数

窗口函数（开窗函数）1相关函数说明普通的聚合函数聚合的行集是组,开窗函数聚合的行集是窗口。因此,普通的聚合函数每组(Groupby)只返回一个值，而开窗函数则可为窗口中的每行都返回一个值。简单理解，就是对查询的结果多出一列，这一列可以是聚合值，也可以是排序值。开窗函数一般分为两类,聚合开窗函数和排序开窗函数。OVER()：指定分析函数工作的数据窗口大小，这个数据窗口大小可能会随着行的变而变CURR
程序喵猴·2024-01-05 08:13

Hive实战处理（二十三）hive整合phoenix

背景：业务表使用hbase存储,使用hive整合phoenix，使用sql语句进行数据查询（如果可以的话使用网关API对外提供服务）统一接口调用，查询上线比较高效。
sheep8521·2024-01-05 08:13

datax不支持对hive hdfs(ha)高可用 的hdfsreader（即无法读取到HDFS多节点高可用）.

处理方案：采用引入CDH的hive、hdfs等配置文件到hdfsreader,jar替换原的jar文件解决。
whbi·2024-01-05 08:06

hive问题记录

expected.at[row,col,system-id]:[48,15,"file:/opt/cloudera/parcels/CDH-6.3.2-1.cdh6.3.2.p0.1605554/etc/hive
李小晨同学·2024-01-05 08:02

【Spark精讲】性能优化：并行度

端并行度RDD：参数：spark.default.parallelism手动：groupByKey(10)，10即为并行度SparkSQL：参数：spark.sql.shuffle.partitionsHiveonSpark
话数Science·2024-01-05 07:58

Mac上安装MySQL

MySQL官网上http://dev.mysql.com/downloads/mysql/，下载mysql可安装dmg版本以5.7.14为例：MacOSX10.11(x86,64-bit),DMGArchive
喜叔z·2024-01-05 05:24

HBase 和 Hive 的差别是什么，各自适用在什么场景中？

转载自（爱我的程序人生）Hbase和Hive在大数据架构中处在不同位置，Hbase主要解决实时数据查询问题，Hive主要解决数据处理和计算问题，一般是配合使用。
杰在天涯·2024-01-05 05:23

ekho环境Linux通过Docker安装

第一步下载ekho-master源码https://github.com/hgneng/ekho/archive/master.zip第二步创建DockerFile#使用Ubuntu作为基础镜像FROMubuntu
月慕向阳·2024-01-05 02:52

黑猴子的家：Hive查询之排序

全局排序（OrderBy）1）使用ORDERBY子句排序ASC（ascend）:升序（默认）DESC（descend）:降序2）ORDERBY子句在SELECT语句的结尾案例查询员工信息按工资升序排列hive
黑猴子的家·2024-01-05 02:23

访问 JetPack 存档

存档：https://developer.nvidia.cn/zh-cn/embedded/jetpackhttps://developer.nvidia.cn/embedded/jetpack-archiveSDKManager
南沙的星星·2024-01-05 02:33

impala + kudu | 大数据实时计算踩坑优化指南

一开始需要全量导入kudu，这时候我们先用sqoop把关系数据库数据导入临时表，再用impala从临时表导入kudu目标表由于sqoop从关系型数据直接以parquet格式导入hive会有问题，这里默认
王知无(import_bigdata)·2024-01-04 23:41

拒绝纸张浪费，Paperless-ngx开源文档管理系统将纸质版转换成可搜索的电子版档案

GitHub-paperless-ngx/paperless-ngx:Acommunity-supportedsuperchargedversionofpaperless:scan,indexandarchiveallyourphysicaldocuments
喜好儿aigc·2024-01-04 22:59

Hive基本使用（2）

hiveDML数据操作一、数据导入1.向表中装载数据（Load）语法：hive>loaddata[local]inpath‘数据的path’[overwrite]intotablestudent[partition
DIY……·2024-01-04 22:42

hive常用的函数

一、概述1.查看系统自带的函数showfunctions;hive(dyhtest)>showfunctions;OKtab_name!!
DIY……·2024-01-04 22:42

hive优化

一、执行计划（Explain）基本语法EXPLAIN[EXTENDED|DEPENDENCY|AUTHORIZATION]querydemo:hive(dyhtest)>explainselect*fromemp
DIY……·2024-01-04 22:42

Hive基本使用（1）

这里写目录标题#HiveDDL数据定义1.显示数据库2.创建数据库3.查看数据库详情4.修改数据库5.删除数据库6.建表#HiveDDL数据定义1.显示数据库hive(dyhtest)>showdatabases
DIY……·2024-01-04 22:12

mysql之四大引擎、账号管理以及建库

目录一、数据库存储引擎1.1存储引擎查看1.2四大引擎1.2.1InnoDB1.2.2MyISAM1.2.3MEMORY1.2.4Aichive二、数据库管理2.1元数据库简介2.2元数据库分类2.2.1information_schema2.2.2mysql2.2.3performance_schema2.3
小黎同学.·2024-01-04 20:17

Redis在Window服务下的安装

Redis安装1.首先在Windows下下载安装Redis下载地址：https://github.com/MicrosoftArchive/redis/releases图片.png根据你电脑系统的实际情况选择
KavinDotG·2024-01-04 18:43

MySQL之四大引擎、账号管理以及建库

目录数据库存储引擎简介存储引擎得查看support字段说明InnoDBMyISAMMEMORYArchive数据库管理元数据库简介元数据库分类相关操作MySQL库数据表管理三大范式基本数据类型优化原则整形实数字符串
懒大王o·2024-01-04 17:16

Linux第3步_安装Ubuntu操作系统

等几秒钟，得到下面的界面：4、点击“CD/DVD”，得到下图：5、选择“使用ISO映像文件(M)”，见下图：6、点击“浏览”，选择“ubuntu-18.04.5-desktop-amd64.isoArchive
LaoZhangGong123·2024-01-04 16:49

漏洞环境搭建（利用ubuntu）

dockercurl-shttps://get.docker.com/|sh运行docker服务systemctlstartdocker3.下载项目​wgethttps://github.com/vulhub/vulhub/archive
金灰·2024-01-04 16:16

（十一）数据分片(Sharding)和数据分区(PARTITIONing)简述

虽然可能跟其它的例如HBase、Hive之类的比有些差异和不足，但并不影响壮志。
紫狐挽诗·2024-01-04 14:36

Hudi介绍

记录每一次操作类型、状态及详细的元数据，这些Instant最终都会存到.hoodie元数据目录下，为了避免元数据文件数量过多，ActiveTimeline越来越长，需要对比较久远的操作进行归档（archive
实时即未来·2024-01-04 11:38

Lua中使用List

Postedon2008-10-2611:06剑孤寒http://groups.google.com/group/jianguhanhttp://www.cppblog.com/jianguhan/archive
cwq水域·2024-01-04 11:01

Flume基础知识（四）：Flume实战之实时监控单个追加文件

1）案例需求：实时监控Hive日志，并上传到HDFS中2）需求分析：3）实现步骤：（1）Flume要想将数据输出到HDFS，依赖Hadoop相关jar包检查/etc/profile.d/my_env.sh
依晴无旧·2024-01-04 10:08

学习MySQL(5.7)第二战：四大引擎、账号管理以及建库（干货满满）

目录前言：一.数据库存储引擎1.存储引擎简介存储引擎查看support字段说明2.四大引擎详细介绍InnoDBMylSAMMEMORYArchive二.数据库管理1.元数据库简介2.元数据库分类infomation_schemamysqlperformance_schema
默o。·2024-01-04 10:16

Java技术栈 —— Hadoop入门（一）

Hadoop三、Hadoop解析3.1Hadoop生态介绍3.1.1MapReduce-核心组件3.1.2HDFS-核心组件3.1.3YARN-核心组件3.1.4其它组件3.1.4.1HBase3.1.4.2Hive3.1.4.3Spark
键盘国治理专家·2024-01-04 08:02

【hive】报错累积

6.1创建新表错误1：FAILED:SemanticException[Error10006]:Line1:63Partitionnotfound'"20210919"'场景：在创建例行表时，报错。这种情况是先创建了多级分区表（date，product），在落表跑数时只指定了一个分区（date）解决：修改分区字段，与已有表里保持一致；或者删掉已有表，重新落表错误2：FAILED:SemanticE
零壹贰伍·2024-01-04 08:59

Hive中用户自定义函数UDF UDTF UDAF

概述Hive自带了一些函数，比如：max/min等，但是数量有限，当Hive提供的内置函数无法满足你的业务处理需要时，此时就可以考虑使用用户自定义函数（UDF：user-definedfunction）
17245·2024-01-04 08:29

HIVE自定义函数--UDF函数（用户自定义函数）详解

虽然HIVE当中的函数功能很强大，但是有的时候我们需要自定义函数，今天我们介绍一个最简单的函数，UDF函数.当Hive提供的内置函数无法满足你的业务处理需要时，此时就可以考虑使用用户自定义函数（UDF：
一只懒得睁眼的猫·2024-01-04 08:27

Hive用户自定义函数之UDF开发

在进行大数据分析或者开发的时候，难免用到Hive进行数据查询分析，Hive内置很多函数，但是会有一部分需求需要自己开发，这个时候就需要自定义函数了，Hive的自定义函数开发非常方便，今天首先讲一下UDF
枫叶梨花·2024-01-04 08:56

MySQL之四大引擎、建库建表以及账号管理

目录一.数据库存储引擎1.1存储引擎查看1.2InnoDB1.3MyISAM1.4MEMORY1.5ARCHIVE二.数据库管理2.1元数据库简介2.2元数据库分类2.3数据库的增删改查及使用：2.4MySQL
廖彩雲·2024-01-04 08:26

IoTDB 集群部署——windows

本文的测试环境为windowserver2016，版本包为1.1.0，jdk版本为1.8首先下载IoTDB版本包，链接地址如下https://archive.apache.org/dist/iotdb/
zhu1361·2024-01-04 07:54

利用python将excel文件转成txt文件，再将txt文件上传hdfs，最后传入hive中

将excel文件转成txt文件，再将txt文件上传hdfs，最后传入hive中1.利用python将excel转成txt文件#!
m0_37759590·2024-01-04 06:03

对比Pig、Hive和SQL，浅看大数据工具之间的差异

本文，DeZyre公司专家ManishaNandyMazumder对比了Pig、Hive和SQL的区别，并为读者浅谈了一些选择标准。
MayerBin·2024-01-04 06:09

【数据库】MySQL数据库存储引擎、数据库管理和数据库账号管理

【数据库】MySQL数据库存储引擎、数据库管理和数据库账号管理一常用的数据引擎1.1InnoDB存储引擎1.2MyISAM存储引擎1.3Memory存储引擎1.4ARCHIVE存储引擎二数据库管理2.1
匿瘾:·2024-01-04 06:19

hiveSQL基本语句三-----连接查询--inner join、left join、full join、union all、union

一、(inner)join连接2个表，取出公共部分必须重命名on后连接条件键值唯一连接前注意去重，提高效率inner可省略select*fromuser_list_1asainnerjoinuser_list_2asbona.user_id=b.user_id;三表连接selecta.user_namefrom(selectdistinctuser_namefromdata1)asainnerjo
cc抱富·2024-01-04 04:42

Ubuntu 安装 cuda

下载去https://developer.nvidia.com/cuda-toolkit-archive下载需要版本的cuda。下载的文件不只有cuda，还有对应的驱动。
几簟生凉·2024-01-04 03:10

Hive08_分区表

Hive中的分区就是分目录，把一个大的数据集根据业务需要分割成小的数据集。在查询时通过WHERE子句中的表达式选择查询所需要的指定的分区，这样的查询效率会提高很多。
程序喵猴·2024-01-04 02:00

Hive09_函数

HIVE函数系统内置函数1）查看系统自带的函数hive>showfunctions;2）显示自带的函数的用法hive>descfunctionupper;3）详细显示自带的函数的用法hive>descfunctionextendedupper
程序喵猴·2024-01-04 02:27

从零开始了解大数据(六)：数据仓库Hive篇

目录前言一、数据仓库基本概念二、ApacheHive入门1.ApacheHive概述2.ApacheHive架构与组件三、ApacheHive安装部署1.ApacheHive部署实战(1)Hadoop与
橘子-青衫·2024-01-04 02:51

从零开始了解大数据(七)：总结

博客从零开始了解大数据(三)：HDFS分布式文件系统篇-CSDN博客从零开始了解大数据(四)：MapReduce篇-CSDN博客从零开始了解大数据(五)：YARN篇-CSDN博客从零开始了解大数据(六)：数据仓库Hive
橘子-青衫·2024-01-04 02:19

qt下载与安装

//mirrors.tuna.tsinghua.edu.cn/qt/official_releases/online_installers/或者网址https://download.qt.io/archive
猪八戒1.0·2024-01-04 01:10

ALSA学习(2)——pcm设备逻辑

结构详解2.1pcm框图2.2pcm代码框架三、pcm声卡创建四、设备文件节点建立4.1snd_minor保存信息参考学习地址：https://www.cnblogs.com/jason-lu/archive
永不秃头的程序员·2024-01-04 01:03
上一页 29 30 31 32 33 34 35 36 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他