数据仓库&Hive 第32页

【DolphinScheduler】datax读取hive分区表时，空分区、分区无数据任务报错问题解决

DolphinScheduler的Datax组件时，遇到这么一个问题：之前给客户使用海豚做的离线数仓的分层搭建，一直都运行好好的，过了个元旦，这几天突然在数仓做任务时报错，具体报错信息如下：问题一：datax读取hive

Alex_81D·2024-01-12 08:49

Hive基础

hive的基础部分大致有四部分：Hive数据类型、Hive运算符、Hive数据存储、Hive表存储格式。这四部分是学习hive必须掌握的知识。

冬瓜的编程笔记·2024-01-12 08:16

基于JavaWeb+BS架构+SpringBoot+Vue基于hive旅游数据的分析与应用系统的设计和实现

基于JavaWeb+BS架构+SpringBoot+Vue基于hive旅游数据的分析与应用系统的设计和实现文末获取源码Lun文目录前言主要技术系统设计功能截图订阅经典源码专栏Java项目精品实战案例《500

FREE技术·2024-01-12 07:01

大数据 Hive - 实现SQL执行

文章目录MapReduce实现SQL的原理Hive的架构Hive如何实现join操作小结MapReduce的出现大大简化了大数据编程的难度，使得大数据计算不再是高不可攀的技术圣殿，普通工程师也能使用MapReduce

善守的大龙猫·2024-01-12 07:37

【大数据面试】常见数仓建模面试题附答案

话数Science·2024-01-12 07:28

Spark on Hive及 Spark SQL的运行机制

SparkonHive集成原理HiveServer2的主要作用:接收SQL语句，进行语法检查；解析SQL语句；优化；将SQL转变成MapReduce程序，提交到Yarn集群上运行SparkSQL与Hive

小希 fighting·2024-01-12 07:56

mysql8 linux安装过程（通用版）

下载：通用版，建议用tar.gz包下载地址：https://downloads.mysql.com/archives/community/注意选项：选linux-Generic以及架构和位数OperatingSystem

Davide~苏·2024-01-12 06:00

Zookeeper+Hadoop+Spark+Flink+Kafka+Hbase+Hive

说明Zookeeper+Hadoop+Spark+Flink+Kafka+Hbase+Hive完全分布式高可用集群搭建下载https://archive.apache.org/dist/我最终选择Zookeeper3.7.1

nsa65223·2024-01-12 06:08

如何快速了解一个新的领域？

（原文链接请见：http://www.zreading.cn/archives/4604.html）作者介绍要快速进入一个全新的知识领域需要4个步骤：1、大量泛读，以让大脑爆掉为目标，找到所有能找到的关于这个新领域的文章

杜松树·2024-01-12 06:19

apk编译时固定R.id

场景热修复生成补丁时，基线apk和修复后apk中资源id固定，可以有效减少补丁大小创建ids_keep.gradle文件android.aaptOptions{//归档目录:rootProject/archivedStringdirName

yin_xin·2024-01-12 04:40

PandoraNext—一个让你呼吸顺畅的ChatGPT

博客地址PandoraNext—一个让你呼吸顺畅的ChatGPT-雪饼(xue6ing.cn)https://xue6ing.cn/archives/pandora--yi-ge-rang-ni-hu-xi-shun-chang-de-chatgpt

xB77·2024-01-12 04:30

Hive解析json数组

在使用Hive搭建数据仓库，处理数据时，同传统数仓的结构化数据不同，我们经常会遇到一些非结构化的数据，json格式的字符串就是常见的一种类型。

风筝flying·2024-01-12 03:47

MySql海量数据存储与优化

具有支持回滚，提交，崩溃恢复等功能，事务安全myisam:不支持事务和外键，查询速度高Memory：利用内存创建表，访问速度非常快，因为数据在内存，而且默认使用Hash索引，但是一旦关闭，数据就会丢失Archive

softshow1026·2024-01-12 02:44

服务器中Linux（CentOS7.6）安装并启动mysql-8.0.18-el7-x86_64.tar.gz + 问题错误集

https://cdn.mysql.com/archives/mysql-8.0/mysql-8.0.18-el7-x86_64.tar.gzhtt

时光茶馆·2024-01-12 02:41

Linux操作系统下，彻底删除MySQL

背景：部署Hive时，遇到了无法访问数据库的问题；此时Linux中的环境是，已安装MySQL-8.0.35的版本，JDK8和Hadoop-3.3.4版本；然后开始上传Hive-3.1.3版本的的安装包和

zhiweizhang_zzw·2024-01-12 02:59

Error: Package: 1:openssl-devel-1.0.2k-19.el7.x86_64 (base) Requires: openssl-libs(x86-64

centos7上由于openssl的版本低导致的错在centos7执行这个命令报的错：yum-yinstallbisonbison-develzlib-devellibcurl-devel\libarchive-develboost-develncurses-develgnutls-devel

哪有天生的学霸，一切都是厚积薄发·2024-01-12 00:43

hive sql 优化-转载csdn

HiveSQL执行流程：InputFormat、OutputFormat、SerDe理清这三者之间的关系：SerDeisashortnamefor"SerializerandDeserializer."

仲間_9ee4·2024-01-11 23:36

第四课 Hive中sql的使用

1、创建表建表语法CREATE[EXTERNAL]TABLE[IFNOTEXISTS]table_name[(col_namedata_type[COMMENTcol_comment],...)][COMMENTtable_comment][PARTITIONEDBY(col_namedata_type[COMMENTcol_comment],...)][CLUSTEREDBY(col_name,

Arroganter·2024-01-11 22:40

Hive数据库：嵌入、本地、远程全攻略（下）

先介绍一下本地模式和远程模式：当使用本地模式时，Hive将其元数据存储在本地数据库（例如MySQL）中，使其成为一个独立的数据处理系统。

小伍_Five·2024-01-11 22:33

Hive数据库：嵌入、本地、远程全攻略（上）

Hive分布式数据仓库工具关系型数据库建立在关系模型之上的数据库称为关系型数据库(关系模型是由埃德加·科德于1970年提出的)，关系型数据库借助集合代数等数学概念处理数据库中的数据。

小伍_Five·2024-01-11 22:03

分布式数据库原理及技术题目汇总（上）

A.HIVE中createtable命令使用时，表类型可以存储为ORC。B.HIVE中createtable命令使用时，必须包含rowformatdelimited。

小伍_Five·2024-01-11 22:03

JDBC连接数据库

JDBC连接数据库https://www.cnblogs.com/hongten/archive/2011/03/29/1998311.html创建一个以JDBC连接数据库的程序，包含7个步骤：1、加载

seto__·2024-01-11 20:36

使用Sqoop将Hive数据导出到TiDB

关系型数据库与大数据平台之间的数据传输之前写过一些使用Sqoop将数据在HDFS与MySQL互导使用Sqoop将SQLServer视图中数据导入Hive使用DataX将Hive与MySQL中的表互导使用

光于前裕于后·2024-01-11 19:26

CUDA10.1+cuDNN 超详细版安装教程，步骤清晰不多余

可以看看自己电脑支持CUDA的最高版本，cmd命令控制行输入：nvidia-smi回车后可以看到自己电脑支持CUDA的最高版本，建议安装稍低于电脑版本的CUDA~CUDA下载地址：CUDAToolkitArchive

Q小Q琪·2024-01-11 18:47

ubuntu 16.04 安装 StarUML

Downloadlibgcrypt11_1.5.3from:https://launchpad.net/ubuntu/+archive/primary/+files/libgcrypt11_1.5.3-

林慕空·2024-01-11 18:58

pyspark config设置、增加配置、限制_success文件生成；spark-submit 集群提交参数

1、pyspark增加config设置javaheap错误增加内存spark=(SparkSession.builder.config("spark.hadoop.hive.exec.dynamic.partition

loong_XL·2024-01-11 18:00

java项目中,META-INF是什么意思

这个目录经常存在于JAR文件（JavaArchive，Java归档文件）中，用于存放与类加载、模块配置等相关的信息。

脚大江山稳·2024-01-11 16:38

Linux（Ubantu）交叉编译生成windows(32位,64位)可执行程序和库

机缘机缘巧合下收到了这个小任务.工作流先是找了下资料发现过去的都是关于mingw32.教程的做法:增加个源(trusty是linux发行的版本标识,比如22.04是jammydebhttp://us.archive.ubuntu.com

昊月光华·2024-01-11 16:58

《PySpark大数据分析实战》-27.数据可视化图表Pyecharts介绍

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data

wux_labs·2024-01-11 16:21

labelstudio镜像构建提示 Problem executing scripts APT::Update::Post-Invoke ‘rm

报如下的错误：#1254.36E:ProblemexecutingscriptsAPT::Update::Post-Invoke'rm-f/var/cache/apt/archives/*.deb/var

k5.gs·2024-01-11 15:24

labelstudio镜像构建，网速慢，设置国内源

如下FROMubuntu:latestRUNsed-i's/archive\.ubuntu\.com/mirrors\.aliyun\.com/g'/etc/apt/sources.listCMD["bash

k5.gs·2024-01-11 15:23

分析型数据库产品的排头兵GBase 8a

它是在GBase8a列存储数据库基础上开发的一款SharedNothing架构的分布式并行数据库集群，具备高性能、高可用、高扩展等特性，可以为各种规模数据管理提供高性价比的通用计算平台，并广泛用于支撑各类数据仓库系统

any_2311·2024-01-11 14:53

conda的安装资源链接

1、Indexof/anaconda/archive/|清华大学开源软件镜像站|TsinghuaOpenSourceMirror

lock cylinder·2024-01-11 14:54

hive学习笔记之四：分区表

欢迎访问我的GitHubhttps://github.com/zq2599/blog_demos内容：所有原创文章分类汇总及配套源码，涉及Java、Docker、Kubernetes、DevOPS等；《hive

程序员欣宸·2024-01-11 13:04

Apache Flink 和 Paimon 在自如数据集成场景中的使用

业务背景自如目前线上有基于Hive的离线数仓和基于Flink、Kafka的实时数仓，随着业务发展，我们也在探索引入湖仓一体的架构更好的支持业务，我们对比了Iceberg、Hudi、Paimon后，最终选择

Apache Flink·2024-01-11 13:09

windows下Linux子系统安装conda和jupyterlab

1.安装conda升级系统sudoapt-getupdate-y&&sudoapt-getupgrade-y下载anacondawgethttps://repo.anaconda.com/archive

LeoinUSA·2024-01-11 11:21

Pytorch的GPU版本安装，在安装anaconda的前提下安装pytorch

本文基于conda安装GPU版本的PyTorch文章目录一、CUDA1.下载CUDA[点击下载](https://developer.nvidia.com/cuda-toolkit-archive)2.

In 2029·2024-01-11 10:17

Windows+Qt5.14.2+android x86配置（待完善）

资源下载可在部分国内镜像源下载Qt5.14.2：Indexof/qt/archive/qt/|清华大学开源软件镜像站|TsinghuaOpenSourceMirror其他工具androidstudio:

penghuilater·2024-01-11 09:02

【NVIDIA】Jetson Orin Nano系列：烧写Ubuntu22.04

://developer.nvidia.com/sdk-manager2、版本介绍JetPack版本：https://developer.nvidia.com/embedded/jetpack-archiveJetsonLinux

郭老二·2024-01-11 09:47

DataX 学习笔记

一.DataX简介1.1DataX概述DataX是阿里巴巴开源的一个异构数据源离线同步工具，致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能

十二同学啊·2024-01-11 08:39

Hive基础题-1

别看我，不看答案我也不会写正因为不会写，所以才要每天一练本地hive练习题SEThive.exec.mode.local.auto=true;--默认falseSEThive.exec.mode.local.auto.inputbytes.max

中长跑路上crush·2024-01-11 07:19

Hive事务表转换为非事务表

环境：hive3.1.0由于建表时默认会建为非事务表CREATETABLEbucket_text_table2(column1string,column2string,column3int)CLUSTEREDBY

dogplays·2024-01-11 07:47

Hive ACID事务表

环境：hive3.1.0执行引擎：hiveontez什么是hiveACID？

dogplays·2024-01-11 07:47

hive sql 和 spark sql的区别

HiveSQL和SparkSQL都是用于在大数据环境中处理结构化数据的工具，但它们有一些关键的区别：底层计算引擎：HiveSQL：Hive是建立在Hadoop生态系统之上的，使用MapReduce作为底层计算引擎

深度学习研究员·2024-01-11 07:08

2024.1.10 SparkSQL ,函数分类, Spark on HIVE,底层执行流程

目录一.开窗函数二.SparkSQL函数定义1.HIVE_SQL用户自定义函数2.Spark原生UDF3.pandasUDF4.pandasUDAF三.SparkonHIVE四.SparkSQL的执行流程一

白白的wj·2024-01-11 07:08

【AI】WSL安装Anaconda

Anaconda安装包这里有两个方式，一是直接在wsl中执行wget命令下载，这种方式没什么好说的，直接下载好了，具体的版本可根据自己需求选择；wgethttps://repo.anaconda.com/archive

AI柱子哥·2024-01-11 05:27

mercurygear·2024-01-11 04:34

openeuler的安装和两台linux主机配置ssh实现互相免密登陆

一、openeuler的安装下载OpenEuler-网址：https://www.openeuler.org/zh/download/archive/-版本选择：openEuler22.03LTSSP2

monster - r·2024-01-11 04:09

Hive（总）看完这篇，别说你不会Hive！

文章目录1.Hive入门1.1什么是Hive1.2Hive的优缺点1.2.1优点1.2.2缺点1.3Hive架构原理2.Hive安装2.1Hive安装2.2HiveJDBC访问2.2.1启动hiveserver2

Archie_java·2024-01-11 03:22

Qt5.9.8安装教程Qt5.12.3卸载教程以及VS2022+QT开发环境搭建

（我其他博文用的Qt版本是5.12.3）1.Qt5.9.8安装官方下载网址：Indexof/new_archive/qt/5.9/5.9.8在官方网址上选择对应的版本（Mac，Windows，Linux

梦里花乡·2024-01-11 02:38

推荐频道

数据仓库&Hive