HIve

Linux系统之ar命令详解

ar命令是Unix和类Unix操作系统中的一个工具，用于创建、修改以及提取归档文件（archive）。

门前灯·2025-03-29 15:55

大数据必学免费、开源分布式数据库——Apache Hive

Hive是大数据开发、分析领域无法绕开的一个话题。我将分认识Hive、快速部署、快速入门等几个模块为同学们详细地介绍Hive，期望可以为刚刚接触大数据领域的同学们建立一个初步的认知。

遇码·2025-03-29 04:56

阿里开源的免费数据集成工具——DataX

什么是DataXDataX是一个异构数据源离线同步工具，致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功

遇码·2025-03-29 03:55

Sqoop-试题

A.使用--call参数调用存储过程B.存储过程需要提前在hive中创建C.存储过程需要提前在hdfs中创建D.使用--c

minaMoonGirl·2025-03-28 20:59

whole-archive与gc-sections

在嵌入式系统开发中，--whole-archive和--gc-sections是链接器（ld）的两个关键选项，它们的组合使用对最终二进制文件的构成有决定性影响。

蓁蓁啊·2025-03-28 15:00

nodejs 压缩文件

从而实现自动部署constpath=require('path')constfs=require('fs')constarchiver=require('archiver')//这个就是用于压缩的包constaxios

墨雪遗痕·2025-03-28 04:08

使用esri的gis-tools-for-hadoop工具包，在hive中实现空间计算

以基站工参表实现空间关系判断（点在多边形内）为例，使用ESRI的gis-tools-for-hadoop工具包，在hive中实现数据空间计算的几个主要步骤：上传空间地理实体数据到hadoop集群；hive

从地图看世界·2025-03-27 14:19

HiveSQL优化

2-1分桶采样当表的数据量比较庞大的时候,在编写SQL语句后,需要首先测试SQL是否可以正常的执行,需要在表中执行查询操作,由于表数据量比较庞大,在测试一条SQL的时候整个运行的时间比较久,为了提升测试效率,可以整个表抽样出一部分的数据,进行测试校验数据的可行性(质量校验)100条sum()join进行统计分析的时候,并不需要统计出具体的指标,可能统计的都是一些相对性指标,比如说一些比率(合格率)

小球-大数据·2025-03-27 11:59

hive sql 正则提取括号中内容

我整理的一些关于【数据】的项目学习资料（附讲解～～）和大家一起分享、学习一下：https://d.51cto.com/eDOcp1使用HiveSQL正则提取括号中的内容在数据分析和处理的过程中，尤其是在大数据平台

Rideo-rax·2025-03-27 11:58

剔除 HIVE中select除了某些字段之外的剩余所有字段

只需要设置参数sethive.support.quoted.identifiers=None;指定要剔除哪个字段select(剔除的字段)?+.

chimchim66·2025-03-27 10:54

Hive UDF开发实战：构建高性能JSON生成器

3.1UDF类骨架3.2高级类型处理四、部署与使用4.1打包与注册4.2使用示例五、性能优化技巧六、功能扩展方向七、生产环境注意事项八、性能对比测试九、总结与展望往期精彩一、背景与需求场景在大数据生态中，Hive

莫叫石榴姐·2025-03-27 09:16

数据湖和Apache Iceberg，Apache Hudi，Delta Lake

数据湖这个词目前已经流行开来，逐步被数据相关的从业者接受，可能还有很多人不太清楚它和Hadoop，Hive，Spark这些大数据系统的区别，简单说数据湖是个业务概念，主要是为了区别传统数仓这个概念的（传统数仓的定义

西土城计划·2025-03-27 05:17

数据库总结

阿里云中的Maxcompute（原odps）其实就是hive，扮演数据仓库的角色，适合存储轨迹类历史数据，适合存储的数据量大，适合海量数据的处理，适合对数据进行离线分析，数据

wzz87·2025-03-26 20:09

深入解析go依赖注入库go.uber.org/fx

DI依赖注入包为https://github.com/facebookarchive/inject，后面我会专门介绍这个包依赖注入的原理。不过今天的主角是它：https://g

杨桃不爱程序·2025-03-26 03:28

大数据学习-hive（四：数仓搭建，数据监控，数据支持）

一：数仓搭建1：完备性。要保证所需要的数据全部到达数仓。2：准备性。etl，和数据的计算校验，确保输出的数据准确。3：一致性。确保输出端口一致，防止输出数据不准。4：时效性。每天的定时调度。5：规范性。表名，字段名要进行规范化处理。6：稳定性。确保数仓稳定。二：数仓校验1：建表语句--建表--droptableifexistsdm.dim_dk_vehicle_info_dqc;createtab

宇智波云·2025-03-25 14:23

【大数据入门核心技术-Hive】（二十一）Hive中double和decimal的区别

一、集群环境部署1、Hive环境安装部署参考【大数据入门核心技术-Hive】（三）Hive3.1.2非高可用集群搭建【大数据入门核心技术-Hive】（四）Hive3.1.2高可用集群搭建二、HiveDouble

forest_long·2025-03-25 13:49

hive-sql高频命令总结

COUNTcount(*)：所有行进行统计，包括NULL行count(1)：所有行进行统计，包括NULL行count(column)：对column中非Null进行统计ROW_NUMBER()语法形式：ROW_NUMBER()OVER(PARTITIONBYCOL1ORDERBYCOL2)解释：根据COL1分组，在分组内部根据COL2排序，而此函数计算的值就表示每组内部排序后的顺序编号（组内连续的

summer_dai·2025-03-25 03:35

数据权限访问控制（Apache Sentry）

ApacheSentry最初由Cloudera公司内部开发，针对Hadoop系统中的数据（主要是HDFS、Hive的数据）进行细粒度控制，对HDFS、Hive以及Impala有着良好的支持性。

deepdata_cn·2025-03-24 14:56

【Python系列】高效Parquet数据处理策略：合并与分析实践

Parquet作为一种高效的列存储格式，被广泛应用于大数据处理框架中，如ApacheSpark、ApacheHive等。

小团团0·2025-03-24 12:41

Go 语言实用工具：如何高效解压 ZIP 文件

packageutilsimport("archive/zip""fmt""io""os""pat

程序员爱钓鱼·2025-03-24 09:13

Apache大数据旭哥优选大数据选题

售后态度和技术都很重要定制按需求做要求不高就实惠一点定制需提前沟通好怎么做，这样才能避免不必要的麻烦python、flask、Django、mapreduce、mysqljava、springboot、vue、echarts、hadoop、spark、hive

Apache大数据旭·2025-03-23 13:12

Wang·Br·2025-03-23 13:10

hive服务启停脚本

hive.sh#!/bin/bashHIVE_LOG_DIR=$HIVE_HOME/logs#创建日志目录if[!

热爱技术的小陈·2025-03-23 12:40

【Hive】-- hive 3.1.3 伪分布式部署（单节点）

1、环境准备1.1、版本选择apachehive3.1.3apachehadoop3.1.0oraclejdk1.8mysql8.0.15操作系统：Macos10.151.2、软件下载https://archive.apache.org

oo寻梦in记·2025-03-23 12:08

Hive 分区实战指南：动态分区 vs 静态分区的深度解析

在Hive数据仓库中，表数据通常以**分区（Partition）**形式组织。

自然术算·2025-03-23 10:22

jmeter安装和jmeter历史版本下载

weixin_30432007·2025-03-23 05:39

MySQL 到 Hadoop：Sqoop 数据迁移 ETL

DataWarehouse-数据仓库3.DM：DataMart-数据集市二、Transform数据清洗和转换1.数据清洗2.数据转换三、Load数据加载四、数据迁移方法1.Sqoop1.1MySQL->Hive1.1.1im

Ice星空·2025-03-23 03:45

Hive常用函数 - abs

Hive常用函数-abs官方解释abs(x)-returnstheabsolutevalueofx个人理解就是返回函数括号内数字的绝对值。

Called_Kingsley·2025-03-23 01:26

通过启用Ranger插件的Hive审计日志同步到Doris做分析

以下是基于ApacheDoris的RangerHive审计日志同步方案详细步骤，结合审计日志插件与数据导入策略实现：一、Doris环境准备1.创建审计日志库表参考搜索结果的表结构设计，根据Ranger日志字段调整建表语句

fzip·2025-03-22 23:48

linux上安装postgresql9.5

czy@Mint~$sudoapt-getupdateczy@Mint~$apt-cachemadisonpostgresqlpostgresql|9.5+173ubuntu0.3|http://archive.ubuntu.com

crayon-shin-chan·2025-03-22 17:07

linux grep命令

转自http://www.cnblogs.com/end/archive/2012/02/21/2360965.htm1.作用Linux系统中grep命令是一种强大的文本搜索工具，它能使用正则表达式搜索文本

蓝菱·2025-03-22 08:18

【已解决】将CentOS7系统安装至U盘（四）：安装Qt5.14.2（解决#error qt requires c++11 support问题）

下载安装文件从Qt官网或清华大学镜像站https://mirrors.tuna.tsinghua.edu.cn/gnu/gcchttps://mirrors.tuna.tsinghua.edu.cn/qt/archive

pyengine·2025-03-22 08:48

安装Qt 5.15.2

需要勾选Archive选项，且很有可能需要梯子工具。

noodleboy·2025-03-22 02:50

Sqoop安装部署

ApacheSqoop简介Sqoop（SQL-to-Hadoop）是Apache开源项目，主要用于：将关系型数据库中的数据导入Hadoop分布式文件系统（HDFS）或相关组件（如Hive、HBase）。

愿与狸花过一生·2025-03-21 22:10

Mysql-经典实战案例（10）：如何用PT-Archiver完成大表的自动归档

真实痛点：电商订单表存储优化场景现状分析某电商平台订单表（order_info）每月新增500万条记录主库：高频读写，SSD存储（空间告急）历史库：HDD存储，只读查询优化目标✅自动迁移7天前的订单到历史库✅每周六23:30执行，不影响业务高峰✅确保数据一致性第一章：前期准备：沙盒实验室搭建1.1实验环境架构生产库：10.33.112.22历史库：10.30.76.41.2环境初始化（双节点执行）

从不删库的DBA·2025-03-21 16:51

Hive面试题

Hive面试题1Hive基础概念1.1解释Hive是什么以及它的用途Hive的主要用途：1.2描述Hive架构和组件1.HiveCLI/Beeline和WebUI2.HiveQL3.HiveDriver

御风行云天·2025-03-21 13:24

Hive 实际应用场景及对应SQL示例

Hive实际应用场景及对应SQL示例一、‌日志分析场景‌**场景说明‌：**处理大规模日志数据（如Web访问日志），分析用户行为或系统运行状态。

小技工丨·2025-03-21 09:46

#Hadoop全分布式安装 #mysql安装 #hive安装

分布式（多台机器部署不同组件）与集群（多台机器部署相同组件）概念。Linux基础命令linux具有文件数：目录、文件，从根目录开始，路径具有唯一性。pwd：显示当前路径特殊符号：/：根目录.：隐藏文件，如果路径以.开始，表示当前目录下..：当前目录下的上一级~：当前目录的home目录--help：帮助命令使用linux常用操作命令tab键：自动补全ls：显示指定目录内容默认：当前路径-a：显示所有

砸吧砸吧·2025-03-21 09:14

hive 使用oracle数据库

hive使用oracle作为数据源，导入数据使用sqoop或kettle或自己写代码（淘宝的开源项目中有一个xdata就是淘宝自己写的）。感觉sqoop比kettle快多了，淘宝的xdata没用过。

sardtass·2025-03-21 05:43

HiveMetastore 的架构简析

HiveMetastore的架构简析HiveMetastore是Hive元数据管理的服务。可以把元数据存储在数据库中。对外通过api访问。

houzhizhen·2025-03-21 04:09

Hive与Spark的UDF：数据处理利器的对比与实践

文章目录Hive与Spark的UDF：数据处理利器的对比与实践一、UDF概述二、HiveUDF解析实现原理代码示例业务应用三、SparkUDF剖析-JDBC方式使用SparkThriftServer设置通过

窝窝和牛牛·2025-03-20 23:22

尚硅谷电商数仓6.0，hive on spark,spark启动不了

40000]Errorwhilecompilingstatement:FAILED:SemanticExceptionFailedtogetasparksession:org.apache.hadoop.hive.ql.metadata.HiveException

新时代赚钱战士·2025-03-20 20:57

qt-5.15.2 源码编译 Linux

QT官方源码下载地址：https://download.qt.io/archive/qt/5.15/5.15.12/single/qt-everywhere-opensource-src-5.15.12

weixin_40857106·2025-03-20 17:38

鸿蒙HarmonyOS开发：应用程序静态包-HAR

HAR（HarmonyArchive）是静态共享包，可以包含代码、C++库、资源和配置文件。通过HAR可以实现多个模块或多个工程共享ArkUI组件、资源等相关代码。

让开，我要吃人了·2025-03-20 15:52

flutter 使用xcodebuild 命令打包ipa

苹果打ipa包(注意苹果打包需要连接真机)方式一、1.先执行flutterbuildios生成framework2.执行命令xcodebuild-exportArchive-archivePathbuild

肥肥呀呀呀·2025-03-20 08:25

努力的搬砖人.·2025-03-20 01:53

oracle cdc logminer与oracle xstream

通过解析归档日志（ArchiveLog）或在线日志（OnlineRedoLog）提取变更记录，采用轮询机

24k小善·2025-03-19 10:55

csv转为utf8编码_中文的csv文件的编码改成utf8的方法

直奔主题：把包含中文的csv文件的编码改成utf-8的方法：啰嗦几句：在用pandas读取hive导出的csv文件时，经常会遇到类似UnicodeDecodeError:'gbk'codeccan'tdecodebyte0xa3inposition12

John Sheppard·2025-03-19 03:47

企业信息化整体架构图

CollaboraticeCommerce转载于:https://www.cnblogs.com/Masterpiece/archive/2004/12/29/83696.html

weixin_33937913·2025-03-19 03:47

Hive函数大全：从核心内置函数到自定义UDF实战指南（附详细案例与总结）

目录背景‌一、Hive函数分类与核心函数表‌1.内置函数分类‌2.用户自定义函数（UDF）分类二、常用函数详解与实战案例‌1.数学函数‌2.字符串函数‌3.窗口函数‌4.自定义UDF实战‌三、总结与优化建议‌

一个天蝎座白勺程序猿·2025-03-18 23:45

推荐频道