big-data:hive

oracle cdc logminer与oracle xstream

通过解析归档日志（ArchiveLog）或在线日志（OnlineRedoLog）提取变更记录，采用轮询机

24k小善·2025-03-19 10:55

csv转为utf8编码_中文的csv文件的编码改成utf8的方法

直奔主题：把包含中文的csv文件的编码改成utf-8的方法：啰嗦几句：在用pandas读取hive导出的csv文件时，经常会遇到类似UnicodeDecodeError:'gbk'codeccan'tdecodebyte0xa3inposition12

John Sheppard·2025-03-19 03:47

企业信息化整体架构图

CollaboraticeCommerce转载于:https://www.cnblogs.com/Masterpiece/archive/2004/12/29/83696.html

weixin_33937913·2025-03-19 03:47

Hive函数大全：从核心内置函数到自定义UDF实战指南（附详细案例与总结）

目录背景‌一、Hive函数分类与核心函数表‌1.内置函数分类‌2.用户自定义函数（UDF）分类二、常用函数详解与实战案例‌1.数学函数‌2.字符串函数‌3.窗口函数‌4.自定义UDF实战‌三、总结与优化建议‌

一个天蝎座白勺程序猿·2025-03-18 23:45

dcm4che

dcm4che工具包DICOMtoolkitDICOM工具包dcm4chee归档服务器器IHE影像管理器和影像归档执行器（dcm4jbossarchive影像归档器，影像扫描检查和报告的管理）dcm4che2

jamie_zhengmin·2025-03-18 22:40

将Hive数据导出为CSV和Excel格式的方法

将Hive数据导出为CSV和Excel格式的方法在Hive中存储和处理大规模数据是一项常见的任务。

翠绿探寻·2025-03-18 21:38

debian11安装MongoDB

curl-fsSLhttps://www.mongodb.org/static/pgp/server-6.0.asc|sudogpg--dearmor-o/usr/share/keyrings/mongodb-archive-keyring.gpg

韩搏·2025-03-18 11:43

linux 安装anaconda与jupyter notebook配置

下载地址1）官网：https://www.anaconda.com/distribution/2）清华镜像：https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive

土豆土豆，我是洋芋·2025-03-18 10:42

Hive 与 SparkSQL 的语法差异及性能对比

在大数据处理领域，Hive和SparkSQL都是极为重要的工具，它们为大规模数据的存储、查询和分析提供了高效的解决方案。

自然术算·2025-03-18 09:22

Oracle V$SESSION详解

包括用户session及后台进程如DBWR，LGWR，arcchiver等等。

雨的遐想·2025-03-18 08:49

Spark任务读取hive表数据导入es

使用elasticsearch-hadoop将hive表数据导入es，超级简单1.引入pomorg.elasticsearchelasticsearch-hadoop9.0.0-SNAPSHOT2.创建

小小小小小小小小小小码农·2025-03-17 18:25

Redis 安装详细教程（小白版）

一、Windows系统安装Redis方法1：直接安装（推荐新手）下载RedisforWindows访问微软维护的Redis版本：https://github.com/microsoftarchive/redis

小小鸭程序员·2025-03-17 11:07

Hive SQL 精进系列：REGEXP_REPLACE 函数的用法

REGEXP_REPLACE与REPLACE函数的对比4.1功能差异4.2适用场景五、REGEXP_REPLACE与REGEXP函数的对比5.1功能差异5.2适用场景六、总结一、引言字符串处理是数据处理中的常见需求，Hive

进一步有进一步的欢喜·2025-03-17 11:33

Hive SQL 精进系列：SUBSTR 函数的多样用法

简单示例三、SUBSTR函数常见应用场景3.1提取日期中的年份、月份或日期3.2隐藏部分敏感信息四、SUBSTR函数高级用法4.1结合条件判断动态截取4.2处理复杂字符串模式五、总结一、引言SUBSTR函数是HiveSQL

进一步有进一步的欢喜·2025-03-17 11:03

Hive----Hive进阶操作(三) HIVE 特殊分隔符处理

HIVE特殊分隔符处理补充：hive读取数据的机制：1、首先用InputFormat的一个具体实现类读入文件数据，返回一条一条的记录（可以是行，或者是你逻辑中的“行”）2、然后利用SerDe的一个具体实现类

XiaodunLP·2025-03-17 11:31

hive-进阶版-1

第6章hive内部表与外部表的区别Hive是一个基于Hadoop的数据仓库工具，用于对大规模数据集进行数据存储、查询和分析。

数据牧马人·2025-03-17 10:59

NVIDIA下载老版本驱动/CUDA/Video Codec SDK的链接，以及一些解码参数说明

NVIDIA下载老版本驱动/CUDA/VideoCodecSDK的链接从别的网站抄过来的CUDA：https://developer.nvidia.com/cuda-toolkit-archive老驱动

landihao·2025-03-17 00:43

hive split 函数转义问题

语法split(strstring,regexstring)--使用regex分割字符串str基本用法selectsplit('a,b,c,d',',')fromtemp_cwh_test;--分割--结果为数组>["a","b","c","d"]截取字符串中某个值selectsplit('a,b,c,d',',')[0]fromtemp_cwh_test;--提取第1个值>a特殊字符的处理针对特

进一步有进一步的欢喜·2025-03-16 21:45

Hive SQL 精进系列：解锁 Hive SQL 中 KeyValue 函数的强大功能

目录一、引言二、KeyValue函数基础2.1语法结构详解形式一：`keyvalue(string,[string,string,]string)`形式二：`keyvalue(string,string)`2.2参数详解2.3返回值规则三、丰富的应用场景3.1解析学生成绩信息3.2处理员工考勤数据3.3分析网站访问参数3.4提取设备配置信息四、使用注意事项4.1分隔符的准确性4.2空值处理4.3多

进一步有进一步的欢喜·2025-03-16 20:42

大数据手册(Spark)--Spark安装配置

假设已经安装好了hadoop（伪分布式）和hive，环境变量如下JAVA_HOME=/usr/opt/jdkHADOOP_HOME=/usr/local/hadoopHIVE_HO

WilenWu·2025-03-16 20:09

关于stable diffusion的lora训练在linux远程工作站的部署

安装anaconda或者miniconda（官网上也有教程）：wgethttps://repo.anaconda.com/archive/Anaconda3-5.3.0-Linux-x86_64.shchmod

回天一梦·2025-03-16 19:02

Hive SQL 精进系列：一行变多行的 LATERAL VIEW EXPLODE

目录一、引言二、`LATERALVIEWEXPLODE`概述2.1基本概念2.2单词解析2.2.1`LATERAL`2.2.2`VIEW`2.2.3`EXPLODE`三、语法详解3.1基本语法结构3.2完整语法示例（针对映射情况）四、使用场景4.1数组数据展开4.2映射数据展开五、案例分析5.1展开数组示例5.1.1数据准备5.1.2使用`LATERALVIEWEXPLODE`展开数组5.1.3结

进一步有进一步的欢喜·2025-03-16 14:24

sql获取某列出现频次最多的值_业务硬核SQL集锦

适用对象：工作中能接触到sql查询平台的业务同学(例如有数据查询权限的产品与运营同学)适用场景：查询hive&mysql上的数据文档优势：比起各类从零起步的教程教材，理解门槛低，有效信息密度大，可以覆盖高频业务场景

金渡江·2025-03-16 07:05

Hive SQL 精进系列： JSON_TUPLE 快速提取多键值

目录一、引言二、json_tuple函数基础2.1基本语法参数解释返回值简单示例三、应用场景3.1数据提取与分析3.2数据集成与转换3.3复杂JSON数据处理四、json_tuple、get_json_object和from_json的对比4.1功能特点4.2语法和使用复杂度4.3性能表现4.4示例对比使用json_tuple使用get_json_object使用from_json五、使用注意事项

进一步有进一步的欢喜·2025-03-16 06:34

hive sql报错

1.hivesql报错FAILED:ParseExceptionline22:0cannotrecognizeinputnear''''''insubquerysource2.解决select*from

进一步有进一步的欢喜·2025-03-16 06:04

HIVE开窗函数

ETL,SQL面试高频考点——HIVE开窗函数（基础篇）目录标题ETL,SQL面试高频考点——HIVE开窗函数（基础篇）一，窗口函数介绍二，开窗函数三，分析函数分类1，排序分析函数：实列解析对比总结2.

Cciccd·2025-03-16 02:31

hive开窗函数总结

文章目录概要整体架构流程示例1示例2小结概要hive开窗函数总结整体架构流程1.窗口函数的基本用法函数名()over()over关键字来指定函数执行的范围,包含三个分析子句:分组(partitionby

weixin_46134848·2025-03-16 02:01

Hive MR & Spark & Yarn参数优化总结

一、hivemr参数调优：sethive.optimize.ppd=true;--开启谓词下推。

大数据侠客·2025-03-16 02:31

hive 中优化性能的一些方法

在ApacheHive中，性能优化是一个重要的课题，尤其是在处理大规模数据时。通过合理的优化方法，可以显著提升查询速度和资源利用率。

闯闯桑·2025-03-16 02:30

使用 Doris 和 Iceberg

自0.15版本起，ApacheDoris引入Hive和Iceberg

向阳1218·2025-03-15 15:10

使用 Doris 和 LakeSoul

自0.15版本起，ApacheDoris引入Hive和Iceberg

向阳1218·2025-03-15 15:10

doris:Hudi Catalog

TimeTravel,IcrementalReadMergeOnReadSnapshotQueries,ReadOptimizedQueries,TimeTravel,IcrementalRead目前支持HiveMetastore

向阳1218·2025-03-15 15:40

大数据学习（67）- Flume、Sqoop、Kafka、DataX对比

实时日志采集与传输从数据源到存储系统实时日志文件、网络流量等→HDFS、HBase、Kafka等日志收集、实时监控、实时分析Sqoop关系型数据库与Hadoop间数据同步关系型数据库→Hadoop生态系统（HDFS、Hive

viperrrrrrr·2025-03-15 09:51

Different number of columns

org.apache.flink.client.program.ProgramInvocationException:Themainmethodcausedanerror:Columntypesofqueryresultandsinkforregisteredtable‘photoTradeInfoHive.db_audit.ods_photo_trade

sunyaox·2025-03-15 06:23

doris：SQL 方言兼容

提示从2.1版本开始，Doris可以支持多种SQL方言，如Presto、Trino、Hive、PostgreSQL、Spark、Clickhouse等等。

向阳1218·2025-03-15 01:07

Linux 让PHP支持MSSQL

FreeTDS官方网站：http://www.freetds.org当前版本0.82wgethttp://mirrors.xmu.edu.cn/ubuntu/archive/pool/main/f/freetds

hello_simon·2025-03-14 17:28

YashanDB归档日志文件管理

官网，原文内容请见https://doc.yashandb.com/yashandb/23.3/zh/%E6%95%B0%E6%8D%AE%...归档日志文件默认存放在$YASDB\_DATA/archive

·2025-03-14 17:29

mac M1 安装flutter

M1安装Flutter1-官网下载flutterSDK盘符自己记好https://docs.flutter.dev/release/archive?

小泥人（倪）·2025-03-14 08:46

Hive高级SQL技巧及实际应用场景

Hive高级SQL技巧及实际应用场景引言ApacheHive是一个建立在Hadoop之上的数据仓库基础设施，它提供了一个用于查询和管理分布式存储中的大型数据集的机制。

小技工丨·2025-03-14 07:40

Hive SQL 精进系列：字符串拼接的三种常用方式

Hive字符串拼接：三种常用方式深度剖析目录Hive字符串拼接：三种常用方式深度剖析引言一、简洁直观的`||`操作符1.基础语法规则2.丰富多样的示例展示3.优势与局限分析二、规范通用的`CONCAT`

进一步有进一步的欢喜·2025-03-14 07:39

HIVE SQL进阶

1.lateralviewexplode：将array或map类型的列拆分成多行数据lateralview：把拆分的单个字段数据与原始表的数据关联上LATERALVIEWEXPLODE(col)table_tempAScol_nametable_temp是因为LATERALVIEWUDTF函数在执行时，会生成一个临时的虚拟表。同时生成的列也需要列名col_name。lateralview的位置在f

Q010910·2025-03-14 07:08

hive 数字转换字符串_Hive架构及Hive SQL的执行流程解读

1、Hive产生背景MapReduce编程的不便性HDFS上的文件缺少Schema(表名，名称，ID等，为数据库对象的集合)2、Hive是什么Hive的使用场景是什么？

weixin_39756416·2025-03-13 22:10

Hive-基础入门

目录第1章Hive基本概念第2章、安装步骤：1、上传jar包至/usr/local/soft2、解压并重命名3、配置环境变量4.配置HIVE文件第3章hive中数据库的操作1、hiveDDL操作2、HiveDML

数据牧马人·2025-03-13 21:06

windows11 环境 paddleOCR 环境配置

操作系统：Windows11专业版显卡：RTX4080CUDA：cuda_12.6.2_560.94_windows.exe、cudnn-windows-x86_64-8.9.7.29_cuda12-archivepython

一醉千秋·2025-03-13 08:27

【gopher的java学习笔记】如何通过jar命令解压JAR包

如何通过jar命令解压JAR包JAR（JavaARchive）文件是Java平台上用于打包和分发类文件、资源文件以及其他相关文件的压缩文件格式。

ThisIsClark·2025-03-13 01:08

大数据学习（61）-Impala与Hive计算引擎

&&大数据学习&&系列专栏：哲学语录:承认自己的无知，乃是开启智慧的大门如果觉得博主的文章还不错的话，请点赞+收藏⭐️+留言支持一下博主哦一、impala与yarn资源管理YARN是ApacheHadoop生态系统中的一个资源管理器，它采用了master/slave的架构，使得多个处理框架能够在同一集群上共享资源。Impala作为Hadoop生态系统中的一个组件，可以与YARN集成，以便更好地管理

viperrrrrrr·2025-03-12 21:38

腾讯云centos安装anaconda3并配置jupyter notebook环境

准备工作腾讯云centos系统配置好网络安装anaconda3从官网下载：wgethttps://repo.continuum.io/archive/Anaconda3-2019.07-Linux-x86

星星都亮了·2025-03-12 18:16

Hive-4.0.1版本部署文档

Hadoop：Hive需要依赖Hadoop进行分布式存储，建议安装Hadoop3.x版本（本实验采用的是hadoop3.3.6）。

CXH728·2025-03-12 16:10

hive-3.1.3部署文档

提前准备一个正常运行的hadoop集群java环境hive安装包下载地址：https://archive.apache.org/dist/hive/hive-3.1.3/apache-hive-3.1.3

CXH728·2025-03-12 16:09

Hive实用小文件合并方案

#Hive常见故障#大数据#生产环境真实案例#Hive#离线数据库#整理#经验总结说明：此篇总结hive常见故障案例处理方案结合自身经历总结不易+关注+收藏欢迎留言Hive实用小文件合并方案请往下翻！！

500佰·2025-03-12 12:45

推荐频道