hive运行日志

大数据技术汇总

HadoopHDFS的运行流程HadoopMapReduce的运行流程Hadoopyarn的运行流程Hadoop内HDFS、MapReduce和YARN交互过程HadoopHDFS常用命令HadoopYARN常用命令Hive
转身成为了码农·2024-01-21 07:41

Linux问题 apt-get install时 无法解析域名“cn.archive.ubuntu.com”

问题描述:在安装程序时会出现无法解析域名的错误解决办法:1、编辑文件sudovim/etc/resolv.conf2、在最后加上(按键i进入编辑模式)nameserver8.8.8.83、保存退出(:wq)
江凡心·2024-01-21 06:23

Spark学习（8）-SparkSQL的运行流程，Spark On Hive

1.SparkSQL的运行流程1.1SparkRDD的执行流程回顾1.2SparkSQL的自动优化RDD的运行会完全按照开发者的代码执行，如果开发者水平有限，RDD的执行效率也会受到影响。而SparkSQL会对写完的代码，执行“自动优化”，以提升代码运行效率，避免开发者水平影响到代码执行效率。这是因为：RDD：内含数据类型不限格式和结构。DataFrame：100%是二维表结构，可以被针对Spar
技术闲聊DD·2024-01-21 06:50

Hive on Spark 和 Spark sql on Hive，你能分的清楚么

HiveonSpark和SparksqlonHive，你能分的清楚么结构上HiveOnSpark和SparkSQL都是一个翻译层，把一个SQL翻译成分布式可执行的Spark程序。
捞起月亮的渔民丁·2024-01-21 06:18

Spark：SparkSQL与Hive on Spark（Shark）的比较

简要介绍了SparkSQL与HiveonSpark的区别与联系一、关于Spark简介在Hadoop的整个生态系统中，Spark和MapReduce在同一个层级，即主要解决分布式计算框架的问题。
花和尚也有春天·2024-01-21 06:17

拾肆：Spark with Hive和Hive on Spark

在Hive与Spark这对“万金油”组合中，Hive擅长元数据管理，而Spark的专长是高效的分布式计算，二者的结合可谓是“强强联合”。
for your wish·2024-01-21 06:47

Hive on Spark and Spark sql on Hive

结构上HiveOnSpark和SparkSQL都是一个翻译层，把一个SQL翻译成分布式可执行的Spark程序。Hive和SparkSQL都不负责计算。
请叫我小帅哥·2024-01-21 06:14

spark集成hive

1.集成原理说明思考:SparkOnHive的目的:将客户端提交的SQL语句从原来翻译MR变更为翻译为Spark的RDD程序(Spark程序),然后交给Yarn执行那么也就意味着,一旦Spark和HIVE
lijian972·2024-01-21 06:11

sparkSQL sparkSQL整合hive（spark on hive）

sparkSQL整合hivesparkSQL整合hivesparkSQL整合hive步骤示例数据库保存在本地和数据库保存在HDFS应用场景sparkSQL整合hivesparkSQL整合hive，即sparkonhive
爱吃甜食_·2024-01-21 06:39

Spark完全分布式集群下的Hive的安装和配置-安装步骤

Spark完全分布式集群下的Hive的安装和配置-安装步骤：文章目录Spark完全分布式集群下的Hive的安装和配置-安装步骤：2.安装MySQL数据库3.配置MySQL相关5.设置环境变量6.修改hive
Deng872347348·2024-01-21 06:39

【Spark分布式内存计算框架——Spark SQL】14. 分布式SQL引擎

第八章分布式SQL引擎回顾一下，如何使用Hive进行数据分析的，提供哪些方式交互分析？？？
csdnGuoYuying·2024-01-21 06:38

Spark On Hive配置测试及分布式SQL ThriftServer配置

文章目录SparkOnHive的原理及配置配置步骤在代码中集成SparkOnHiveSpark分布式SQL执行原理及配置配置步骤在代码中集成SparkJDBCThriftServer总结SparkOnHive
蜜桃上的小叮当·2024-01-21 06:07

mysql 磁盘读取原理_MySQL的数据库引擎之一 InnoDB 的底层原理

InnoDB、MyISAM、Memory、CSV、Archive、Blackhole、Merge、Feder
兔农农·2024-01-21 06:18

【数据库】MySQL 的存储引擎

MySQL中的锁机制MySQL的存储引擎1.前言2.各种存储引擎的特征介绍2.1Federated2.2Memory2.3Performance_schema2.4Blackhole2.5CSV2.6Archive2.7MyISAM2.8MRG_MyISAM2.9InnoDB3
G皮T·2024-01-21 06:46

IOS实现视频直播－RTMP协议的一些参考资料

http://www.cnblogs.com/ikodota/archive/2012/09/12/compile_ffmpeg_for_iOS.html不过按这篇文章介绍的方法编译出来的库文
WeiQ_·2024-01-21 06:40

Docker-解决Debian9阿里云源 apt update时需要公钥的问题

首先，最新的Debian9阿里云源如下（底下这个源是正确的，在阿里云评论区里找到的，阿里云官网上面的是旧的，是不行的）：debhttp://mirrors.aliyun.com/debian-archive
WeiQ_·2024-01-21 06:37

在 EggJS 中实现 Redis 上锁

配置环境下载RedisWindows访问https://github.com/microsoftarchive/redis/releases选择版本进行下载-勾选[配置到环境变量]-无脑下一步并安装命令行执行
JS.Huang·2024-01-21 05:22

Centos7.6安装Conda

安装包地址：https://repo.anaconda.com/archive/使用最新的版本，安装链接命令如下：>wgethttps://repo.anaconda.com/archive/Anaconda3
zlchen·2024-01-21 03:37

【大数据Hive】hive 行列转换使用详解

目录一、前言二、使用场景介绍2.1使用场景12.2使用场景2三、多行转多列3.1casewhen函数语法一语法二操作演示3.2多行转多列操作演示四、多行转单列4.1concat函数语法4.2concat_ws函数语法4.3collect_list函数语法4.4collect_set函数语法4.5多行转多列操作演示五、多列转多行5.1union语法5.2unionall语法5.3多列转多行操作演示六
逆风飞翔的小叔·2024-01-21 02:13

111.Parquet表的使用

Parquet格式：数据模型:Avro,Thrift,ProtocolBuffers,POJOs查询引擎:Hive,Impala,Pig,Presto,Drill,Tajo,HAWQ,IBMBigSQL
大勇任卷舒·2024-01-21 02:33

多表形成树形结构

多表形成树形结构：packagecom.js.archive.assistant.domain.vo;importcom.js.core.domain.vo.BaseVO;importio.swagger.annotations.ApiModel
北执南念·2024-01-21 00:28

解决在hive中创建表时TBLPROPERTIES中的长度问题

如果在hive中创建表时，如果TBLPROPERTIES中的长度过长，在hive的命令行中执行showcreatetable表名；发现创建的表语句中的TBLPROPERTIES的长度不完全，以下是解决办法
justdoit180·2024-01-21 00:11

提交任务至服务器后台运行

nohupRscript脚本名称.r&此时会在脚本目录生成一个nohup.txt使用catnohup.txt即可常看当前后台脚本运行日志后台任务调用至前台fg任务提交至后台后，可断开客户端链接，任务会在服务器后台保持运行
科研小徐·2024-01-20 21:46

使用Sqoop从Oracle数据库导入数据

Sqoop是一个用于在Hadoop生态系统（如HDFS和Hive）与关系型数据库之间传输数据的工具。它使数据工程师
晓之以理的喵~~·2024-01-20 19:27

11.Join的MapReduce实现

Join在MapReduce中的实现一、概述tips:Hive:MapReduce/Spark巧用explain查看语法树常见的面试题:描述如何使用MapReduce来实现join功能：考察点MapReduce
哈哈大圣·2024-01-20 18:40

hive 数字转换字符串_hive数据类型转换、字符串函数、条件判断

http://blog.csdn.net/yimingsilence/article/details/70057638函数数据类型转换同Java语言同样，Hive也包括隐式转换(implicitconversions
小宇boi·2024-01-20 18:08

LLM：ALiBi - 给注意力加上线性偏置

pdf代码：https://github.com/ofirpress/attention_with_linear_biases发表：2021长度外推参考：https://spaces.ac.cn/archives
微风❤水墨·2024-01-20 17:18

MySQL安装教程，windows下（超详细，根据步骤一步步来）

1.官网下载安装包下载链接：（本人下载的是mysqlCommunity8.0.19.0.msi）MySQL::DownloadMySQLInstaller(ArchivedVersions)https:
阿里嘎多f·2024-01-20 17:40

CUDA安装遇到问题及安装方法汇总

CMD输入nvidia-smi注意事项：安装低于显示的CUDA版本（兼容性）kCUDAToolkitArchive|NVIDIADeveloper————————CUDA版本网站进入选择合适版本安装如下图
jiang_changsheng·2024-01-20 15:12

Hive性能优化

Hive性能优化数据量大不是问题，数据倾斜是个问题。jobs数比较多的作业运行效率相对比较低，比如即使有几百行的表，如果多次关联多次汇总，产生十几个jobs，耗时很长。
La victoria·2024-01-20 13:23

Hive性能调优(二)——一文搞懂HiveSQL执行计划

测试的数据请看上一篇博客，数据行数500万。目录一.简单SQL的执行计划二.带普通函数SQL的执行计划三.带聚合函数SQL的执行计划四.带窗口函数SQL的执行计划五.表连接的SQL的执行计划一.简单SQL的执行计划explainselects_age,s_scorefromstudent_tb_seqwheres_age=20;+----------------------------------
程研板·2024-01-20 13:19

一文说全HiveConf类（Hive3.1.2版本）

一文说全HiveConf类（Hive3.1.2版本）作者：Eeeddieee工作中大部分时间都用到了Hive，虽然对Hive的架构、运行原理、调优方式有一定了解，但是很多都是在前人总结的基础上进行学习，
Eeeddieee·2024-01-20 13:17

Hive调优一文打尽

一、调优概述Hive作为大数据领域常用的数据仓库组件，在平时设计和查询时要特别注意效率。
跟着大数据和AI去旅行·2024-01-20 13:16

Doris配置外表以及多个Hive外表的配置

1.场景分析以Clickhouse、Doris、Starrocks等为代表的mpp分析数据库正在快速的兴起，以其高效查询、跨库整合能力收到广大技术人员的喜爱。本文主要浅显介绍下作者在使用Doris时，通过建立catlog进行跨库查询。废话不多少，直接上代码2.相关配置#Tidb外表，jdbc方式连接，如果没有服务器权限可以直接在driver_url上填写jar包的maven地址#如果报connec
tuoluzhe8521·2024-01-20 12:37

Hive / Presto 行转列 列转行

Hive/Presto行转列列转行行转列1、Hive：2、Presto：列转行Hive1、split将order_ids拆分成数组，lateralviewexplode将数组炸裂开Presto1、split
吴法刚·2024-01-20 12:37

hive Error while compiling statement: FAILED: ClassCastException org.apache.hadoop.hive.serde2.objec

Errorwhilecompilingstatement:FAILED:ClassCastExceptionorg.apache.hadoop.hive.serde2.objectinspector.primitive.WritableConstantStringObjectInspectorcannotbecasttoorg.apache.hadoop.hive.serde2
圆周率的后六位·2024-01-20 12:35

hive 运行报错

Error:Errorwhilecompilingstatement:FAILED:UDFArgumentTypeExceptionExactlyoneargumentisexpected.近期用spark跑数据出现这个情况，最后查到问题是sum(if(a.idisnotnull,1,0))asshouldrepay_count,一开始写的是sum(a.idisnotnull,1,0)asshou
圆周率的后六位·2024-01-20 12:35

hive join 很慢

hive跑的很慢原因解析：背景如下将下面4个表join起来，然后在做聚合操作selectcount(1)fromcustomer_merchant_anti_fraud_demand1_1–19864656
圆周率的后六位·2024-01-20 12:35

hadoop运行任务出错，Hive Runtime Error while processing row

Error:java.lang.RuntimeException:org.apache.hadoop.hive.ql.metadata.HiveException:HiveRuntimeErrorwhileprocessingrow
圆周率的后六位·2024-01-20 12:05

【Flink】Flink1.12.0 FlinkSQL消费Kafka 使用 temporal join 关联维表Hive 最新分区数据 join 不上

文章目录1.概述2.场景12.1概述2.2解决1.概述2.场景12.1概述场景是这样的FlinkSQL消费kafka关联Hive维表最新分区刚开始我往Hive维表里筛了10条左右数据运行FlinkSQL
九师兄·2024-01-20 11:27

spark的jdbc接口，类似于hiveserver2

https://spark.apache.org/docs/2.4.0/sql-distributed-sql-engine.html#running-the-thrift-jdbcodbc-serverSparkSQL可以作为一个分布式查询引擎，通过其JDBC/ODBC或命令行接口进行操作。通过JDBC/ODBC接口，用户可以使用常见的数据库工具或BI工具来连接和查询SparkSQL，这使得Sp
zdkdchao·2024-01-20 10:53

unzip解压大文件失败提示End-of-central-directory signature not found

unzipfile.zipEnd-of-central-directorysignaturenotfound.Eitherthisfileisnotazipfile,oritconstitutesonediskofamulti-partarchive.Inthelattercasethecentraldirectoryandzipfilecommentwillbe
nudt_qxx·2024-01-20 07:33

使用jQuery播放/暂停 HTML5视频

来源：http://blog.okbase.net/jquery2000/archive/4485.html我尝试用jQuery控制HTML5视频，两个视频分别在两个tab中，我希望点中tab后，该tab
木利·2024-01-20 06:07

Boost Compression Speed with FastLZ

BoostCompressionSpeedwithFastLZAspose.ZIP23.12allowsdeveloperstocompressfileswithFastLZ,improvingperformanceandmemoryuse.Aspose.ZIPofferscomprehensiveZIParchivemanagementcapabilitiesfordevelopersandus
SEO-狼术·2024-01-20 06:25

Windows平台安装配置Hadoop2.7.X

一，准备1.安装jdk1.82.下载hadoop2.7.7.tar.gz官网下载地址：https://archive.apache.org/dist/hadoop/common/hadoop-2.7.7
sun_十一·2024-01-20 04:23

更新kali linux系统

、获得新的密钥（任选一种即可）推荐第四种1、#apt-keyadv--keyserverkeys.gnupg.net--recv-keysED444FF07D8D0BF62、#wget-q-O-archive.kali.org
TsengYUen·2024-01-20 02:26

Hive表导出成csv文件

先说结论hive-e"sethive.cli.print.header=true;select*fromdata_tablewheresome_query_conditions"|sed's/[\t]/
7ccc099f4608·2024-01-20 01:40

Hive HQL SQL经典练习题50道

基于Hive1.1语法1.四张表结构学生表student(s_id,s_name,s_birth,s_sex)–学生编号,学生姓名,出生年月,学生性别课程表course(c_id,c_name,t_id
HHHBan·2024-01-20 01:37

R语言【paleobioDB】——pbdb_temporal_resolution()：展示化石数据的时空分辨率

可以选择在Indexof/src/contrib/Archive/paleobioDB(r-project.org)下载安装包后，执行本地安装。
ALittleHigh·2024-01-19 23:56

R语言【paleobioDB】——pbdb_temp_range()：绘制指定类群的时空范围

可以选择在Indexof/src/contrib/Archive/paleobioDB(r-project.org)下载安装包后，执行本地安装。
ALittleHigh·2024-01-19 23:56
上一页 17 18 19 20 21 22 23 24 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他