E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
#Hive
大数据开发之电商数仓(hadoop、flume、
hive
、hdfs、zookeeper、kafka)
第1章:数据仓库1.1数据仓库概述1.1.1数据仓库概念1、数据仓库概念:为企业制定决策,提供数据支持的集合。通过对数据仓库中数据的分析,可以帮助企业,改进业务流程、控制成本,提高产品质量。数据仓库并不是数据的最终目的地,而是为数据最终的目的地做好准备,这些准备包括对数据的:清洗、转义、分类、重组、合并、拆分、统计等。2、数据仓库的数据通常包括:业务数据、用户行为数据和爬虫数据等3、业务系统数据库
Key-Key
·
2024-01-22 07:29
大数据
hadoop
flume
kafka
hive
hdfs
MySQL去重3种方法,还有谁不会?
在MySQL中通常是使用distinct或groupby子句,但在支持窗口函数的sql(如
Hive
SQL、Oracle等等)中还可以使用row_number窗口函数进行去重。
程序员大咖
·
2024-01-22 07:58
mysql
数据库
oracle
sql
Qt的安装流程
安装Qt1.下载2.双击安装文件3.注册登录,选择文件安装位置4.选择安装组件5.安装完毕,点击完成总结主要内容一.安装Qt1.下载QT软件下载地址:http://download.qt.io/arc
hive
K要努力
·
2024-01-22 07:52
算法与数据结构
qt
开发语言
运维开发
QT5.14.2 + VS2019 + VTK8.2.0配置环境
一、软件下载和环境配置1.1QT5.14.21.1.1软件下载地址:Indexof/arc
hive
/qt1.1.2安装的时候需要注意:安装时候至少把MSVC201764bit选择上。
林林zonzon
·
2024-01-22 05:51
p2p
gnu
网络协议
flinkcdc 3.0 尝鲜
flink1.18standalone搭建doris1fe1be搭建整库数据同步测试各同步场景从检查点重启同步任务环境搭建flink环境(Standalone模式)下载flink1.18.0链接:https://arc
hive
.apache.org
Antg
·
2024-01-22 03:51
flinkcdc
flinkcdc
flink
doris
25.集群异常故障分析——HOSTS
25.1问题情况Hadoop集群HDFS、YARN、
Hive
等服务出现异常告警重启集群异常告警任然存在大量告警Cluster1HDFS可用空间抑制...NameNode运行状况抑制...HDFS金丝雀抑制
大勇任卷舒
·
2024-01-22 02:51
Oracle19c 归档模式开启与关闭(Linux)
startupmount;查看归档模式arc
hive
loglist;查看pdb列表showpdbs;切换
huryer
·
2024-01-22 02:14
oracle
oracle19c
归档模式
pdb
cdb
Linux下JLink安装
SEGGERJ-LinkSoftwareandDocumentationPack:>>linkhere下载J-LinkSoftwareandDocumentationPackforLinux,TGZarc
hive
JavenChan
·
2024-01-21 23:44
2020-03-24:
hive
substring and having例子
发现自己在
hive
查询的时候,总是习惯用比较常用的语句,像在进行分组后的过滤会首先用到的是把前一过滤后的数据作为一张子表,而忘记了haveing的用法,这样查询语句显得不够简洁,同时也会降低查询性能。
烂笔头2020
·
2024-01-21 21:45
Hive
SQL的编译过程(转)
Hive
是基于Hadoop的一个数据仓库系统,在各大公司都有广泛的应用。美团数据仓库也是基于
Hive
搭建,每天执行近万次的
Hive
ETL计算流程,负责每天数百GB的数据存储和分析。
愤怒的谜团
·
2024-01-21 20:40
Hive
之set参数大全-10
指定LLAP(LowLatencyAnalyticalProcessing)引擎任务调度器中重新启用节点的最大超时时间
hive
.llap.task.scheduler.node.reenable.max.timeout.ms
OnePandas
·
2024-01-21 19:11
Hive
hive
数据仓库
Hive
之set参数大全-11
设置MapJoin操作中优化哈希表的工作集大小(workingsetsize)
hive
.mapjoin.optimized.hashtable.wbsize是Apache
Hive
中的一个配置属性,用于设置
OnePandas
·
2024-01-21 19:10
Hive
hive
数据仓库
搭建Azkaban环境
本次部署内容为:mysql-5.7.33-1.el7azkaban-3.89.0一、安装MySql数据库1.官网下载地址:MySQL::DownloadMySQLCommunityServer(Arc
hive
dVersions
成_7b38
·
2024-01-21 19:28
3、git实战操练
命令操作/含义gittagtag的创建,推到服务器gitarc
hive
对源码进行打包$gitarc
hive
master--format=zip--outputmaster.zip2、明天就是上线日期,今天合并你已经做完的几个关联性不大的
蓑衣夜行
·
2024-01-21 18:10
Git
git
macbook pro m1安装anaconda
下载链接:https://mirrors.tuna.tsinghua.edu.cn/anaconda/arc
hive
/https://mirrors.tuna.tsinghua.edu.cn/anaconda
风可。
·
2024-01-21 18:29
杂项
python
MacOSM1Pro安装thrift0.11.0
Thrift各版本下载地址https://arc
hive
.apache.org/dist/thrift/一、安装brewtap-new$USER/local-tapbrewextract--version
只年
·
2024-01-21 18:58
macos
嵌入式Linux Qt交叉编译环境搭建
编译器TinkerBoard2主板,BuildRoot根文件系统,package自带的Qt版本为5.14.2,所以安装的版本也是5.14.2wgethttps://download.qt.io/arc
hive
zoipuus
·
2024-01-21 18:15
TinkerBoard2
嵌入式
qt
linux
RocketMQ入门--安装与简单使用
而生产者和消费者实际上就是业务系统,所以这里不需要搭建,真正要搭建的就是NameServer和BrokernameServer安装启动:下载安装https://arc
hive
.apache.org/dist
Artisan_w
·
2024-01-21 15:19
分布式与微服务架构
rocketmq
window安装MySQL详解
1、下载官网:https://dev.mysql.com/downloads/mysql1000464-20161028191426906-1507191018.jpg注意选择ZIPArc
hive
类型的安装包
一大碗面丶
·
2024-01-21 15:20
5G_射频测试_参考规范(一)
参考规范:•BaseStation(BS)conformancetesting(重点limitation)DirectoryListing/ftp/Specs/arc
hive
/38_series/38.104
Sam-彪悍的人生不需要解释
·
2024-01-21 13:18
5G
5G 带宽与频段(一)
频率划分频率范围根据频率的高低分为FR1(sub6G)/FR2(毫米波段),参考3GPP38.104chapter5.1https://www.3gpp.org/ftp/Specs/arc
hive
/38
Sam-彪悍的人生不需要解释
·
2024-01-21 13:48
5G
RRU
5G
OTA PIM 被动互调失真 (三_测试)
参考规范3GPP37.808PassiveIntermodulation(PIM)handlingforBaseStations(多制式互调测试)DirectoryListing/ftp/Specs/arc
hive
Sam-彪悍的人生不需要解释
·
2024-01-21 13:18
5G
RRU
5G
射频工程
硬件架构
信息与通信
vue 里 props 类型为 Object 时设置 default: () => {} 返回的是 undefined 而不是 {}?
问题今天遇到个小坑,就是vue里使用props传参类型为Object的时候设置default:()=>{}报错,具体代码如下{{infoData.kaimo}}exportdefault{name:"PreArc
hive
Info
凯小默
·
2024-01-21 13:03
Vue
技术栈
vue.js
纹理的各向异性采样
/acko.net/files/fullfrontal/fullfrontal/webglmath/online.html各向异性采样参见http://www.cnblogs.com/cxrs/arc
hive
ryfdizuo
·
2024-01-21 10:14
OpenGL
03-黑马程序员大数据开发:Apache
Hive
一、Apache
Hive
概述1.目的:了解什么是分布式SQL计算;了解什么是Apache
Hive
2.使用
Hive
处理数据的好处操作接口采用类SQL语法,提供快速开发的能力(简单、容易上手)底层执行
S1406793
·
2024-01-21 08:21
大数据开发
大数据
apache
hive
hql(
hive
sql)中的join及踩过的坑
hql(即
hive
sql)的on子句中只支持and,不支持or,也不支持null的对比。leftouterjoin左外连接,也称为左连接。
AnillegalName
·
2024-01-21 08:21
hive
sql
hadoop
hive
order by length() 报错
hql如下selectlength(tag)fromtable1orderbylength(tag)limit20;报错FAILED:SemanticException[Error10004]:Line…Invalidtablealiasorcolumnreference‘tag’:(possiblecolumnnamesare:_c0)FAILED:SemanticException[Error
AnillegalName
·
2024-01-21 08:21
hive
sql
Hive
-SQL语法大全
Hive
SQL语法大全基于语法描述说明CREATEDATABASE[IFNOTEXISTS]db_name[LOCATION]'path';SELECTexpr,...FROMtblORDERBYcol_name
S1406793
·
2024-01-21 08:20
大数据开发
hive
sql
hadoop
大数据技术汇总
HadoopHDFS的运行流程HadoopMapReduce的运行流程Hadoopyarn的运行流程Hadoop内HDFS、MapReduce和YARN交互过程HadoopHDFS常用命令HadoopYARN常用命令
Hive
转身成为了码农
·
2024-01-21 07:41
大数据
hadoop
hive
spark
数据仓库
Linux问题 apt-get install时 无法解析域名“cn.arc
hive
.ubuntu.com”
问题描述:在安装程序时会出现无法解析域名的错误解决办法:1、编辑文件sudovim/etc/resolv.conf2、在最后加上(按键i进入编辑模式)nameserver8.8.8.83、保存退出(:wq)
江凡心
·
2024-01-21 06:23
问题记录站
linux
ubuntu
Spark学习(8)-SparkSQL的运行流程,Spark On
Hive
1.SparkSQL的运行流程1.1SparkRDD的执行流程回顾1.2SparkSQL的自动优化RDD的运行会完全按照开发者的代码执行,如果开发者水平有限,RDD的执行效率也会受到影响。而SparkSQL会对写完的代码,执行“自动优化”,以提升代码运行效率,避免开发者水平影响到代码执行效率。这是因为:RDD:内含数据类型不限格式和结构。DataFrame:100%是二维表结构,可以被针对Spar
技术闲聊DD
·
2024-01-21 06:50
大数据
hive
spark
学习
Hive
on Spark 和 Spark sql on
Hive
,你能分的清楚么
Hive
onSpark和Sparksqlon
Hive
,你能分的清楚么结构上
Hive
OnSpark和SparkSQL都是一个翻译层,把一个SQL翻译成分布式可执行的Spark程序。
捞起月亮的渔民丁
·
2024-01-21 06:18
hive
spark
大数据
Spark:SparkSQL与
Hive
on Spark(Shark)的比较
简要介绍了SparkSQL与
Hive
onSpark的区别与联系一、关于Spark简介在Hadoop的整个生态系统中,Spark和MapReduce在同一个层级,即主要解决分布式计算框架的问题。
花和尚也有春天
·
2024-01-21 06:17
sparkSQL
SparkSQL
Hive
on
Spark
拾肆:Spark with
Hive
和
Hive
on Spark
在
Hive
与Spark这对“万金油”组合中,
Hive
擅长元数据管理,而Spark的专长是高效的分布式计算,二者的结合可谓是“强强联合”。
for your wish
·
2024-01-21 06:47
hive
spark
big
data
Hive
on Spark and Spark sql on
Hive
结构上
Hive
OnSpark和SparkSQL都是一个翻译层,把一个SQL翻译成分布式可执行的Spark程序。
Hive
和SparkSQL都不负责计算。
请叫我小帅哥
·
2024-01-21 06:14
spark
spark
hive
spark集成
hive
1.集成原理说明思考:SparkOn
Hive
的目的:将客户端提交的SQL语句从原来翻译MR变更为翻译为Spark的RDD程序(Spark程序),然后交给Yarn执行那么也就意味着,一旦Spark和
HIVE
lijian972
·
2024-01-21 06:11
spark
on
hive
spark继承hive
hive
spark
big
data
sparkSQL sparkSQL整合
hive
(spark on
hive
)
sparkSQL整合
hive
sparkSQL整合
hive
sparkSQL整合
hive
步骤示例数据库保存在本地和数据库保存在HDFS应用场景sparkSQL整合
hive
sparkSQL整合
hive
,即sparkon
hive
爱吃甜食_
·
2024-01-21 06:39
Spark
Spark完全分布式集群下的
Hive
的安装和配置-安装步骤
Spark完全分布式集群下的
Hive
的安装和配置-安装步骤:文章目录Spark完全分布式集群下的
Hive
的安装和配置-安装步骤:2.安装MySQL数据库3.配置MySQL相关5.设置环境变量6.修改
hive
Deng872347348
·
2024-01-21 06:39
Hadoop
Hive
hive
大数据
【Spark分布式内存计算框架——Spark SQL】14. 分布式SQL引擎
第八章分布式SQL引擎回顾一下,如何使用
Hive
进行数据分析的,提供哪些方式交互分析???
csdnGuoYuying
·
2024-01-21 06:38
spark
分布式
sql
scala
数据库
Spark On
Hive
配置测试及分布式SQL ThriftServer配置
文章目录SparkOn
Hive
的原理及配置配置步骤在代码中集成SparkOn
Hive
Spark分布式SQL执行原理及配置配置步骤在代码中集成SparkJDBCThriftServer总结SparkOn
Hive
蜜桃上的小叮当
·
2024-01-21 06:07
Spark
分布式
spark
hive
mysql 磁盘读取原理_MySQL的数据库引擎之一 InnoDB 的底层原理
InnoDB、MyISAM、Memory、CSV、Arc
hive
、Blackhole、Merge、Feder
兔农农
·
2024-01-21 06:18
mysql
磁盘读取原理
【数据库】MySQL 的存储引擎
MySQL中的锁机制MySQL的存储引擎1.前言2.各种存储引擎的特征介绍2.1Federated2.2Memory2.3Performance_schema2.4Blackhole2.5CSV2.6Arc
hive
2.7MyISAM2.8MRG_MyISAM2.9InnoDB3
G皮T
·
2024-01-21 06:46
#
数据库
数据库
mysql
存储引擎
InnoDB
MyISAM
Federated
MEMORY
IOS实现视频直播-RTMP协议的一些参考资料
http://www.cnblogs.com/ikodota/arc
hive
/2012/09/12/compile_ffmpeg_for_iOS.html不过按这篇文章介绍的方法编译出来的库文
WeiQ_
·
2024-01-21 06:40
IOS
ios
rtmp
Docker-解决Debian9阿里云源 apt update时需要公钥的问题
首先,最新的Debian9阿里云源如下(底下这个源是正确的,在阿里云评论区里找到的,阿里云官网上面的是旧的,是不行的):debhttp://mirrors.aliyun.com/debian-arc
hive
WeiQ_
·
2024-01-21 06:37
Docker
docker
阿里云
容器
debian
在 EggJS 中实现 Redis 上锁
配置环境下载RedisWindows访问https://github.com/microsoftarc
hive
/redis/releases选择版本进行下载-勾选[配置到环境变量]-无脑下一步并安装命令行执行
JS.Huang
·
2024-01-21 05:22
NodeJS
笔记
redis
数据库
node.js
缓存
Centos7.6安装Conda
安装包地址:https://repo.anaconda.com/arc
hive
/使用最新的版本,安装链接命令如下:>wgethttps://repo.anaconda.com/arc
hive
/Anaconda3
zlchen
·
2024-01-21 03:37
【大数据
Hive
】
hive
行列转换使用详解
目录一、前言二、使用场景介绍2.1使用场景12.2使用场景2三、多行转多列3.1casewhen函数语法一语法二操作演示3.2多行转多列操作演示四、多行转单列4.1concat函数语法4.2concat_ws函数语法4.3collect_list函数语法4.4collect_set函数语法4.5多行转多列操作演示五、多列转多行5.1union语法5.2unionall语法5.3多列转多行操作演示六
逆风飞翔的小叔
·
2024-01-21 02:13
大数据
hive行转列
hive行列转换
hive行转列使用
111.Parquet表的使用
Parquet格式:数据模型:Avro,Thrift,ProtocolBuffers,POJOs查询引擎:
Hive
,Impala,Pig,Presto,Drill,Tajo,HAWQ,IBMBigSQL
大勇任卷舒
·
2024-01-21 02:33
多表形成树形结构
多表形成树形结构:packagecom.js.arc
hive
.assistant.domain.vo;importcom.js.core.domain.vo.BaseVO;importio.swagger.annotations.ApiModel
北执南念
·
2024-01-21 00:28
Java基础
java
解决在
hive
中创建表时TBLPROPERTIES中的长度问题
如果在
hive
中创建表时,如果TBLPROPERTIES中的长度过长,在
hive
的命令行中执行showcreatetable表名;发现创建的表语句中的TBLPROPERTIES的长度不完全,以下是解决办法
justdoit180
·
2024-01-21 00:11
hive
hive的表属性问题
上一页
16
17
18
19
20
21
22
23
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他