E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hadoop学习积累
01_Hive简介及其工作机制
1.Hive简介Hive是一个基于
Hadoop
的一个数据仓库工具,可以将结构化的数据文件映射为一个表。并提供类SQL查询功能,可以将sql语句转换为MapReduce任务运行。
weixin_34326429
·
2023-11-03 14:04
Hive 工作原理详解
Hive是建立在
Hadoop
上的数据仓库基础构架。它提供了一系列的工具,可以用来进行数据提取转化加载(ETL),这是一种可以存储、查询和分析存储在
Hadoop
中的大规模数据的机制。
AK佛爷
·
2023-11-03 14:04
Hive工作原理和简单查询、筛选数据操作
hive是基于
Hadoop
的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供简单的sql查询功能,可以将sql语句转换为MapReduce任务进行运行。
lambda33
·
2023-11-03 14:31
Hadoop
hive
hadoop
数据仓库
hive锁机制及解锁
各个操作锁出发的锁如下:补充一条,loaddata(local)inpath’’intotablexxpartition()出发的锁操作同insert直接在
hadoop
上
hadoop
dfs-putxx
chimchim66
·
2023-11-03 14:29
Hadoop
踩坑记录
hive
hadoop
big
data
大数据复习考试
填空题—范围(10*2)1.大数据概念,2.
Hadoop
概念及两个配置文件:
hadoop
-env.sh,core-site.xml3.HDFS概念及底层结构,4.HBASE数据模型及原理简答题—范围(10
我叫小武,不是跳舞的舞
·
2023-11-03 14:19
大数据
hadoop
spark
经验分享
centos 搜索进程、关闭进程。
[root@
hadoop
14~]#ps-ef|grepjavaroot3011127169021:57pts/000:00:00grep--color=autojavaroot1040671021:00
崔雨田
·
2023-11-03 14:16
linux
linux
java
centos
hadoop
高校固定资产管理系统-计算机毕设 附源码74965
hadoop
高校固定资产管理系统摘要在信息飞速发展的今天,网络已成为人们重要的信息交流平台。
vxbishe2
·
2023-11-03 11:43
hadoop
课程设计
java
spring
boot
python
html
php
(附源码)基于
hadoop
高校固定资产管理系统-计算机毕设 74965
hadoop
高校固定资产管理系统摘要在信息飞速发展的今天,网络已成为人们重要的信息交流平台。
VX_DZbishe
·
2023-11-03 11:02
spring
boot
vue.js
java
python
课程设计
html
php
ZooKeeper基本讲解 & 集群构建 & 常用操作指令
一、ZooKeeper概述ZooKeeper是一种为分布式应用所设计的高可用、高性能且一致的开源协调服务,是Google的Chubby一个开源实现,是
Hadoop
和Hbase的重要组件,它提供了一项基本服务
Summer_1981
·
2023-11-03 10:32
大数据学前准备--zookeeper详解与集群搭建(保姆级教程)
我将陆续发布大数据阶段所学,包括但不限于(
hadoop
,hive,hbase,phoneix,flume,bdeaver,kafka,spark,kylin,flink,azkaban)。
毫无感情的dj
·
2023-11-03 09:37
java-zookeeper
zookeeper
java
【大数据基础平台】星环TDH社区集群版本部署
目录一、概述二、环境配置三、安装Manager四、配置集群五、安装服务六、基本配置6.1开启安全6.2安装TDH客户端6.3集群外使用
hadoop
client6.3.1使用
hadoop
/hdfs6.3.2
开着拖拉机回家
·
2023-11-03 06:43
大数据运维
大数据底座
大数据平台
国产化
信创
TDH
大数据解决方案
docker安装zookeeper,以及zk可视化界面介绍
zookeeper简单介绍ZooKeeper是一个开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是
Hadoop
和Hbase的重要组件。
shenlbang
·
2023-11-03 05:34
运维相关内容
docker
容器
zookeeper
生产环境评估机器
学习了kafka的原理知识后,还要学会如何评估生产环境集群,如果是一个大数据架构师,这个是必须要会的,比如kafka集群、Hbase集群、
hadoop
集群,评估集群的方式差不多,现在以kafka为例。
yx️
·
2023-11-03 05:32
kafka
kafka
5km配速630
多
学习积累
。早上跑步5km,今天有一点点累,昨天下午没人上课,训练了1个半小时。打坐半小时。还是有一点累的。跑步时还是给自己定了6分30的目标。最后跑下来感觉还好,就是从头到尾到保持。一
凯_2019自律
·
2023-11-03 04:08
Centos Linux系统配置SSH免密登录
首先修改host,将需要互相免密的机器相互加入到host文件中:vi/etc/hostname#添加主机名
hadoop
2vi/etc/sysconfig/network#添加IP和hostname对应关系
dx1313113
·
2023-11-03 03:03
hadoop
linux
服务器
ssh
linux
Linux设置ssh免密登录
输入exit可以登出;由于我配置了主机映射所以可以不写ip直接写映射的主机名即可,Linux配置主机映射的操作为vim/etc/hosts#我自己配置的主机映射192.168.127.100
hadoop
100192.168.127.101
hadoop
101192.168.127.102
hadoop
10
勾勒指纹
·
2023-11-03 03:00
linux
ssh
服务器
Ubuntu安装Flink-1.4.0
下载页面:http://flink.apache.org/downloads.html这里flink的版本一定要和
hadoop
的版本匹配,所以选择
hadoop
2.8的下载地址如下:下载地址:http
yamaxifeng_132
·
2023-11-03 03:55
大数据
-
Flink
Ubuntu16.04安装flink1.9.2
官网下载flinkhttps://flink.apache.org/downloads.html下载好的文件是:flink-1.9.2-bin-scala_2.11.tgz解压cd/home/
hadoop
嘻水流年
·
2023-11-03 03:25
虚拟机
scala
java
开发语言
Flink安装与编程实践(Flink1.9.1)
然后,使用如下命令对安装文件进行解压缩:#解压安装包
hadoop
@
hadoop
-master:~$sudotarxfflink-1.9.1-bin-scala_2.11.tgz-C
退役小学生呀
·
2023-11-03 03:23
python
java
linux
大数据
maven
Ubuntu安装Flink
下载下载之前查看自己的
hadoop
版本!!!
weixin_42244915
·
2023-11-03 03:22
linux
ubuntu部署flink集群 ,运行wordcount 例子
说明:事先完成了以下的准备工作:ubuntu16安装了
hadoop
集群(完全分布式)
hadoop
集群有5个节点:
hadoop
1~
hadoop
6(没有
hadoop
2)每个节点都安装了flink-1.12.0
Sonder_s
·
2023-11-03 03:47
flink
flink
java
大数据
大数据
Hadoop
2.x与
Hadoop
3.x相比较有哪些变化
在这篇文章中,我们将讨论
Hadoop
2.x与
Hadoop
3.x之间的比较。
Hadoop
3版本中添加了哪些新功能,
Hadoop
3中兼容的
Hadoop
2程序,
Hadoop
2和
Hadoop
3有什么区别?
尚学先生
·
2023-11-03 03:29
架构设计之大数据架构(Lambda架构、Kappa架构)
实际案例五.Lambda架构与Kappa架构对比其它相关推荐:系统架构之微服务架构系统架构设计之微内核架构鸿蒙操作系统架构所属专栏:系统架构设计师一.大数据技术生态存储:主要包括HDFS、KafkaHDFS是
Hadoop
Elaine猿
·
2023-11-03 02:30
系统架构设计师
大数据
架构
系统架构
软考
大数据架构
HDFS的安全模式
安全模式是
hadoop
的一种保护机制,用于保证集群中的数据块的安全性。如果HDFS处于安全模式,则表示HDFS是只读状态。当集群启动的时候,会首先进入安全模式。
Summer_1981
·
2023-11-03 02:35
大数据四大阵营之流数据处理阵营
浅谈流数据处理阵营数据流管理来自于这样一个概念:数据的价值随着时间的流逝而降低,所以需要在事件发生后尽快进行处理,最好是在事件发生时就进行处理(即实时处理),对事件进行一个接一个处理,而不是缓存起来进行批处理(如
Hadoop
Ultipa
·
2023-11-03 00:26
老孙解密大数据
大数据四大阵营之OLTP阵营(上)
**·OLTP(在线事务、交易处理):RDBMS、NoSQL、NewSQL·OLAP(在线分析处理):MapReduce、
Hadoop
、Spark等·MPP(大规模并行处理):Greenplum、TeradataAster
Ultipa
·
2023-11-03 00:24
老孙解密大数据
数据库
大数据
数据挖掘
神经网络
机器学习
前沿资讯--
Hadoop
--Cloudera将开启全面收费
allClouderasoftwarewillrequireavalidsubscriptionandonlybeaccessibleviathepaywall.ThisincludesalllegacyversionsforClouderaDistributionincludingApache
Hadoop
ButFlyzzZ
·
2023-11-02 23:42
前沿资讯
大数据
Hadoop
Cloudera
CDH
CM
盘点Cloudera发展史:大数据的弄潮儿
说起Cloudera的发展史,离不开
Hadoop
,Cloudera的过去就是
Hadoop
时代中的一个缩影。
CDP充电瓶
·
2023-11-02 23:12
big
data
cloudera
hadoop
撕掉
Hadoop
标签,Cloudera未来可期吗?
Cloudera:大数据的弄潮儿1、Cloudera发展史2、透过Cloudera看清大数据时代的转变3、参考文章1、Cloudera发展史说起Cloudera,就不得不提起
Hadoop
,Cloudera
对许
·
2023-11-02 23:11
cloudera
大数据
云计算
ubuntu
hadoop
学习 环境搭建
单机模式下载
hadoop
-2.7.3.tar.gz并解压缩安装java环境sudoaptinstallopenjdk-8-jdk设置环境变量vim/etc/profileexportJAVA_HOME=
冰_茶
·
2023-11-02 22:43
大数据
Hadoop
面试题(二)——HDFS
1、HDFS中的block默认保存几份?默认保存3份2、HDFS默认BlockSize是多大?默认64MB3、负责HDFS数据存储的是哪一部分?DataNode负责数据存储4、SecondaryNameNode的目的是什么?他的目的使帮助NameNode合并编辑日志,减少NameNode启动时间5、文件大小设置,增大有什么影响?HDFS中的文件在物理上是分块存储(block),块的大小可以通过配置
蓦然1607
·
2023-11-02 22:53
Hadoop
+hive+flask+echarts大数据可视化项目之hive环境搭建与系统数据的分析思路
Hadoop
+hive+flask+echarts大数据可视化项目(四)--------------hive环境搭建与系统数据的分析思路----------------关注过
Hadoop
+hive+flask
play_big_knife
·
2023-11-02 22:29
大数据
监控
Python开发
flask
hadoop
大数据
hive
可视化
大数据毕业设计选题推荐-系统运行情况监控系统-
Hadoop
-Spark-Hive
✨作者主页:IT毕设梦工厂✨个人简介:曾从事计算机专业培训教学,擅长Java、Python、微信小程序、Golang、安卓Android等项目实战。接项目定制开发、代码讲解、答辩教学、文档编写、降重等。☑文末获取源码☑精彩专栏推荐⬇⬇⬇Java项目Python项目安卓项目微信小程序项目文章目录一、前言二、开发环境三、系统界面展示四、部分代码设计五、论文参考六、系统视频结语一、前言随着信息化时代的快
IT毕设梦工厂
·
2023-11-02 21:51
大数据项目
大数据
毕业设计
选题推荐
Hadoop
Spark
Hive
VM虚拟机
Linux开源存储方案系统介绍
OpenSDSLibvirtStorageManagement:OHSM(OnlineHierarchicalStorageManager)开源分布式存储什么是分布式存储元数据服务器数据服务器客户端常见的开源分布式存储软件
Hadoop
GlusterFScephSheepdog
王哞哞哞哞
·
2023-11-02 21:41
linux
开源
运维
Docker安装redis集群(3主3从)
查看IP如192.168.100.102[server@
hadoop
102~]$ifconfigdocker0:flags=4099mtu1500inet172.17.0.1netmask255.255.0.0broadcast172.17.255.255ether02
ssttIsme
·
2023-11-02 21:12
Hive报错
CannotobtainblocklengthforLocatedBlockimpala.error.OperationalError:DiskI/Oerror:FailedtoopenHDFSfilehdfs://
hadoop
1
米卡啦
·
2023-11-02 20:54
如何找到一份好的工作
对外是搜寻求职对象信息的搜集了解,岗位需求,对自我
学习积累
具有指导作用。
多行不易
·
2023-11-02 19:22
HIve部署
文章目录1.部署
hadoop
集群2.部署HIVE1.部署
hadoop
集群机器准备3台,关闭防火墙
hadoop
1192.168.200.41
hadoop
2192.168.200.43
hadoop
2192.168.200.43
L白眸
·
2023-11-02 19:06
hadoop
hive
hadoop
数据仓库
理论学习--【
Hadoop
生态原理学习】
一、
Hadoop
原理1.核心:HDFS(存储)、MapReduce(分析)解决大量数据存储与处理的问题离线分析:hive实现查询:hbaseBI分析:Mahout2.版本1.0mapreduce还进行资源调度
zenas_yuan
·
2023-11-02 18:31
Hadoop
hadoop
Hadoop
概述
Hadoop
是一个由Apache基金会所开发的分布式系统基础架构。主要解决,海量数据的存储和海量数据的分析计算问题。广义上来说,
Hadoop
通常是指一个更广泛的概念——
Hadoop
生态圈。
粉红色的Pig
·
2023-11-02 16:55
hadoop
大数据
java
酷克数据的数据仓库(olap数据库)架构变迁学习笔记
postgresql酷客数据的数据库均是基于postgresql数据库进行开发的,GreenplumDatabase(大规模并行处理(MPP)数据库),ApacheHAWQ(SQLon
Hadoop
解决方案
Aiky哇
·
2023-11-02 16:08
postgresql
postgresql
数据库
大数据
HashData与HDFS的高效数据交换
背景与挑战在对象存储技术出现和普及之前,HDFS(
Hadoop
分布式文件系统)是市场上为数不多的开源、免费、高性价比(相对于昂贵的SAN系统)PB级存储系统,大量用于企业数据归档场景。
HashData酷克数据
·
2023-11-02 16:06
产品动态
数据仓库
入行大数据,需要学习哪些基础知识?
而且不论是学习
hadoop
,还
人工智能爱好者
·
2023-11-02 15:48
大数据
大数据学习
大数据基础知识
HDFS- 架构图详细解析
Hdfs如何读取文件Hdfs如何写入文件Hdfs副本存放策略hdfs访问命令Hdfs数据复制Hdfs空间回收Namenode的热备NN&2NN关系DataNode工作机制Hdfs面试重点介绍HDFS(The
Hadoop
DistributedFileSystem
piepis
·
2023-11-02 15:00
大数据-Hadoop脉络
hdfs
架构图
hadoop
Mac 搭建 pyspark各类疑难杂症解决
InstallingApacheSparkonMacOS在安装以下文件时都出现了一些小问题,解决方案写在了后面brewinstallscalabrewinstallapache-sparkbrewinstall
hadoop
InstallAdoptOpenJDK8withHom
Trance_Fu63
·
2023-11-02 14:57
Mac
OS
X
数据分析
python
spark
clickhouse 在hdfs 和本地推数据
CREATETABLEtest.democcc(idInt8,nameString)ENGINE=Log;
hadoop
fs-cat/test001/zgh/tmp/demoaaa/*|clickhouse-client
早点起床晒太阳
·
2023-11-02 12:09
Hadoop
HDFS(分布式文件系统)
一、
Hadoop
HDFS(分布式文件系统)为什么要分布式存储数据假设一个文件有100tb,我们就把文件划分为多个部分,放入到多个服务器靠数量取胜,多台服务器组合,才能Hold住数据量太大,单机存储能力有上限
syst1m'
·
2023-11-02 10:06
大数据
hadoop
hdfs
大数据
HDFS集群环境部署(超级详细!!)
一、部署
Hadoop
的关键点1.上传,解压到/export/server,配置软链接2.修改4个配置文件,workers,
hadoop
.env.sh,core-stie.xml,hdfs-site.xml3
syst1m'
·
2023-11-02 10:06
大数据
hdfs
hadoop
大数据
简单了解NameNode的ZKFC机制
[
HADOOP
]简单了解NameNode的ZKFC机制NameNode的HA可以个人认为简单分为共享editLog机制和ZKFC对NameNode状态的控制问题:一般导致NameNode切换的原因ZKFC
songsongJ
·
2023-11-02 10:07
黑猴子的家:查看 Redis 进程
[root@
hadoop
102redis-3.2.5]#ps-ef|grepredisroot36021011:39?
黑猴子的家
·
2023-11-02 09:49
上一页
62
63
64
65
66
67
68
69
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他