E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hadoop集群安装
hbase
环境安装java坏境centos安装java
hadoop
环境
hadoop
安装hbase配置vi/etc/profile.d/
hadoop
-eco.sh写入:HBASE_HOME=/opt/hbasePATH
心里没有一点AC数
·
2023-12-18 05:31
hbase
hadoop
big
data
十七、如何将MapReduce程序提交到YARN运行
1、启动某个节点的某一个用户
hadoop
@node1:~$jps13025Jps
hadoop
@node1:~$yarn--daemonstartresourcemanager
hadoop
@node1:~
弦之森
·
2023-12-18 04:48
Hadoop
linux
服务器
hdfs
hadoop
mapreduce
大数据
Hadoop
(海量数据存储及计算) 基本概念
Hadoop
Hadoop
是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。
ronmy
·
2023-12-18 02:51
大数据
Hadoop
大数据
海量数据
存储
Hadoop
完全分布式搭建 详细流程
Hadoop
的完全分布式搭建是一项复杂的任务,其中包含了很多步骤和细节。以下是一个简要的流程,供参考:确定
Hadoop
版本和操作系统首先,您需要确定要安装的
Hadoop
版本和所使用的操作系统。
palma_he
·
2023-12-18 01:53
hadoop
Hadoop
入门学习之二:一步一步运行WordCount
WordCount是学习
Hadoop
的经典入门范例。下面通过一步步的操作,来编译、打包、运行WordCount程序。
小_强
·
2023-12-18 00:39
Hadoop
hadoop
wordcount
入门
Hadoop
入门学习之一:Ubuntu12.04下
Hadoop
1.0.4的伪分布式安装
一、安装JDK1、下载并安装sudoapt-getinstallopenjdk-6-jdk(安装JDK7为:sudoapt-getinstallopenjdk-7-jdk)要求输入当前用户密码时输入密码,回车;要求输入YES/NO时,输入YES,回车,一路向下安装完成;2、在命令行输入JAVA-VERSION查看是否安装成功3、配置环境变量编辑文件/etc/profile,在文件最下面加入以下三行
小_强
·
2023-12-18 00:09
Hadoop
hadoop
Hadoop
hadoop1.0.4
ubuntu12.04
伪分布式安装
Hadoop
问题:启动
hadoop
时报namenode未初始化:java.io.IOException: NameNode is not formatted.
1、启动
Hadoop
ubuntu@ubuntu:~/
hadoop
-1.0.4/bin$.
小_强
·
2023-12-18 00:09
Hadoop
hadoop
Hadoop
Namenode
NameNode
namenode
入门
Linux安装
Hadoop
超详细教程
本机的配置环境如下:
Hadoop
(3.1.1)UbuntuLinux(64位系统)二、安装ssh服务ubuntu中默认是没有安装sshserver的,只有sshclient,可以使用如下命令安装:sudoapt
Jagger-Q
·
2023-12-18 00:37
大数据
hadoop
hdfs
提交Application的两种方式
Application的两种方式分别是client方式和cluster方式1.client方式这种方式,Driver进程是在client端启动启动代码样例spark-submit--masterspark://
hadoop
1
0_9f3a
·
2023-12-17 23:54
备赛笔记——2024全国职业院校技能大赛“大数据应用开发”赛项——任务2:离线数据处理
MySQLhttps://www.mysql.com/软件名称版本ubuntu18.0464位
Hadoop
:
hadoop
-3.1.3.tar.gz3.1.3Jdk:jdk-8u212-linux-x64
Stitch .
·
2023-12-17 22:18
我的大学笔记
MySQL
笔记
大数据
mysql
scala
HBase 使用JDK21
HBase使用JDK21启动zookeeper和
hadoop
创建软件目录mkdir-p/opt/softcd/opt/soft下载软件wgethttps://dlcdn.apache.org/hbase
李昊哲小课
·
2023-12-17 21:40
数据库
大数据
云计算
hbase
数据库
大数据
java
数据分析
MapReduce运行模式
$
HADOOP
_HOME/etc/
hadoop
/mapred-site.xml文件中设置相关配置(默认就是该配置)。
皮卡丘要进化
·
2023-12-17 21:34
Flume在企业大数据仓库中数据收集架构
数据仓库架构文件数据和关系数据企业大数据仓库之数据收集架构||linux企业大数据仓库之数据收集架构||window总结实时收集文件框架有很多,但是其中Flume使用最广泛,主要由于其架构设计和使用简单清晰明了,又支持
Hadoop
明明德撩码
·
2023-12-17 20:45
基于
Hadoop
的智慧社区大数仓库系统设计与开发
基于
Hadoop
的智慧社区大数仓库系统设计与开发DesignandDevelopmentofaSmartCommunityDataWarehouseSystembasedon
Hadoop
目录目录2摘要3
wusp1994
·
2023-12-17 18:45
hadoop
大数据
分布式
分布式文件系统之HDFS
2)HDFS定义HDFS(
Hadoop
Distribu
僖僖cc
·
2023-12-17 17:41
hdfs
hadoop
大数据
分布式数据库HBase
HBase是依赖
Hadoop
的。为什么HBase能存储海量的数据?因为HBase是在HDFS的基础之上构建的,HDFS是分布式文
僖僖cc
·
2023-12-17 17:41
分布式
数据库
hbase
从传统型数据库到非关系型数据库
一什么是数据库数据库顾名思义保存数据的仓库,其本质是一个具有数据存储功能的复杂系统软件,数据库最终把数据保存在计算机硬盘,但数据库并不是直接读写数据在硬盘,而是中间隔了一层操作系统,通过文件系统把数据保存为本地文件系统的数据文件;我们讲过
Hadoop
僖僖cc
·
2023-12-17 17:38
数据库
nosql
Presto连接Hive
配置HiveConnectoretc/catalog/hive.propertiesconnector.name=hive-
hadoop
2hive.metastore.uri=thrift://:9083hive.config.resources
kongxx
·
2023-12-17 16:46
7.Sqoop安装
1下载并解压1.1下载地址http://mirrors.hust.edu.cn/apache/sqoop/1.4.6/1.2上传安装包sqoop-1.4.6.bin__
hadoop
-2.0.4-alpha.tar.gz
Rex_2013
·
2023-12-17 15:47
流批一体神器 Flink 之 Flink State 架构原理解析
身为大数据工程师,你还在苦学Spark、
Hadoop
、Storm,却还没搞过Flink?醒醒吧!
zhisheng_blog
·
2023-12-17 14:32
分布式
大数据
编程语言
flink
hadoop
基于
Hadoop
的电商数据分析系统设计与实现
基于
Hadoop
的电商数据分析系统设计与实现DesignandImplementationofE-commerceDataAnalysisSystembasedon
Hadoop
目录目录2摘要3关键词3第一章绪论
wusp1994
·
2023-12-17 13:40
hadoop
电商数据分析
数据分析
高效存储大规模数据的方法与实现
Hadoop
DistributedFileSystem(HDFS)是一个常用的分布式文件系统,它使用主从架构,
静谧星光c
·
2023-12-17 11:47
大数据
基于ambari
hadoop
平台的搭建
环境准备1:jdk安装,防止在/opt/data下,tar–zxf安装包在/opt/apps下所有节点都需要2:sudoaptupdate源升级,所有节点都需要3:/etc/hosts10.68.29.243iZwz9870dk1soyw67s3ephZ10.68.29.244iZwz9870dk1soyw67s3epgZ10.68.29.245iZwz9870dk1soyw67s3eplZ10.
大数据小应用
·
2023-12-17 10:04
kafka学习笔记--节点的服役与退役
如有侵权、联系速删视频教程链接:【尚硅谷】Kafka3.x教程(从入门到调优,深入全面)文章目录服役新节点新节点准备执行负载均衡操作退役旧节点执行负载均衡操作执行停止命令服役新节点依旧使用前面文章创建的三个
hadoop
102
向着百万年薪努力的小赵
·
2023-12-17 10:25
#
Kafka学习--入门到调优
kafka
学习
笔记
物联网架构之
Hadoop
修改/etc/hosts文件192.168.107.197node1192.168.107.196node2192.168.107.195node3创建用户并加入组groupadd
hadoop
useradd-g
hadoop
hduserpasswdhduservim
叮咚网工
·
2023-12-17 10:25
云计算
linux服务器
大数据
架构
hadoop
大数据
HDFS介绍+Shell操作
看黑马网课记录第二章-wwww操]使用命令操作HDFS文件系统_哔哩哔哩_bilibiliHDFS1.什么是HDFS
hadoop
三大组件之一,负责海量数据的分布式存储2.HDFS架构角色:主节点(领导)
Y蓝田大海
·
2023-12-17 10:14
大数据开发
hdfs
hadoop
大数据
Hadoop
分布式配置小白篇(附加各阶段问题解决方式)
3.ssh免密4.创建
hadoop
用户5.jdk、
Y蓝田大海
·
2023-12-17 09:09
大数据开发
hadoop
大数据
分布式
2018-06-14
Hadoop
:1.官网:http://
hadoop
.apache.org/2.
Hadoop
的狭义和褒义认识:狭义:软件(HDFS、MapReduce、Yarn)褒义:以
Hadoop
为主的生态圈3.
Hadoop
hoose
·
2023-12-17 09:26
Flink 简介
Flink简介#一、Flink简介#1.Flink发展这几年大数据的飞速发展,出现了很多热门的开源社区,其中著名的有
Hadoop
、Storm,以及后来的Spark,他们都有着各自专注的应用场景。
lz_matlab
·
2023-12-17 09:09
Flink
flink
大数据
Hadoop
中Join案例
ReduceJoin案例Map端的主要工作:为来自不同表或文件的key/value对,打标签以区别不同来源的记录。然后用连接字段作为key,其余部分和新加的标志作为value,最后进行输出。Reduce端的主要工作:在Reduce端以连接字段作为key的分组已经完成,我们只需要在每一个分组当中将那些来源于不同文件的记录(在Map阶段已经打标志)分开,最后进行合并就ok了。订单数据表t_orderi
zmx_messi
·
2023-12-17 08:43
hadoop
大数据
分布式
Docker中执行tar: Cannot read: Is a directory in docker
我想要在Docker镜像中安装
Hadoop
,下面是Dockerfile的一部分:COPY
hadoop
-3.1.2.tar.gz/usr/
hadoop
/
hadoop
-3.1.2.tar.gzRUNcd/usr
王勇1024
·
2023-12-17 08:04
Kubernetes
集群安装
高可用postgresql
Kubernetes
集群安装
高可用postgresqlBitnami提供的postgresql-ha解决方案是一个预配置的、高可用的PostgreSQL集群配置,通常部署在Kubernetes环境中。
大風起雲飛揚
·
2023-12-17 07:46
kubernetes
postgresql
容器
云原生
数据库
Hadoop
,Hive和Spark大数据框架的联系和区别
Hadoop
,Hive和Spark是大数据相关工作中最常用的三种框架。1
Hadoop
hadoop
是一个分布式计算框架,是大数据处理的基石,大多其他框架都是以
hadoop
为基础。
Weiyaner
·
2023-12-17 06:00
数据库
大数据
hadoop
mapreduce
spark
Win10下安装大数据开发环境 spark+
hadoop
+hive(实测可用)
Win10下安装大数据开发环境spark+
hadoop
+hive(实测可用)基础环境安装spark安装
Hadoop
安装hive安装总结参考博客基础环境安装首先,我们需要搭建软件的运行环境,本文中所使用的软件均需要运行在
YannAdams
·
2023-12-17 06:30
Spark
Hadoop
Hive
大数据环境
Windows
spark
hadoop
hive
大数据生态中‘
Hadoop
’、‘Hive’、‘Spark’、‘Mapreduce’、‘HDFS’、‘Yarn’是什么关系
所以用到了
Hadoop
生态来管理信息。
Hadoop
生态中HDFS:处理存储,管理信息的分布式存储、提供接口,让用户感觉集群中的信息
小书生啊
·
2023-12-17 06:29
大数据
hadoop
hive
大数据 |
Hadoop
、Hive、Spark的关系
文章总括图数据存储单机数据库时代所有数据在单机都能存的下,数据处理的任务都是IO密集型,更谈不上分布式系统一个典型的2U服务器可以插6块硬盘,每块硬盘4T,共24T原始容量,再加上一些数据包的可用冗余,再加上一些格式化的损失,保守估计一台服务器至少可以有10T以上的可用容量,再加上128G内存和两颗CPU,装入DBMS,稍微调优,单表处理10e条数据问题不大多机数据库时代当数据量变多时,单台机器无
xyzhang2018
·
2023-12-17 06:58
数据库
hadoop
大数据
spark
[AIGC ~大数据] 深入理解
Hadoop
、HDFS、Hive和Spark:Java大师的大数据研究之旅
在这个充满机遇和挑战的领域中,我深入研究了
Hadoop
、HDFS、Hive和Spark等关键技术。本篇博客将从"是什么"、"为什么"和"怎么办"三个角度,系统地介绍这些技术。文章目录是什么?
程序员三木
·
2023-12-17 06:55
AI
大数据
hadoop
AIGC
基于
Hadoop
的铁路货运大数据平台设计与应用
完整下载:基于
Hadoop
的铁路货运大数据平台设计与应用基于
Hadoop
的铁路货运大数据平台设计与应用DesignandApplicationofRailwayFreightBigDataPlatformbasedon
Hadoop
wusp1994
·
2023-12-17 06:24
大数据
hadoop
分布式
Hadoop
文章目录1、
Hadoop
是什么2、
Hadoop
优势3、
Hadoop
组成(1)HDFS(2)YARN(3)MapReduce架构概述(4)HDFS、YARN、MapReduce三者关系(5)大数据技术生态体系
Gong_yz
·
2023-12-17 06:39
大数据
hadoop
分布式
hive学习笔记
1.HIVE结构Hive是建立在
Hadoop
上的数据仓库基础构架。它提供了一系列的工具,可以用来进行数据提取转化加载(ETL),这是一种可以存储、查询和分析存储在
Hadoop
中的大规模数据的机制。
Tech_Hog
·
2023-12-17 05:05
Hadoop
hadoop
hive
Caused by: java.lang.IllegalStateException: com.google.protobuf.InvalidProtocolBufferException: Prot
1报错
hadoop
中namenode报错Causedby:java.lang.IllegalStateException:com.google.protobuf.InvalidProtocolBufferException
不吃饭的猪
·
2023-12-17 05:34
java
开发语言
Hive学习笔记
只在主节点上安装)(1)下载安装包到/usr/app/目录下(2)解压(3)修改配置文件/etc/profile(添加exportHIVE_HOME=/usr/local/hive-0.9.0-binexport
HADOOP
_HOME
weixin_30470857
·
2023-12-17 05:32
hive 增加表字段语录_HIVE常用SQL语句及语法
addressstring)rowformatdelimitedfieldsterminatedby'\t';创建字段中含有数组类型,对象类型的表,并查询特殊字段外部表默认存在HDFS下的‘/user/
hadoop
weixin_39811386
·
2023-12-17 05:32
hive
增加表字段语录
Hive笔记五:入门教程
摘要:Hive是建立在
Hadoop
上的数据仓库基础构架。它提供了一系列的工具,可以用来进行数据提取转化加载(ETL),这是一种可以存储、查询和分析存储在
Hadoop
中的大规模数据的机制。
Mojoooo
·
2023-12-17 05:00
hive
hive
hadoop
面试题 5 ---有用
1.0简要描述如何安装配置apache的一个开源
hadoop
,只描述即可,无需列出具体步骤,列出具体步骤更好。
okbin1991
·
2023-12-17 05:00
hadoop
hdfs
大数据
分布式
java
hadoop
学习笔记--13.hive 属性配置、交互式命令行和文件系统交互
一、hive配置文件常见属性1.在cli命令行上显示当前的数据库名以及查询的行头信息在hive-site.xml中添加以下配置hive.cli.print.headertrueWhethertoprintthenamesofthecolumnsinqueryoutput.hive.cli.print.current.dbtrueWhethertoincludethecurrentdatabasei
liuzebin9
·
2023-12-17 05:58
Hadoop
hadoop
hive
【Hive】【
Hadoop
】工作中常操作的笔记-随时添加
文章目录1、Hive复制一个表:2、字段级操作3、hdfs文件统计1、Hive复制一个表:直接Copy文件createtablenew_tableliketable_name;hdfsdfs-get/apps/hive/warehouse/ods.db/table_nameloaddatalocalinpath'/路径'intotablenew_table;修复表:msckrepairtablet
cbigchaos
·
2023-12-17 05:57
#
Hive
#
Hadoop
hadoop
hive
笔记
大数据
第一步:
hadoop
安装基础环境
1.安装vm虚拟机【一路默认】**解决x64的问题需要lenove里面的安全模块启用。2.安装linux安装了5台linux服务器centos准备搭建haddop环境唯一需要配置的就是网络。用nat宿主这种方式。IP192.168.253.12子网掩码255.255.255.0网关192.168.253.2192.168.253.11192.168.253.12192.168.253.13192.
微生命
·
2023-12-17 05:37
《PySpark大数据分析实战》-11.Spark on YARN模式安装
Hadoop
对大数据技术栈
Hadoop
、Hive、Spark、Kafka等有深入研究,对Data
wux_labs
·
2023-12-17 05:16
PySpark大数据分析实战
数据分析
数据挖掘
大数据
数据科学
PySpark
《PySpark大数据分析实战》-12.Spark on YARN配置Spark运行在YARN上
对大数据技术栈
Hadoop
、Hive、Spark、Kafka等有深入研究,对Data
wux_labs
·
2023-12-17 05:10
PySpark大数据分析实战
数据分析
数据挖掘
大数据
数据科学
PySpark
上一页
34
35
36
37
38
39
40
41
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他