E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Hadoop集群
吐血整理的Hadoop最全开发指南【
Hadoop集群
搭建篇】
个人主页:个人主页推荐专栏:大数据开发成神之路作者简介:一个读研中创业、打工中学习的能搞全栈、也搞算法、目前在搞大数据的奋斗者。⭐️关注我,持续分享干货!用实打实的经验来帮你少走弯路⭐️文章目录一、Hadoop为何物1.1Hadoop的整体认识1.2Hadoop的架构1.2.1HDFS架构简介1.2.2YARN架构简介1.2.3MapReduce架构简介1.2.4Hdfs、Yarn和MapRedu
陶人超有料
·
2022-11-15 09:51
大数据成神之路
hadoop
大数据
hdfs
yarn
Hbase:实验一-在
Hadoop集群
上配置Hbase
2实验内容本实验是在多台安装Linux操作系统的服务器上,并且这些服务器已经安装
Hadoop集群
,安装分布式HBase集群,让学生掌握搭建HBase的步骤。
写报告的小菜鸟
·
2022-11-13 09:27
Hbase
hbase
big
data
Hadoop 全分布安装部署
Hadoop全分布安装部署:目录Hadoop全分布安装部署:一:安装前准备二:配置jdk三:部署
hadoop集群
四:启动
hadoop集群
五:总结VMWare上安装liunx系统:装虚拟机及linux系统
大男孩哟
·
2022-11-10 14:59
大数据
hadoop
hadoop
大数据
HDFS常用命令实操
1准备工作1)启动
Hadoop集群
(方便后续的测试)[
[email protected]
]$sbin/start-dfs.sh[
[email protected]
The code family
·
2022-11-06 07:00
CSDN团队成员LSS
大数据
一台虚拟机基于docker搭建大数据HDP集群的思路详解
目录前言思路整体架构1.技术选型2.架构设计平台一览
Hadoop集群
集群节点环境准备1.虚拟机准备2.docker容器准备dockerfiledocker-compose3.下载安装包结语前言好多人问我
·
2022-11-05 16:09
Hadoop集群
搭建(一)----伪分布式集群与eclipse的安装
Haoop集群搭建【一】--伪分布式集群与eclipse的安装Ⅰ前言Ⅱ搭建虚拟机准备(附带下载链接)一.VMware二.终端模拟器及文件传输软件三.虚拟机镜像四.相关组件Ⅲ.集群安装与配置教程一,创建虚拟机二,安装Centos7常见问题三,虚拟机网络配置(通过环回适配器)本地物理机网络配置虚拟机网络配置虚拟机网卡配置克隆虚拟机配置主机名及hosts列表设置免密钥登录关闭防火墙(所有机器)验证网络Ⅳ
俗人的浅吟^ω^
·
2022-11-02 11:02
hadoop
eclipse
大数据
linux
hadoop
hdfs
eclipse
Hadoop集群
的启动
在首次启动Hadoop之前还需要进行一些配置工作我们是在Linux集群上安装
Hadoop集群
Linux中对大小写敏感!
王摇摆
·
2022-11-01 23:36
Hadoop
hadoop
hdfs
大数据
Hadoop集群
安装和配置(完全分布式集群搭建)
1虚拟机的环境准备1.1下载的软件1、安装Vmware-workstation主要步骤就不讲述,网上可以收到相关Linux虚拟机的相关密钥和安装步骤。2、VM网络设置打开电脑里面的控制面板——>网络和Internet——>网络和共享中心——>更改适配器设置——>VMnet8(右击鼠标,点击属性)—>IPv4(配置IP地址和DNS地址).我的电脑配置如下:3、查看虚拟机的ip地址打开VmwareWo
希光之旅
·
2022-10-31 15:30
Hadoop
hadoop
linux
Zookeeper - 集群搭建 + 群起集群脚本
四、Shell脚本一键启动、关闭集群上一篇已经结束了单台Zookeeper的本地安装(Zookeeper-本地安装与参数配置)和
Hadoop集群
的搭建,强烈建议去看一眼里面的xsync,在此篇会大量应用
不会调制解调的猫
·
2022-10-28 20:29
Zookeeper
Linux
java-zookeeper
zookeeper
分布式
服务器
linux
基于Docker快速搭建
Hadoop集群
和Flink运行环境
前言搭建集群环境升级配置Hadoop配置Flink打包镜像启动集群前言本文主要讲,基于Docker在本地快速搭建一个Hadoop2.7.2集群和Flink1.11.2运行环境,用于日常Flink任务运行测试。前任栽树,后人乘凉,我们直接用DockerHadoop镜像kiwenlau/hadoop-cluster-docker来搭建,这个镜像内已经配置部署好了Hadoop2.7.2,感谢前辈们造好轮
白夜鸦羽
·
2022-10-24 18:20
Flink实战
Hadoop集群
Flink
Docker
环境搭建
Win10无法连接vagrant创建Linux环境解决办法
一、问题由来最近想在本机建三台Linux服务器,用来做flink、
hadoop集群
。想起来之前尚硅谷的课程里提到过vagrant,遂回头搜了一把。
ChaosLong
·
2022-10-19 09:17
Zookeeper分布式协调服务
大数据项目最终需要运行在大数据平台之上,而构建
Hadoop集群
是构建整个大数据平台的核心。
梯度科技
·
2022-10-13 15:31
hadoop
java
hdfs
zookeeper
大数据平台,
Hadoop集群
架构,概述及原理
目录一,大数据平台架构概述1,大数据概念2,大数据的特征3,大数据的处理流程和相关技术4,大数据平台架构的特点5,大数据平台架构原理二,
Hadoop集群
概述1,HDFS2,MapReduce3,YARN
无求道贾
·
2022-10-05 11:53
HA
运维
Hadoop大数据
大数据
hadoop
【大数据实战】Docker中
Hadoop集群
搭建
目录Docker中
Hadoop集群
搭建环境网络设置安装docker安装OpenSSH免密登录Ansible安装软件环境配置配置hadoop运行所需配置文件Hadoop启动问题Docker中
Hadoop集群
搭建环境
吕布辕门
·
2022-10-05 11:52
大数据
hadoop
大数据
大数据讲课笔记3.3
Hadoop集群
配置
文章目录零、学习目标一、导入新课二、新课讲解(一)配置
Hadoop集群
1、在master虚拟机上配置hadoop(1)编辑Hadoop环境配置文件-hadoop-env.sh(2)编辑Hadoop核心配置文件
howard2005
·
2022-10-05 11:52
大数据基础
hadoop
集群配置
Hadoop
WebUI
docker搭建
Hadoop集群
1.确保自己安装好了docker2.Ubuntu容器安装JDK与Hadoop下载ubuntu镜像$dockerpullubuntu启动一个基础Ubuntu镜像的容器,挂载一个容器卷(volume),然后将Hadoop的安装包放入宿主机指定的目录下。#宿主机:/home/hadoop/build$lshadoop.tar.gz启动容器dockerrun-it-v/home/hadoop/build:
夕午wuw
·
2022-09-29 19:53
完全分布式hadoop3.1.3集群搭建
文章目录一、搭建集群1.1架构信息1.2配置文件1.3修改自定义配置文件1.4分发配置文件二、启动
hadoop集群
2.1启动hdfs2.1.1添加workers节点2.1.2格式化namenode2.1.3
归海十八刀
·
2022-09-27 16:33
大数据
分布式
hadoop
hdfs
大数据
yarn
Data Analysis 常见的组件
ClickHouse:(不基于
Hadoop集群
,可独立安装)列式数据库,主要用于实时数据仓库,这个也是基于内存的,特点就是快。
·
2022-09-26 16:14
data
Apache Hadoop 完全分布式集群搭建
JDK版本:JDK8版本Hadoop搭建方式单机模式:单节点模式,非集群,生产不会使用这种方式单机伪分布式模式:单节点,多线程模拟集群的效果,生产不会使用这种方式完全分布式模式:多台节点,真正的分布式
Hadoop
悠然予夏
·
2022-09-25 01:04
大数据
hadoop
分布式
apache
mysql提高insert速度_(转载)提高mysql插入数据的速度
需要在mysql中插入2000万条记录,用insert语句插入速度很有限,每秒钟几百条,放在
hadoop集群
上跑也是这个速度,可能是数据库的问题了,网上看到sqlserver和oracle的insert
weixin_39713686
·
2022-09-24 03:19
mysql提高insert速度
1.
Hadoop集群
的配置
本机环境:Windows10虚拟机:centos7所需软件、安装包:JDK、hadoop、winscp(可选)文章目录1.Linux虚拟机的安装及网络配置1.1.虚拟机安装教程1.2.网络配置1.2.1.虚拟机网卡设置1.2.2.虚拟机IP配置1.3.安装ifconfig1.4.尝试ssh登录2.hadoop的安装2.1.SSH免密登录2.2.下载安装JDK2.3.下载安装Hadoop2.3.1.
Brisa56
·
2022-09-21 13:05
大数据平台技术与应用实验
hadoop
网络
大数据
第一章 MapReduce概述
MapReduce核心功能是将用户编写的业务逻辑代码和自带默认组件整合成一个完整的分布式运算程序,并发运行在一个
Hadoop集群
上。
留不住斜阳
·
2022-09-21 13:34
MapReduce
大数据
mapreduce
hadoop
big
data
【Hadoop】5.1 MapReduce概述
MapReduce是一个分布式运算程序的编程框架,是用户开发“基于Hadoop的数据分析应用”的核心框架MapReduce核心功能是将用户编写的业务逻辑代码和自带默认组件整合成一个完整的分布式运算程序,并发运行在一个
Hadoop
coolcoo1cool
·
2022-09-21 13:03
Hadoop
mapreduce
hadoop集群
两个standby的解决办法
首先你要确定不用ha的时候你的
hadoop集群
是正常的,不然找错误的方向就偏离了如果都正常,配置HA需要zookeeper,先要看看是不是zookeeper没有配置好的问题如果都正常,在hadoop安装目录执行
web13296898218
·
2022-09-11 21:06
java
hadoop
hdfs
大数据
zookeeper
分布式
Hadoop集群
搭建(二)——Linux系统SSH远程双向免密登陆
注重版权,转载请注明原作者和原文链接作者:Yuan-Programmer相关文章:
Hadoop集群
的搭建(一)——Liunx系统的网络配置,主机配置,多台虚拟机间的相互连通和远程操作相关资源:VMwareWorkstation16pro
Yuan-Programmer
·
2022-09-10 09:52
Hadoop
hadoop
linux
ssh
大数据
vmware
Yarn资源管理器
Yarn简介ApacheYarn(YetanotherResourceNegotiator)是
Hadoop集群
的资源管理器,负责为上层应用提供资源管理和调度。
稷下小鲤鱼
·
2022-09-09 07:44
Yarn
Hadoop集群
搭建之关闭防火墙(一)
一.前期准备(为了后期搭建Hadoop做准备)Hadoop需要三台虚拟机,所以要创建三台虚拟机,我将三台虚拟机分别命名为node1,node2,node3,IP分别是192.168.36.101,192.168.36.102,192.168.36.103。还需要准备相对应的jdktar包和hadooptar包,我的tar包如下二.关闭防火墙(单纯的关闭防火墙的话,只用看下方命令就可以;如果想搭建H
web13282751078
·
2022-09-08 04:10
java
hadoop
大数据
hdfs
分布式
开发语言
一幅长文细学华为MRS大数据开发(五)——MapReduce和Yarn
5MapReduce和Yarn摘要:本文中主要讲述大数据领域中最著名的批处理和离线处理计算框架——MapReduce,包括MapReduce的原理、流程、使用场景,以及
Hadoop集群
中负责统一的资源管理和调度的组件
ArimaMisaki
·
2022-09-07 20:09
大数据
mapreduce
hadoop
安装Hadoop
今天记录一下,安装Centos系统以及搭建
hadoop集群
,相当于虚拟化一个计算机系统,而一个计算机系统包括软件和硬件。处理器数量一般是2,每个处理器的内核数量看母机window的内核数量。
躺着听Jay
·
2022-09-07 14:03
大数据
hadoop
Hadoop 从入门到精通----编程不良人笔记
编程不良人原版笔记—https://blog.csdn.net/wei198621/article/details/111280555part01
hadoop集群
的搭建–https://blog.csdn.net
wei198621
·
2022-09-06 19:39
大数据--存储--Hadoop
Hadoop完全分布式部署
未经许可,禁止以任何形式转载,若要引用,请标注链接地址全文共计5984字,阅读大概需要3分钟欢迎关注我的个人公众号:不懂开发的程序猿一、任务描述要想深入的学习hadoop数据分析技术,首要的任务是必须要将
hadoop
不懂开发的程序猿
·
2022-09-06 19:38
大数据运维基础
hadoop
分布式
大数据
Hadoop环境快速搭建(伪分布式和完全分布式步骤版)
hadoop安装包,并安装Ⅰ、先删除centos7上自带的openJDK:Ⅱ、安装JDK并配置JAVA环境Ⅲ、安装Hadoop并配置环境Ⅳ、host文件配置,免密登入Ⅴ、文件传输以及剩余两台机子的环境配置Ⅵ、
hadoop
我的思路很明确
·
2022-09-06 19:02
大数据
hadoop
java
大数据
Hadoop集群
搭建
文章目录一、
Hadoop集群
简介二、Hadoop部署方式三、Hadoop源码编译四、使用Docker编译Hadoop4.1软件下载4.2创建Dockerfile文件4.3创建脚本4.4构建镜像、容器4.5
为你暴走
·
2022-09-06 15:16
Hadoop
hadoop
hdfs
yarn
搭建Hadoop完全分布式集群(三台虚拟机)
经常查阅资料搭建
Hadoop集群
进行hadoop生态组件的学习,于是打算自己做一套完整的资料,方便以后查阅。一、模板机准备1.安装虚拟机模板机安装前置工作。
第六序列
·
2022-09-06 15:46
hadoop
hadoop
分布式
hdfs
大数据Hadoop(一):集群搭建--Hadoop3.3.1、CentOS8、HDFS集群、YARN集群最新保姆级教程
免密登录(node1做即可)八、时间同步(三台机器都做)九、上传并解压安装包(node1做即可)十、安装JDK(node1做即可)十一、编辑Hadoop配置文件(node1做即可)十二、分发配置十三、启动
Hadoop
彭瑞琪
·
2022-09-06 15:12
big
data
hadoop
big
data
linux
大数据之
Hadoop集群
搭建(4个节点)
大数据必备–搭建
Hadoop集群
(4个节点)初学大数据肯定第一步先搭建
hadoop集群
,虽然不知道怎么用,但是先搭建集群是你大数据学习之旅的第一步,操作步骤有以下这几步,用的centos系统对四台虚拟机进网络和静态
m0_67393039
·
2022-09-06 15:42
java
java
后端
windows平台使用Docker搭建分布式
hadoop集群
先修篇下载Docker可参考该博客的Docker安装安装Docker可能遇到的一些问题可参考该博客的Docker安装问题操作环境windows:10Docker:4.7.0将要拉取的镜像:centos7.6.18101.安装centos7.6镜像1.1搜索centos7.6镜像dockersearchcentos71.2拉取镜像dockerpullcentos:7.6.18101.3验证镜像安装成
CMCST
·
2022-09-06 15:41
BigData学习日志
hadoop
HBase集群部署与基础命令
HBase集群部署安装hbase之前需要先搭建好
hadoop集群
和zookeeper集群。
女友在高考
·
2022-09-04 16:00
大数据异常处理之蓝屏,断电导致mysql异常
重启后,我开启虚拟机与
hadoop集群
,hive的metastore一直拒绝连接后来发现是mysql出错,在虚拟机上mysql-uroot-p也无法开启mysql然后看mysql的日志报错,并没看出原因
大数据小理
·
2022-08-31 21:39
大数据异常处理
杂文
mysql
mysql
大数据
hadoop
开源公开课丨ChengYing安装原理剖析
一、直播介绍之前的内容,我们为大家分享了ChengYing入门介绍,以及ChengYing部署
Hadoop集群
实战,本期我们为大家分享ChengYing安装原理。
·
2022-08-31 11:39
大数据
Centos7安装Ambari2.7.4
ApacheAmbari是一种基于Web的工具,支持Apache
Hadoop集群
的供应、管理和监控。
GuanYZ
·
2022-08-25 17:55
搭建
hadoop集群
一、搭建
Hadoop集群
NameNode:接受客户端的读/写服务,收集DataNode汇报的Block列表信息DataNode:真实数据存储的地方(block)SecondaryNameNode:做持久化的时候用到进程
~小小~
·
2022-08-24 15:00
大数据面经吐血总结【阿里提问+答案解析】
那你说说搭建
hadoop集群
的3个xml文件core-site.xmlhdfs-site.xmlmapred-site.xml心想这
create17
·
2022-08-24 12:28
大数据
分布式
hadoop
数据库
spark
HDFS NameNode重启优化
一、背景在
Hadoop集群
整个生命周期里,由于调整参数、Patch、升级等多种场景需要频繁操作NameNode重启,不论采用何种架构,重启期间集群整体存在可用性和可靠性的风险,所以优化NameNode重启非常关键
赶路人儿
·
2022-08-22 23:04
hadoop
federation
namenode
hadoop集群
hdfs
hadoop
第07章 连接
Hadoop集群
序言1.内容介绍本章介绍了Hadoop的综合概述、连接
Hadoop集群
的基本条件以及具体连接的实现步骤。
撸码的xiao摩羯
·
2022-08-22 23:54
Python高级
hadoop
hive
大数据
Hadoop集群
搭建的详细过程
Hadoop集群
搭建一、准备三台虚拟机:master01,node1,node2时间同步1.date命令查看三台虚拟机时间是否一致2.不一致时间同步:ntpdatentp.aliyun.com调整时区cp
伍点
·
2022-08-21 17:00
执行start-yarn.sh脚本,NodeManager都启动成功,ResourceManager没有启动
在启动
hadoop集群
的yarn进程时,执行sbin/start-yarn.sh脚本,发现NodeManager进程都起来了,唯独ResourceManager进程没起来。
dinghua_xuexi
·
2022-08-21 17:43
YARN
Hadoop
hadoop
Flink ON YARN
FlinkONYARN模式就是使用客户端的方式,直接向
Hadoop集群
提交任务即可,不需要单独启动Flink进程FlinkONYARN有两种使用方式:在yarn中初始化一个flink集群,以后提交任务都提交到这个
李大寶
·
2022-08-21 08:14
大数据
flink
大数据
hadoop
不同集群的 Hive 迁移方案
不同集群的Hive迁移方案本文档描述了怎样把Hive数据库从一个
Hadoop集群
迁移到另一个
Hadoop集群
。本文档假定新集群的Hive元数据库的内容可以清空。
houzhizhen
·
2022-08-13 12:24
hive
hive
数据库
hadoop
开源项目丨一文详解一站式大数据平台运维管家ChengYing如何部署
Hadoop集群
(重要的事情说三遍)__技术交流钉钉qun:30537511本期我们带大家回顾一下海洋同学的直播分享《ChengYing部署
Hadoop集群
实战》一、
Hadoop集群
部署准备在部署集群
·
2022-08-11 11:15
大数据
上一页
19
20
21
22
23
24
25
26
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他