E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
完全分布式
Hadoop
完全分布式
搭建
目录1.以master为原型复制虚拟机slave1,slave2,并更改主机名和IP地址2.关闭防火墙和防火墙自启动3.通过vi/etc/hosts添加映射,确保虚拟机集群之间可以互相ping通4.虚拟机各节点实现时间同步5.修改各节点hadoop配置文件6.在master节点上修改/simple/hadoop-2.7.7/etc/hadoop/masters,7.在master节点上修改/sim
一只小白的自我修养
·
2022-12-08 08:18
hadoop学习
大数据
hadoop
linux
分布式
Hadoop
完全分布式
环境搭建(三节点)
一、实验机型及架构描述二、基础环境配置三、JDK-Hadoop环境配置四、Hadoop配置文件修改五、启动hadoop集群(均在adserver操作)本篇引用文章地址:https://blog.csdn.net/u014454538/article/details/81103986一、实验机型及架构描述本次实验采用3台ubuntu16.04实例进行搭建主机名IP地址操作系统运行服务角色adserv
指剑
·
2022-12-08 08:15
Hadoop
Hadoop
jdk
ubuntu
Hadoop集群搭建
完全分布式
搭建---------虚拟机版本
大数据自学——之Hadoop集群搭建分布式搭建小白超详细安装教程小蜡笔的安装工具:VMwara(以管理员身份运行哦)、Xshell、Xftp一、准备工作:1.虚拟机安装三台linux本次测试是Centos6.5,(三台虚拟机的系统时间保持一致)安装第一台虚拟机,并将该虚拟机默认设为主节点,小蜡笔命名为:master(1)配置主机ip(2)修改主机名命令:vim/etc/sysconfig/netw
北慕辰
·
2022-12-08 08:14
BigData
hadoop
hadoop
分布式
大数据
centos
linux
VMware创建Linux虚拟机之(四)ZooKeeper&HBase
完全分布式
安装
Hello,world!本篇博客使用到的工具有:VMware16,Xftp7若不熟悉操作命令,推荐使用带GUI页面的CentOS7虚拟机我将使用带GUI页面的虚拟机演示虚拟机(VirtualMachine)指通过软件模拟的具有完整硬件系统功能的、运行在一个完全隔离环境中的完整计算机系统。在实体计算机中能够完成的工作在虚拟机中都能够实现。在计算机中创建虚拟机时,需要将实体机的部分硬盘和内存容量作为虚
Vim_飞鱼
·
2022-12-07 07:12
大数据应用技术
linux
分布式
java-zookeeper
程序人生
运维
Hadoop之伪分布式配置安装
Hadoop支持本地模式、伪分布式模式、
完全分布式
模式3种安装模式。
神奇的布欧
·
2022-12-01 13:19
hadoop
分布式
hdfs
hadoop集群搭建和配置
hadoop的优势是分布式集群计算,即搭建hadoop集群(
完全分布式
Hadoop)集群由节点组成,节点构成不同角色。
木北鲜生
·
2022-11-29 15:46
Hadoop
hadoop
分布式
ubuntu
VM+centos7+Docker+hadoop
完全分布式
环境搭建
第一步:VMware安装VMware安装可参考网址https://www.windowszj.net/pcsoft/youxi/35924.html第二步:centos7.9安装centos7.9镜像下载地址:https://mirrors.tuna.tsinghua.edu.cn/centos/7.9.2009/isos/x86_64/CentOS-7-x86_64-DVD-2009.isoVM
云顶天宫写代码
·
2022-11-27 17:19
大数据技术——Hadoop3.X入门搭建+安装调优(1.入门)
模板虚拟机环境准备3.2克隆虚拟机3.3在hadoop102安装JDK3.4在hadoop102安装Hadoop3.5Hadoop目录结构四、Hadoop运行模式4.1本地运行模式(官方WordCount)4.2
完全分布式
运行模式
虚神公子
·
2022-11-26 09:00
大数据
hadoop
Hadoop
完全分布式
实现WordCount
动手实现一下WordCount:既然Hadoop搭建好了,那就体验一下分布式,玩起来呗!运行前提:搭建好你的Hadoop集群,结构如下:MasterSlave1Slave2可以参考我写的搭建教程,跟着我的步骤来就行:hadoop分布式搭建确保你的分布式实例运行成功了,再往下看WordCount源码:importjava.io.IOException;importjava.util.Iterator
银晗
·
2022-11-24 06:54
教程操作
hadoop
分布式
mapreduce
Linux从零搭建Hadoop集群(CentOS7+hadoop 3.2.0+JDK1.8+Mapreduce
完全分布式
集群案例)
Linux从零搭建Hadoop集群(CentOS7+hadoop3.2.0+JDK1.8+Mapreduce
完全分布式
集群案例)关键字和相关配置版本关键字:LinuxCentOSHadoopJava版本
星川皆无恙
·
2022-11-21 00:00
大数据
系统运维
JAVA
hadoop
mapreduce
分布式
Hadoop
完全分布式
配置
1.虚拟机环境准备1.1克隆虚拟机1.2.修改克隆虚拟机的静态IP机器名静态IPmaster192.168.121.151slaver1192.168.121.152slaver2192.168.121.153[root@masterDesktop]#vi/etc/sysconfig/network-scripts/ifcfg-eno16777736#输入以下内容DEVICE=eno1677773
yandao
·
2022-10-31 15:33
hadoop
hadoop
Hadoop
完全分布式
部署
Hadoop
完全分布式
配置Hadoop
完全分布式
部署一、需要的软件二、安装配置Hadoop1、配置静态网络,关闭防火墙,设置hosts映射关系1.1使用ping命令检测网络是否连通1.2修改ip地址,设置为静态网络
小黄人的哆啦梦
·
2022-10-31 15:03
Hadoop
Linux
hadoop
分布式
linux
Hadoop集群安装和配置(
完全分布式
集群搭建)
1虚拟机的环境准备1.1下载的软件1、安装Vmware-workstation主要步骤就不讲述,网上可以收到相关Linux虚拟机的相关密钥和安装步骤。2、VM网络设置打开电脑里面的控制面板——>网络和Internet——>网络和共享中心——>更改适配器设置——>VMnet8(右击鼠标,点击属性)—>IPv4(配置IP地址和DNS地址).我的电脑配置如下:3、查看虚拟机的ip地址打开VmwareWo
希光之旅
·
2022-10-31 15:30
Hadoop
hadoop
linux
Zookeeper - 集群搭建 + 群起集群脚本
关闭集群上一篇已经结束了单台Zookeeper的本地安装(Zookeeper-本地安装与参数配置)和Hadoop集群的搭建,强烈建议去看一眼里面的xsync,在此篇会大量应用(Hadoop3.x-本地安装&
完全分布式
安装
不会调制解调的猫
·
2022-10-28 20:29
Zookeeper
Linux
java-zookeeper
zookeeper
分布式
服务器
linux
Hive系列 (四):自定义函数UDF UDTF UDAF
hivejar包修改pom.xlm文件自定义函数案例命令加载启动参数加载配置文件加载UDTF格式实现方法执行流程测试案例测试代码函数测试UDAF格式实现方法函数作用测试案例函数测试Hive系列文章Hadoop
完全分布式
搭建
EricRae
·
2022-10-26 07:29
#
hive
大数据
hive
udf
集群时间同步
集群时间同步
完全分布式
模式由多台主机组成,各个主机的时间可能存在较大差异。如果时间差异较大,执行MapReduce程序的时候会存在问题。
Mr李小四
·
2022-10-24 18:49
Hadoop大数据技术
服务器
linux
运维
Hadoop
完全分布式
环境搭建开发文档
一.准备工作1.1软硬件环境主机操作系统:内存:20G,Windows64虚拟机软件:VMwareWorkstation15.5虚拟操作系统:Centos764位JDk:1.864位Hadoop:2.7宝塔面板1.2集群网络环境此集群包括3个节点,1个Namenode、2个Datanode,其中节点之间可以相互ping通。节点IP地址和主机名如下:二.环境搭建2.1操作系统安装2.1.1安装cen
蔡小小LOOP
·
2022-10-12 10:06
Hadoop
hadoop
大数据
Hadoop
完全分布式
环境搭建
最近在学习hadoop,经过几番折腾终于把分布式环境搭建成功,这里总结一下搭建过程和过程中遇到的问题与解决方案。一、准备工作1.下载vmvare软件,配置NAT网络模式NAT是网络地址转换,是在宿主机和虚拟机之间增加一个地址转换服务,负责外部和虚拟机之间的通讯转接和IP转换。2.安装centos虚拟机安装步骤这里不细讲,可以参考https://blog.csdn.net/wu_zeqin/arti
普通网友
·
2022-10-12 10:09
java
hadoop
分布式
hdfs
大数据
容器
Hadoop
完全分布式
环境部署(一看就会)
一、部署前的准备创建三台虚拟机并且设置虚拟机的ip,名称:创建好虚拟机,设置ip设置ip地址首先点击vm上的编辑按钮下虚拟网络编辑器查看VMnet8的ip地址是多少,比如我这ip地址为192.168.223.0,那么我的虚拟机的ip地址前3位就需要设置为192.168.223。然后打开虚拟机登录,输入命令:vi/etc/sysconfig/network-scripts/ifcfg-ens33进行
-starshine丨
·
2022-09-27 16:04
环境部署
hadoop
hdfs
大数据
分布式
Hadoop
完全分布式
集群环境搭建
一、实验环境主机操作系统:Windows7以上(64位)虚拟机软件:OracleVMVirtualBox客户机操作系统:CentOS-6.8(64位)JDK:1.8(Linux版)SSH连接客户端,如:Xme5Hadoop:2.6.5二、实验步骤(1)在主节点解压hadoop安装包去官网获取Hadoop2.6.5安装包。https://archive.apache.org/dist/hadoop/
独木灬不成林
·
2022-09-27 16:04
Hadoop生态圈
hadoop
hdfs
分布式
Hadoop
完全分布式
(开发重点)
开发重点,Hadoop
完全分布式
搭建1.将hadoop100上的拷贝到101和102上2.ssh免密登录3.集群配置4.制作并使用xsync分发脚本(可忽略)5.群起集群并测试1.将hadoop100上的拷贝到
烧烤健康~
·
2022-09-27 16:04
大数据基础
hadoop
分布式
大数据
Hadoop3.1.3
完全分布式
安装(Centos7.x)
目录一、环境准备二、JDK的安装三、安装haddoop四、配置hadoop配置文件五、将jdk、hadoop分发到slave1、slave2节点六、hdfs格式化七、环境变量配置八、集群启动九、进程查看十、WEBUI查看一、环境准备节点名称【主机名】IPmaster170.158.10.101slave1170.158.10.102slave2170.158.10.103关闭防火墙#在root用户
Hedgehog
·
2022-09-27 16:04
分布式
hadoop
hdfs
Zookeeper
完全分布式
(3.5.7)部署(清爽版)
1.分布式部署1.1集群规划服务器hadoop102服务器hadoop103服务器hadoop104ZookeeperZookeeperZookeeperZookeeper1.2解压安装1.2.1上传安装包上传压缩包到/opt/software(其他目录也可,但下面的操作路径都得改)压缩包下载地址1.2.2解压安装包[harry@hadoop102software]$tar-zxvfapache-
程序员 Harry
·
2022-09-27 16:34
zookeeper
zookeeper
分布式
linux
Hadoop
完全分布式
部署
目录Hadoop
完全分布式
部署准备jdk配置ssh实现主从节点之间的免密登陆Hadoop环境变量配置Hadoop相关文件hadoop-env.shcore-site.xmlhdfssite.xmlmapred-site.xmlyarn-site.xml
week@eight
·
2022-09-27 16:33
大数据
分布式
hadoop
大数据
hdfs
完全分布式
hadoop3.1.3集群搭建
文章目录一、搭建集群1.1架构信息1.2配置文件1.3修改自定义配置文件1.4分发配置文件二、启动hadoop集群2.1启动hdfs2.1.1添加workers节点2.1.2格式化namenode2.1.3启动集群2.2启动yarn一、搭建集群1.1架构信息各组件和机器间的对应关系如下表hadoop100hadoop101hadoop102HDFSNameNodeDataNodeDataNodeS
归海十八刀
·
2022-09-27 16:33
大数据
分布式
hadoop
hdfs
大数据
yarn
hadoop
完全分布式
搭建(最通俗易懂)
1、首先创建好虚拟机并且上传jdk,hadoop到虚拟机上这边我上传的位置为/opt/module下,并将其解压到/opt/software下并且重命名为hadoop和jdk2、设置好ip地址、主机名设置ip地址首先点击vm上的编辑按钮下虚拟网络编辑器查看VMnet8的ip地址是多少,例如我这ip地址为192.168.119.0,那么我的hadoop的ip地址前3位就需要设置为192.168.11
唐傲天
·
2022-09-27 16:03
hadoop
分布式
hdfs
Hadoop
完全分布式
(3.1.3)部署(清爽版)
1.Hadoop部署1.1集群部署规划注意:NameNode和SecondaryNameNode不要安装在同一台服务器。注意:ResourceManager也很消耗内存,不要和NameNode、SecondaryNameNode配置在同一台机器上。hadoop102hadoop103hadoop104HSFSNameNodeDataNodeDataNodeSecondaryNameNodeData
程序员 Harry
·
2022-09-27 16:02
Hadoop
hadoop
大数据
分布式
Apache Hadoop
完全分布式
集群搭建
Java语言编写,需要java环境(jvm)JDK版本:JDK8版本Hadoop搭建方式单机模式:单节点模式,非集群,生产不会使用这种方式单机伪分布式模式:单节点,多线程模拟集群的效果,生产不会使用这种方式
完全分布式
模式
悠然予夏
·
2022-09-25 01:04
大数据
hadoop
分布式
apache
Hbase-----
完全分布式
搭建
Hbase
完全分布式
搭建1简要说明
完全分布式
,指的就是除了hmaster守护进程外,有多个regionserver守护进程,并且每一个regionserver守护进程独占一个机器节点。
万人呐喊你小芳
·
2022-09-19 10:37
Hadoop
hbase
分布式
hadoop
全网最详细的Hadoop大数据集群搭建并进行项目分析(基于
完全分布式
)-----第一部分
##心路历程:这是大学时期做的项目,这个项目对我印象特别的深,当时没有记录在博客上,今后会积极分享自己做项目的历程与经验,希望能帮到需要的朋友,有什么问题或者建议欢迎在评论区留言,废话不多说,咱们就开始干!##所有需要的资料全部已上传到百度网盘上,请自行下载##获取镜像,https://pan.baidu.com/s/1ho4hMrvIu1V6W4wWdH8nIA,提取码:ygyg获取Xshell
Yang三少喜欢撸铁
·
2022-09-09 07:29
Hadoop集群搭建与运用
mysql
hive
hadoop
sqoop
大数据
大数据——hadoop之hbase安装和配置
hadoop之hbase安装和配置安装HBase前,需要的准备条件安装HBase配置HBase单机模式伪分布式模式
完全分布式
模式(集群)安装HBase前,需要的准备条件HBASE运行需要JDKJDK安装和配置
蜂蜜柚子加苦茶
·
2022-09-08 07:43
大数据
hbase
hadoop
Hadoop环境搭建三(
完全分布式
)
Hadoop
完全分布式
模式.理论讲解一.集群配置二.集群分发三.分布式集群格式化四.集群单点启动五.ssh免密登录六.启动停止集群.理论讲解1.节点的作用(1)我们启动了4个节点:namenode、datanode
57486649
·
2022-09-06 19:12
hadoop
大数据
hadoop
分布式
hdfs
大数据
在CentOS7下利用sqoop组件把mysql数据传入hdfs中
目录一、相关技术链接:二、操作代码三、实现结果一、相关技术链接:Hadoop
完全分布式
环境搭建Python爬数据并传入Mysql二、操作代码cd/export/software进入sqoop安装包所在位置
我的思路很明确
·
2022-09-06 19:12
大数据
hadoop
hive
大数据
Hadoop
完全分布式
部署
Hadoop
完全分布式
部署一、任务描述二、任务目标三、任务环境四、任务分析五、任务实施步骤1、网络配置步骤2、解压Hadoop压缩包六、任务测试原创申明:未经许可,禁止以任何形式转载,若要引用,请标注链接地址全文共计
不懂开发的程序猿
·
2022-09-06 19:38
大数据运维基础
hadoop
分布式
大数据
超详细的Hadoop3.1.2架构单机、伪分布式、
完全分布式
安装和配置
动手安装是最基础的实践,下面介绍一下单机、伪分布式和
完全分布式
安装与配置、测试过程,供有需要的参考。目录(1)软件准备(2)Centos安装及网络配置?
geejkse_seff
·
2022-09-06 19:34
java
java
后端
Hadoop环境快速搭建(伪分布式和
完全分布式
步骤版)
Ⅱ、安装JDK并配置JAVA环境Ⅲ、安装Hadoop并配置环境Ⅳ、host文件配置,免密登入Ⅴ、文件传输以及剩余两台机子的环境配置Ⅵ、hadoop集群启动和HDFS,YARN集群的UI信息状态查询三、
完全分布式
我的思路很明确
·
2022-09-06 19:02
大数据
hadoop
java
大数据
搭建Hadoop
完全分布式
集群(三台虚拟机)
经常查阅资料搭建Hadoop集群进行hadoop生态组件的学习,于是打算自己做一套完整的资料,方便以后查阅。一、模板机准备1.安装虚拟机模板机安装前置工作。2.三处ip配置第一处:虚拟机ip[root@hadoop100~]#vim/etc/sysconfig/network-scripts/ifcfg-ens33改成DEVICE=ens33TYPE=EthernetONBOOT=yesBOOTP
第六序列
·
2022-09-06 15:46
hadoop
hadoop
分布式
hdfs
CentOS7安装Hadoop3
完全分布式
前提条件拥有CentOS7服务器版环境集群规划项目服务器node2服务器node3服务器node4HDFSNameNode、DataNodeDataNodeDataNode、SecondaryNameNodeYarnNodeManagerResourcemanager、NodeManagerNodeManager虚拟机准备通网络能ping通外网,例如:pingbaidu.com如果ping不通,修
Hadoop_Liang
·
2022-09-06 15:13
Hadoop
软件安装
hadoop
电信客服项目笔记
笔记目录电信客服案例笔记1.0Hadoop准备1.1克隆虚拟机102,103,1041.2伪分布式的测试1.3
完全分布式
搭建1.4对配置文件进行配置2.0zookeeper准备2.1解压安装2.2文件配置
Fang GL
·
2022-09-05 07:28
#
大数据项目
hadoop
大数据
大数据集群环境配置从JDK /Hadoop /zookeeper /Hive /Flume / KafKa /Mysql /Tomcat
文章目录大数据集群配置1.0Hadoop安装1.1克隆虚拟机102,103,1041.2伪分布式的测试1.3
完全分布式
搭建1.4对配置文件进行配置2.0zookeeper安装2.1解压安装2.2文件配置
Fang GL
·
2022-09-05 07:58
#
大数据技术
hadoop
大数据
hbase
Hadoop(四)—— Hadoop运行模式
文章目录一、前言二、
完全分布式
运行模式1.编写集群分发脚本xsync1)用scp命令将102上的jdk和hadoop拷贝到103和104上去2)这里还有一个问题就是,我的jdk放在/usr下面,为了统一起来
玛丽莲茼蒿
·
2022-08-13 22:58
Hadoop
hadoop
big
data
hdfs
Hadoop生态圈-flume日志收集工具
完全分布式
部署
Hadoop生态圈-flume日志收集工具
完全分布式
部署作者:尹正杰版权声明:原创作品,谢绝转载!否则将追究法律责任。
weixin_34221276
·
2022-07-18 13:13
Linux虚拟机上spark集群(
完全分布式
)搭建
需要声明的是,此次安装的spark集群是在Hadoop
完全分布式
集群(1个master,2个slave)的基础之上搭建的,环境是3台64位的centos7虚拟机。
superdiao的果壳
·
2022-07-16 21:16
spark
linux
大数据
系统安装
hadoop-3.3.3
完全分布式
集群搭建
hadoop-3.3.3
完全分布式
集群搭建前言环境准备软件版本集群规划一、配置jdk环境变量1.解压jdk2.修改/etc/profile文件二、hadoop集群搭建1.关闭防火墙2.修改主机名3.添加
bloom__❀;
·
2022-07-13 13:27
大数据笔记
hadoop
分布式
hdfs
大数据
bigdata
Hadoop (四) --------- Hadoop 运行模式
目录一、Hadoop运行模式分类及简介二、本地运行模式三、
完全分布式
运行模式1.编写集群分发脚本2.SSH无密登录配置3.集群配置4.群起集群5.配置历史服务器6.配置日志的聚集7.集群启动/停止方式总结
在森林中麋了鹿
·
2022-07-13 13:26
Hadoop
hadoop
mapreduce
大数据
【图文步骤】CentOS7 搭建Hadoop3.x
完全分布式
环境准备vm虚拟机(自行安装Centos7系统)hadoop3.x安装包(linux版本)java1.8安装包(linux版本)1使用root用户登录创建hadoop用户[root@hadoop102~]#useraddhadoop2给hadoop用户设置密码[root@hadoop102~]#passwdhadoop3编辑文件为hadoop用户提权[root@hadoop102~]#vim/et
菜鸟进阶站
·
2022-07-11 09:18
大数据
Hadoop
Linux
大数据
hadoop
centos
Hive安装详细步骤
安装详细步骤基础环境准备Hive安装前,首先以安装完成Hadoop,且本文中使用MySQL作为Hive的元数据存储库,MySQL数据库也要提前准备好,关于Hadoop和MySQL的安装可参考另外两篇文章:
完全分布式
黑伴白
·
2022-05-16 20:52
大数据
hive
hadoop
big
data
大数据学习——Hadoop3.X集群
完全分布式
的搭建(超详细)
提示:避雷Hadoop
完全分布式
集群搭建的各种坑!
努力搬砖的猪头
·
2022-04-30 14:06
大数据方面学习
软件安装
hadoop
Hadoop HA
完全分布式
集群搭建(ZooKeeper)
学了大半个月hadoop,现在来完整搭建并测试一遍HA集群,本文总共使用了三台CentOS7.9服务器:hadoop102hadoop103hadoop104,hadoop版本为3.2.3,ZK版本为3.5.9,JDK版本为1.8;以下是本次实验所配置的环境变量#JAVA_HOMEexportJAVA_HOME=/opt/module/jdk1.8.0_321exportPATH=$PATH:$J
AdamShyly
·
2022-04-26 12:11
HA
hadoop
ZooKeeper
hadoop
HA
zookeeper
区块链的应用领域——公共服务(三)
区块链提供的去中心化的、
完全分布式
DNS服务通过网络中各个节点之间的点对点数
·
2022-04-19 15:46
区块链
上一页
3
4
5
6
7
8
9
10
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他