E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
完全分布式
完全分布式
集群单点启动
完全分布式
集群单点启动以下操作使用dev1账户操作(1)如果集群是第一次启动,需要格式化NameNode。
编程界翁老师
·
2021-03-10 17:43
大数据
分布式
hadoop
大数据
完全分布式
集群配置
完全分布式
集群配置1集群部署规划2.配置集群以下操作都使用dev1账户(1)HDFS配置文件配置hadoop-env.shvimhadoop-env.shexportJAVA_HOME=/opt/module
编程界翁老师
·
2021-03-10 17:48
大数据
分布式
hadoop
大数据
完全分布式
运行模式(开发重点)
完全分布式
运行模式(开发重点)分析(1)准备3台客户机(关闭防火墙、静态ip、主机名称)(2)安装JDK(3)配置环境变量(4)安装Hadoop(5)配置环境变量(6)配置集群(7)单点启动(8)配置ssh
编程界翁老师
·
2021-03-09 17:09
大数据
hadoop
java
大数据
Docker——Hadoop
完全分布式
安装
参考说明:1、基于Docker的Hadoop
完全分布式
安装——使用docker拉取官方Ubuntu镜像,将单机安装好hadoop,然后做成image,再跑多个容器做集群。
小T呀
·
2021-03-02 20:48
Hadoop 学习笔记·三 —— Hadoop 运行模式
Hadoop运行模式包括:本地模式伪分布式模式
完全分布式
模式Hadoop官方网站:http://hadoop.apache.org/本地运行模式官方Grep案例创建在hadoop-2.7.2文件下面创建一个
timedecdec
·
2021-02-06 11:45
学习笔记
大数据
Hadoop
运行模式
本地模式
伪分布模式
完全分布模式
【Hadoop第三步】Hadoop环境搭建
_大数据_qq_38570733的博客-CSDN博客整体流程和步骤比较详细,一些内容有错误,整理如下:2.hadoop环境搭建这个内容很好,错误较少,最后有开启和验证例子3.Hadoop
完全分布式
搭建-
鸡汤姜末
·
2021-02-02 16:36
大数据-Hadoop:搭建Hadoop
完全分布式
集群(在VMware中的Linux虚拟机)
一、VMware、Linux虚拟机环境准备1、网络配置1.1查看网络IP和网关1.1.1查看虚拟网络编辑器1.1.2修改ip地址1.1.3查看网关1.1.4查看windows环境的中VMnet8网络配置(控制面板-网络和Internet-更改适配器选项)1.2配置Linux系统的网络IP和网关1.2.1查看当前网络IP[whx@hadoop101~]$ifconfigeth0Linkencap:E
ninjawei
·
2021-01-14 00:37
大数据
大数据
hadoop
hdfs
谷粒商城分布式基础篇01-项目介绍
项目介绍1.项目简介2.项目架构3.项目背景4.项目技术&特色5.项目前置要求1.项目简介本项目为
完全分布式
的电商项目——谷粒商城,这个项目将会分为以下三个篇章进行开发。
绍兴本人
·
2021-01-11 21:45
分布式项目-谷粒商城实战
java
分布式
架构师
终章:蜕变,破茧成蝶!
持续更新中……】【未完、待续……持续更新中……】一、Hadoop篇一、Hadoop框架介绍二、Linux下搭建Hadoop的运行环境三、Hadoop运行模式(本地模式、伪分布模式)四、Hadoop的运行模式(
完全分布式
象在舞
·
2021-01-05 16:37
破茧成蝶——大数据篇
大数据
hadoop
完全分布式
部署
一.实验环境准备需要准备四台Linux操作系统的服务器,配置参数最好一样,由于我的虚拟机是之前伪分布式部署而来的,因此我的环境都一致,并且每天虚拟机默认都是Hadoop伪分布式哟!1>.NameNode服务器(172.20.20.228)2>.DataNode服务器(172.20.20.226-220)二.修改Hadoop的配置文件修改的配置文件路径是我之前拷贝的full目录,绝对路径是:“/to
cnmeimei
·
2020-12-30 15:15
技术
Windows下使用IDEA搭建Hadoop开发环境的详细方法
笔者鼓弄了两个星期,终于把所有有关hadoop的环境配置好了,一是虚拟机上的
完全分布式
集群,但是为了平时写代码的方便,则在windows上也配置了hadoop的伪分布式集群,同时在IDEA上就可以编写代码
·
2020-12-30 11:39
非root用户配置hadoop的终极踩坑教程
三台linux部署
完全分布式
集群的终极踩坑教程前言硬件,软件环境1.总体架构2.软件下载配置步骤1.配置ssh免密登录2.配置hosts文件3.hadoop配置文件修改4.启动问题汇总1.ssh配置问题
UpUpCAI
·
2020-12-19 16:28
技术坑
java
hadoop
大数据
hdfs
linux
执行start-all.sh启动Hadoop时 没有NameNode 的解决方法
搭建
完全分布式
模式后,在启动hadoop的时候,发现主节点(Master)上没有运行NameNode节点。
苜苜的烂笔头
·
2020-12-01 11:22
Hadoop
hadoop
分布式
大数据
运维
hbase
Apache Hadoop
完全分布式
集群搭建
文章内容输出来源:拉勾教育大数据高薪训练营第1节虚拟机环境准备1.三台虚拟机(静态IP,关闭防火墙,修改主机名,配置免密登录,集群时间同步)2.在/opt⽬目录下创建⽂文件夹mkdir-p/opt/lagou/software--软件安装包存放⽬录mkdir-p/opt/lagou/servers--软件安装⽬录3.Hadoop下载地址:https://archive.apache.org/dis
涛99
·
2020-11-29 13:34
大数据
hadoop
Hadoop3.x
完全分布式
集群搭建教程(二)
以下操作全部需要切换到hadoop用户编写集群批量操作脚本1.在/home/hadoop/bin目录下上传脚本cd~/binrz(1)xsync这个脚本的作用就是将指定目录的所有文件复制到其他虚拟机相同目录中用法为:xsync文件路径注意:因为要保证集群每台机器的配置都相同,所以任意一台机器有修改都需要及时使用xsync脚本分发修改后的文件给其它机器(2)ssh有以下几个文件ips_zk、ips_
wanxx
·
2020-11-20 22:46
hadoop
大数据
Hadoop3.x
完全分布式
集群搭建教程(一)
前言集群规划:5台机器:hadoop101hadoop102hadoop103hadoop104hadoop105HDFSNameNodeNameNodeDataNodeDataNodeDataNodeYARNResourceManagerResourceManagerNodeManagerNodeManagerNodeManagerZookeeper√√√版本:Hadoop3.1.3Jdk1.8
wanxx
·
2020-11-20 16:46
hadoop
大数据
hadoop
完全分布式
配置(保姆级教程)
文章目录@[toc]hadoop
完全分布式
环境配置最小化安装CentOS虚拟机连接终端工具hadoop
完全分布式
安装jdk安装hadoop修改主机名修改hadoop配置文件克隆虚拟机配置刚克隆的虚拟机设置
lulu & nana
·
2020-11-15 00:59
大数据技术
hadoop
linux
VM虚拟机 - Docker - CentOS 7 - 快速使用Docker从零搭建Hadoop
完全分布式
集群详细教程(亲测有效,※吐血推荐※)(内含快速启动容器脚本)
目录阅读须知最小安装(可跳)安装VMwareTool(可直接安装)关闭防火墙和Selinux安装docker迁移docker安装目录docker安装CentOS7安装必要工具安装Java和Scala安装Hadoop编写脚本启动集群Windows连接容器测试集群关闭集群编写快速启动容器脚本安装MySQL安装Hive安装ZooKeeper安装Kafka安装Spark(Standalone)动态添加端口
H_X_P
·
2020-11-06 20:47
Hadoop
linux
hadoop
大数据
centos
docker
HBase学习(二)——
完全分布式
安装
一、下载地址http://archive.apache.org/dist/hbase/在里面找想要安装的hbase版本,我这里选择的是hbase-1.1.6版本。二、安装步骤注意:安装hbase的前提是你已经搭建好了hadoop集群和zookeeper集群。如若没有,可先参考我的这2篇文章完成搭建。搭建hadoop集群:https://www.jianshu.com/p/31dd88692c7e搭
大数据阶梯之路
·
2020-11-03 19:23
配置Hadoop3.3.0
完全分布式
集群
前言:本文主要介绍配置Hadoop3.3.0
完全分布式
集群;一、部署环境规划1.服务器地址规划2.需要部署的环境(1)关闭火墙(开机自启可以不设置)[root@localhostjava]#systemctlstopfirewalld
Frost-xie
·
2020-11-01 15:14
Hadoop
完全分布式
集群的搭建
1.进程规划原则:①核心进程尽量分散②同质进程尽量分散2.集群间复制①scpscp-r源文件的用户名@主机名:源文件路径目标文件的用户名@主机名:目标文件路径特点:全量复制②rsyncrsync-rvlt源文件路径目标文件的用户名@主机名:目标文件路径源文件路径是个目录,源文件路径/,只会同步源文件目录中的内容!源文件路径,不仅会同步源文件目录中的内容,包括目录本身也会进行同步!3.配置ssh免密
諵街ゝ
·
2020-10-22 10:20
学习日记
大数据
hadoop
Apache Hadoop
完全分布式
集群 搭建
centos7实现免密登录在node01上生产一对钥匙(公钥和私钥)首先在root用户下,执行ssh-keygen-trsa,一路回车,接着会产生在/root目录下会产生.ssh目录查看.ssh目录,会发现它下面生成了两个id_rsa,id_rsa.pub文件ssh-copy-idnode01ssh-copy-idnode02ssh-copy-idnode03同理其它节点也一样虚拟机环境准备三台虚
森林森
·
2020-10-12 17:44
Hadoop
hadoop2.7.2搭建
完全分布式
集群
新建虚拟机修改虚拟机的静态IP修改主机名,添加主机和ip的映射关系关闭防火墙(1-4通过脚本完成)创建普通用户useraddjinghangpasswdjinghang配置普通用户具有root权限vim/etc/sudoers在91行下添加如下内容:jinghangALL=(ALL)NOPASSWD:ALL完成后:wq!7.在/opt目录下创建文件夹(software存放压缩软件包,modul存放
zyj_369
·
2020-10-10 10:46
Hadoop
hadoop
按
完全分布式
安装HBASE
1、下载并解压hbase压缩包2、修改配置文件hbase-env.sh文件exportJAVA_HOME=/usr/jdk1.8.0_101exportHBASE_CLASSPATH=/usr/hadoop-2.7.2/etc/hadoop我没有使用自带的zookeeper,而是上节课部署的zookeeperexportHBASE_MANAGES_ZK=falsehbase-site.xml文件h
keon
·
2020-10-10 06:22
Hadoop
完全分布式
集群的简单安装操作说明
实验环境:本操作说明适合502机房和504机房首先要运行VmwareWorkStation或VirtualBox,启动master
完全分布式
,slave1
完全分布式
,slave2
完全分布式
三台虚拟机,用
whvcse_hlzhang
·
2020-10-09 13:08
Hadoop
完全分布式
集群搭建
集群规划HDFS:1个NameNode+n个DataNode+1个2NNYARN:1个ResourceManager+n个NodeManagerhadoop1hadoop2hadoop3DNDNDNNMNMNMNNRM2NN准备工作准备3台虚拟机,可以新建1台,然后克隆2台1.修改主机名vi/etc/sysconfig/network,三台机器HOSTNAME分别改为hadoop1,hadoop2
WillLiaowh
·
2020-10-09 13:42
hadoop
elasticsearch
完全分布式
安装
1.首先master节点的配置,修改elasticsearch的配置文件,config/elasticsearch.yml;添加如下配置cluster.name指定集群的名称,node.name指定节点的名称,node.master:true指定该节点为主节点。elasticsearch服务2.把当前主机的elasticsearch压缩包远程拷贝到三台机器scpelasticsearch-6.1.
kongfanyu
·
2020-09-17 07:11
大数据
Hadoop错误1_Hadoop分布式及伪分布式下DataNode不能启动的问题
问题导读:1、hadoop
完全分布式
和伪分布式下datanode无法启动的原因?2、怎么解决?问题描述:在集群模式下更改节点后,启动集群发现datanode一直启动不起来。
Wang_Zhenwei
·
2020-09-17 05:00
Hadoop
转载
【Hadoop环境搭建】八.Hadoop集群模式部署
前面介绍的伪分布式是基于单个节点,而
完全分布式
是基于两个或两个以上节点完成Hadoop集群搭建。下面基于三个节点完成。
VI-茄子
·
2020-09-17 01:03
Hadoop环境搭建
hadoop
大数据
hadoop
完全分布式
运行模式安装
目录一、虚拟机准备二、安装JDK三、SSH无密登录配置四、集群时间同步五、编写集群分发脚本xsync六、集群配置七、集群单点启动八、群起集群九、集群启动/停止方式总结一、虚拟机准备参考另一篇Linux模板机及集群相关操作文章https://blog.csdn.net/weixin_39689084/article/details/105133951二、安装JDK1.卸载现有JDK(1)查询是否安装
剑穹
·
2020-09-16 21:25
#
Hadoop
大数据
hadoop
cassandra使用与介绍
高度可伸缩的、一致的、分布式的结构化key-value存储方案,集GoogleBigTable的数据模型与AmazonDynamo的
完全分布式
的架构于一身。
liu---shui
·
2020-09-16 18:17
cassandra
Ubuntu安装Cassandra-3.11.1
最初由Facebook创建,集GoogleBigTable的数据模型与AmazonDynamo的
完全分布式
的架构于一身。
yamaxifeng_132
·
2020-09-16 17:13
大数据
-
Cassandra
Cassandra 3.7.0集群在ubuntu上的安装
它最初由Facebook开发,用于储存收件箱等简单格式数据,集GoogleBigTable的数据模型与AmazonDynamo的
完全分布式
的架构于一身Facebook于2008将Cassandra开源,
sparkexpert
·
2020-09-16 17:02
Cassandra
大数据管理
Ubuntu下伪分布式模式Hadoop的安装及配置
1、Hadoop运行模式Hadoop有三种运行模式,分别如下:单机(非分布式)模式伪分布式(用不同进程模仿分布式运行中的各类节点)模式
完全分布式
模式注:前两种可以在单机运行,最后一种用于真实的集群环境,
weixin_33834075
·
2020-09-16 16:06
手把手教学,小白包会,zookeeper
完全分布式
教程
环境准备系统环境:Centos7软件环境:jdk-8u241-linux-x64.tar.gz,apache-zookeeper-3.6.1-bin.tar.gz节点地址1192.168.16.1492192.168.16.1303192.168.16.132安装准备1.jdk安装和验证详情请见我之前的一篇博客jdk安装验证2.zookeeper的安装步骤以及环境变量的配置详情请见我的上一篇博客在
Zhang_Baiqing
·
2020-09-16 14:31
linux
分布式
java
linux
zookeeper
大数据
java大数据最全课程学习笔记(2)--Hadoop
完全分布式
运行模式
目前CSDN,博客园,简书同步发表中,更多精彩欢迎访问我的giteepagesHadoop
完全分布式
运行模式步骤分析:准备3台客户机(关闭防火墙、静态ip、主机名称)vim/etc/sysconfig/
假装文艺范儿
·
2020-09-16 13:48
Java大数据
hadoop
大数据
linux
java
尚硅谷
hadoop学习笔记2---hadoop的三种运行模式
配置已经很接近
完全分布式
。3、
完全分布式
模式正常的Hadoop集群,由多个各司其职
weixin_34014555
·
2020-09-16 13:42
大数据
kafka-
完全分布式
集群安装及简单使用
kafka
完全分布式
集群安装:要求:前置zookeeper集群版本:kafka2.12.1zookeeper3.4.51.解压安装包:tar-zxvf/opt/software/kafka_2.12-1.0.0
wanwu皆对象
·
2020-09-16 12:47
hadoop-大数据
大数据
Hadoop学习笔记(一)Hadoop快速入门:1.
完全分布式
运行模式
准备、过程虚拟机:VMwareWorkstation12Pro操作系统:CentOSLinuxrelease7.2.1511(Core)控制终端:SecureCRTHadoop版本:Hadoop-2.7.3JDk版本:jdk1.8.0_401)准备3台虚拟机(关闭防火墙、静态ip、主机名称)2)安装JDK3)配置环境变量4)安装Hadoop5)配置环境变量6)配置集群7)单点启动8)配置ssh9)
一个奔跑的C
·
2020-09-16 11:31
Hadoop
hadoop
Confluent
完全分布式
框架搭建
服务、端口说明kafkazookeepercontrol-centerschema-registrykafka-resetconnectorksql-server192.168.1.34kafkazookeepercontrol-centerschema-registrykafka-resetconnectorksql-server192.168.1.33kafkazookeepercontrol
willyan2007
·
2020-09-16 11:51
基础架构
Hadoop --
完全分布式
,伪分布式,单击模式操作
简介Hadoop是一种分析和处理大数据的软件平台,是Appach的一个用Java语言所实现的开源软件的加框,在大量计算机组成的集群当中实现了对于海量的数据进行的分布式计算。ApacheHadoop作为PaaS构建在虚拟主机上,作为云计算平台。Hadoop就是存储海量数据和分析海量数据的工具HADOOP生态圈组成重点组件:HDFS:分布式文件系统MAPREDUCE:分布式运算程序开发框架,为海量的数
生命热力٩( 'ω' )و
·
2020-09-16 03:36
Hadoop
分布式
大数据
hadoop
linux
java
《大数据: Hadoop(HDFS)
完全分布式
集群二》
一、集群配置1.如何规划hadoop中的进程HDFS:有一个NN(namenode)和N个DN(datanode),2NN(secondnamenode)也可以有N个辅助NN工作YARN:有一个RM(resoureManager)和N个NM(nodemanager)避免单点故障,NN和RM建议分散到多台机器,我们现在有3台机器,我们可以这样分配:Hadoop1Hadoop2Hadoop3DNDND
HarkerYX
·
2020-09-15 12:19
大数据
《大数据: Hadoop(HDFS)
完全分布式
集群一》
一、
完全分布式
平台搭建首先安装虚拟机,安装过程不多说,修改一些系统参数,在Hadoop中启动多种不同类型的进程,例如NN,DN,RM,NM,这些进程需要进行通信.在通信时,常用主机名进行通信1.配置系统主机名
HarkerYX
·
2020-09-15 12:19
大数据
hadoop-2.7.3+hive-2.3.4+sqoop-1.4.7
hadoop-2.7.3+hive-2.3.4+sqoop-1.4.7一、hadoop-2.7.3
完全分布式
环境搭建hadoop-2.7.3下载.提取:qcqd为了方便和统一开发环境,一些基础配置如修改主机名和用户名
尘埃落定0_0
·
2020-09-15 09:41
hadoop
【学习总结】VM12+CentOS6.8+hadoop2.7+jdk1.8搭建hadoop
完全分布式
集群超详细步骤【上篇】
当前环境:在vm12中,一个刚安装上的centOS,在虚拟机上只装vmtools,并创建了一个mr的普通用户。方法概括:克隆出三台机器,然后修改对应的ip地址等,安装jdk和hadoop(上篇),进行ssh免密设置,再进行集群的核心配置,群起集群,运行(下篇)。目标集群规划:hadoop101hadoop102hadoop103HDFSNameNodeDataNodeDataNodeSeconda
黛眉倾城々花月蓉
·
2020-09-15 08:55
Linux
搭建环境
hadoop
学习笔记
【学习总结】VM12+CentOS6.8+hadoop2.7+jdk1.8搭建hadoop
完全分布式
集群超详细步骤【下篇】
上篇详细介绍了虚拟机环境配置,在每一台虚拟机上安装好hadoop,创建好集群分发脚本sxync。下篇将进行ssh无密登录配置,以及集群的真正搭建。目标集群规划:hadoop101hadoop102hadoop103HDFSNameNodeDataNodeDataNodeSecondaryNameNodeDataNodeYARNNodeManagerResourceManagerNodeManage
黛眉倾城々花月蓉
·
2020-09-15 08:55
搭建环境
python
VM12+CentOS6.5+hadoop2.7.3 搭建hadoop
完全分布式
集群
参考:http://blog.csdn.net/gamer_gyt/article/details/51991893一:安装VM12.x下载地址:链接:http://pan.baidu.com/s/1c2KA3gW密码:3r67二:安装CentOS6.5+每台机器都要做的事这里采用3台机器,其对应的IP和主机分别如下(他们的用户名都是master)主机名ip对应的角色master1192.168.
zhangzeguang88
·
2020-09-15 07:28
爬虫
完全分布式
安装hbase,使用hbase自带的zookeeper
1.我使用的是稳定版本的hbase:hbase-1.2.4-bin.tar.gz下载地址:http://www-eu.apache.org/dist/里面有个stable版本的2.配置环境变量,集群上的每个节点都要配置vim~/.bashrcexportHBASE_HOME=/usr/local/hbase/hbase-1.2.4exportPATH=$PATH:$HBASE_HOME/binso
六尘
·
2020-09-15 06:44
大数据
Hadoop任务合集
Hadoop学习笔记(9)-搭建Hbase伪分布式及简单操作
HBase安装模式有三种:单机模式、分布式(伪分布式和
完全分布式
)。
XianMing的博客
·
2020-09-15 06:57
Hadoop
yarn环境搭建
环境搭建1、准备工作首先搭建一个高可用的
完全分布式
可以参照:https://blog.csdn.net/xgs960528/article/details/830203932、图解各个节点的功能3、配置文件
xgs960528
·
2020-09-15 03:39
上一页
5
6
7
8
9
10
11
12
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他