E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
完全分布式
持续集成与持续交付(1)
持续集成enkins简介安装使用1.git简介官网学习地址http://git-scm.com/book/zh/v2Git特点:速度简单的设计对非线性开发模式的强力支持(允许成千上万个并行开发的分支)
完全分布式
有能力高效管理类似
bw-1111
·
2021-05-16 17:28
笔记
git
gitlab
jenkins
hadoop
完全分布式
集群搭建
使用的系统ubuntuserver16.04LST采用的架构ps:个人觉得把yarn还有secondarynameNode和namenode放在一起会很危险试想一下如果master挂了那不是全挂尚硅谷的是这个样子的ps:有没有一种美国三权分立的感觉靠不靠谱我就不知到了但是大管家们都坐在一起沟通可能方便些吧还有就是上面的是用了两个worker下面是三个都是worker有点既当老板又做员工的感觉饿灰常
Echoooo_o
·
2021-05-15 16:11
hadoop笔记7--HBase伪分布式安装与基本运用
先学习在伪分布式上的使用,后面有条件搭建
完全分布式
时,再进行基于集群的HBase操作。1.单机模式和hadoop一样,HBase也有单机模式。我们就来先看看单机模式。
七号萝卜
·
2021-05-05 03:33
hadoop 分布式文件系统的部署
hadoop分布式文件系统的部署1.hadoop文件系统的简介2.虚拟集群的搭建2.1单机模式2.2伪分布式2.3
完全分布式
文件系统1.hadoop文件系统的简介Hadoop是一个由Apache基金会所开发的分布式系统基础架构
123坤
·
2021-04-30 17:47
运维
分布式
运维
hadoop
Hadoop全分布式搭建步骤详解
1、Hadoop的全分布式集群搭建步骤1.1
完全分布式
模式介绍
完全分布式
,指的是在真实环境下,使用多台机器,共同配合,来构建一个完整的分布式文件系统。
瑾怀
·
2021-04-24 20:53
hadoop
hdfs
mapreduce
Hadoop集群部署及简单测试
Hadoop集群部署及简单测试部署模式本地模式伪分布模式
完全分布式
节点规划HDFS规划YARN规划实现部署解压安装修改配置修改环境变量配置文件~env.sh修改属性配置文件~-site.xml修改core-site.xml
杀智勇双全杀
·
2021-04-23 22:25
云计算大数据
笔记
分布式
hadoop
linux
hdfs
yarn
搭建Hadoop-HA环境
前提:搭建Hadoop
完全分布式
环境node01node02node03node04NameNode01NameNode02NameNode03DataNode01DataNode02DataNode03JournalNode01JournalNode02JournalNode03
上杉丶零
·
2021-04-21 22:07
Hive1.2.1 && MySQL5.1.73-1 安装 小白超详细安装教程
大数据自学-之Linux虚拟机Centos下的Hive1.2.1安装&MySQL5.1.73-1安装小白学习超详细安装教程【往期回顾1】hadoop集群
完全分布式
搭建小白教程【往期回顾2】hive练习题
北慕辰
·
2021-04-21 22:17
BigData
hive
hive
mysql
hadoop
IPFS&Filecoin的价值与愿景
IPFS支持创建
完全分布式
的应用。它旨在使用网络更快、更安全、更开放。IPFS是一个分布式文件系统,它的目标是将所有计算设备连接到同一个文件系统,从而成为一个全球统一的储存系统。
SLF068
·
2021-04-20 19:33
ipfs
区块链
hadoop大数据平台的简介及搭建
4.hadoop应用场景5.hadoop工作模式5.1单机模式(Local(Standalone)Mode)5.2Pseudo-DistributedMode伪分布式5.2.1配置5.2.2测试5.3
完全分布式
樱桃Maruko小丸子cxj
·
2021-04-03 19:15
完全分布式
集群群起
完全分布式
集群群起群起的ssh准备群起的本质是由主节点调用子节点启动,此时,需要预先准备ssh设置免密登录以下操作使用dev1账户操作1.配置ssh(1)基本语法ssh另一台电脑的ip地址(2)ssh连接时出现
编程界翁老师
·
2021-03-11 13:24
大数据
hadoop
hdfs
大数据
完全分布式
集群单点启动
完全分布式
集群单点启动以下操作使用dev1账户操作(1)如果集群是第一次启动,需要格式化NameNode。
编程界翁老师
·
2021-03-10 17:43
大数据
分布式
hadoop
大数据
完全分布式
集群配置
完全分布式
集群配置1集群部署规划2.配置集群以下操作都使用dev1账户(1)HDFS配置文件配置hadoop-env.shvimhadoop-env.shexportJAVA_HOME=/opt/module
编程界翁老师
·
2021-03-10 17:48
大数据
分布式
hadoop
大数据
完全分布式
运行模式(开发重点)
完全分布式
运行模式(开发重点)分析(1)准备3台客户机(关闭防火墙、静态ip、主机名称)(2)安装JDK(3)配置环境变量(4)安装Hadoop(5)配置环境变量(6)配置集群(7)单点启动(8)配置ssh
编程界翁老师
·
2021-03-09 17:09
大数据
hadoop
java
大数据
Docker——Hadoop
完全分布式
安装
参考说明:1、基于Docker的Hadoop
完全分布式
安装——使用docker拉取官方Ubuntu镜像,将单机安装好hadoop,然后做成image,再跑多个容器做集群。
小T呀
·
2021-03-02 20:48
Hadoop 学习笔记·三 —— Hadoop 运行模式
Hadoop运行模式包括:本地模式伪分布式模式
完全分布式
模式Hadoop官方网站:http://hadoop.apache.org/本地运行模式官方Grep案例创建在hadoop-2.7.2文件下面创建一个
timedecdec
·
2021-02-06 11:45
学习笔记
大数据
Hadoop
运行模式
本地模式
伪分布模式
完全分布模式
【Hadoop第三步】Hadoop环境搭建
_大数据_qq_38570733的博客-CSDN博客整体流程和步骤比较详细,一些内容有错误,整理如下:2.hadoop环境搭建这个内容很好,错误较少,最后有开启和验证例子3.Hadoop
完全分布式
搭建-
鸡汤姜末
·
2021-02-02 16:36
大数据-Hadoop:搭建Hadoop
完全分布式
集群(在VMware中的Linux虚拟机)
一、VMware、Linux虚拟机环境准备1、网络配置1.1查看网络IP和网关1.1.1查看虚拟网络编辑器1.1.2修改ip地址1.1.3查看网关1.1.4查看windows环境的中VMnet8网络配置(控制面板-网络和Internet-更改适配器选项)1.2配置Linux系统的网络IP和网关1.2.1查看当前网络IP[whx@hadoop101~]$ifconfigeth0Linkencap:E
ninjawei
·
2021-01-14 00:37
大数据
大数据
hadoop
hdfs
谷粒商城分布式基础篇01-项目介绍
项目介绍1.项目简介2.项目架构3.项目背景4.项目技术&特色5.项目前置要求1.项目简介本项目为
完全分布式
的电商项目——谷粒商城,这个项目将会分为以下三个篇章进行开发。
绍兴本人
·
2021-01-11 21:45
分布式项目-谷粒商城实战
java
分布式
架构师
终章:蜕变,破茧成蝶!
持续更新中……】【未完、待续……持续更新中……】一、Hadoop篇一、Hadoop框架介绍二、Linux下搭建Hadoop的运行环境三、Hadoop运行模式(本地模式、伪分布模式)四、Hadoop的运行模式(
完全分布式
象在舞
·
2021-01-05 16:37
破茧成蝶——大数据篇
大数据
hadoop
完全分布式
部署
一.实验环境准备需要准备四台Linux操作系统的服务器,配置参数最好一样,由于我的虚拟机是之前伪分布式部署而来的,因此我的环境都一致,并且每天虚拟机默认都是Hadoop伪分布式哟!1>.NameNode服务器(172.20.20.228)2>.DataNode服务器(172.20.20.226-220)二.修改Hadoop的配置文件修改的配置文件路径是我之前拷贝的full目录,绝对路径是:“/to
cnmeimei
·
2020-12-30 15:15
技术
Windows下使用IDEA搭建Hadoop开发环境的详细方法
笔者鼓弄了两个星期,终于把所有有关hadoop的环境配置好了,一是虚拟机上的
完全分布式
集群,但是为了平时写代码的方便,则在windows上也配置了hadoop的伪分布式集群,同时在IDEA上就可以编写代码
·
2020-12-30 11:39
非root用户配置hadoop的终极踩坑教程
三台linux部署
完全分布式
集群的终极踩坑教程前言硬件,软件环境1.总体架构2.软件下载配置步骤1.配置ssh免密登录2.配置hosts文件3.hadoop配置文件修改4.启动问题汇总1.ssh配置问题
UpUpCAI
·
2020-12-19 16:28
技术坑
java
hadoop
大数据
hdfs
linux
执行start-all.sh启动Hadoop时 没有NameNode 的解决方法
搭建
完全分布式
模式后,在启动hadoop的时候,发现主节点(Master)上没有运行NameNode节点。
苜苜的烂笔头
·
2020-12-01 11:22
Hadoop
hadoop
分布式
大数据
运维
hbase
Apache Hadoop
完全分布式
集群搭建
文章内容输出来源:拉勾教育大数据高薪训练营第1节虚拟机环境准备1.三台虚拟机(静态IP,关闭防火墙,修改主机名,配置免密登录,集群时间同步)2.在/opt⽬目录下创建⽂文件夹mkdir-p/opt/lagou/software--软件安装包存放⽬录mkdir-p/opt/lagou/servers--软件安装⽬录3.Hadoop下载地址:https://archive.apache.org/dis
涛99
·
2020-11-29 13:34
大数据
hadoop
Hadoop3.x
完全分布式
集群搭建教程(二)
以下操作全部需要切换到hadoop用户编写集群批量操作脚本1.在/home/hadoop/bin目录下上传脚本cd~/binrz(1)xsync这个脚本的作用就是将指定目录的所有文件复制到其他虚拟机相同目录中用法为:xsync文件路径注意:因为要保证集群每台机器的配置都相同,所以任意一台机器有修改都需要及时使用xsync脚本分发修改后的文件给其它机器(2)ssh有以下几个文件ips_zk、ips_
wanxx
·
2020-11-20 22:46
hadoop
大数据
Hadoop3.x
完全分布式
集群搭建教程(一)
前言集群规划:5台机器:hadoop101hadoop102hadoop103hadoop104hadoop105HDFSNameNodeNameNodeDataNodeDataNodeDataNodeYARNResourceManagerResourceManagerNodeManagerNodeManagerNodeManagerZookeeper√√√版本:Hadoop3.1.3Jdk1.8
wanxx
·
2020-11-20 16:46
hadoop
大数据
hadoop
完全分布式
配置(保姆级教程)
文章目录@[toc]hadoop
完全分布式
环境配置最小化安装CentOS虚拟机连接终端工具hadoop
完全分布式
安装jdk安装hadoop修改主机名修改hadoop配置文件克隆虚拟机配置刚克隆的虚拟机设置
lulu & nana
·
2020-11-15 00:59
大数据技术
hadoop
linux
VM虚拟机 - Docker - CentOS 7 - 快速使用Docker从零搭建Hadoop
完全分布式
集群详细教程(亲测有效,※吐血推荐※)(内含快速启动容器脚本)
目录阅读须知最小安装(可跳)安装VMwareTool(可直接安装)关闭防火墙和Selinux安装docker迁移docker安装目录docker安装CentOS7安装必要工具安装Java和Scala安装Hadoop编写脚本启动集群Windows连接容器测试集群关闭集群编写快速启动容器脚本安装MySQL安装Hive安装ZooKeeper安装Kafka安装Spark(Standalone)动态添加端口
H_X_P
·
2020-11-06 20:47
Hadoop
linux
hadoop
大数据
centos
docker
HBase学习(二)——
完全分布式
安装
一、下载地址http://archive.apache.org/dist/hbase/在里面找想要安装的hbase版本,我这里选择的是hbase-1.1.6版本。二、安装步骤注意:安装hbase的前提是你已经搭建好了hadoop集群和zookeeper集群。如若没有,可先参考我的这2篇文章完成搭建。搭建hadoop集群:https://www.jianshu.com/p/31dd88692c7e搭
大数据阶梯之路
·
2020-11-03 19:23
配置Hadoop3.3.0
完全分布式
集群
前言:本文主要介绍配置Hadoop3.3.0
完全分布式
集群;一、部署环境规划1.服务器地址规划2.需要部署的环境(1)关闭火墙(开机自启可以不设置)[root@localhostjava]#systemctlstopfirewalld
Frost-xie
·
2020-11-01 15:14
Hadoop
完全分布式
集群的搭建
1.进程规划原则:①核心进程尽量分散②同质进程尽量分散2.集群间复制①scpscp-r源文件的用户名@主机名:源文件路径目标文件的用户名@主机名:目标文件路径特点:全量复制②rsyncrsync-rvlt源文件路径目标文件的用户名@主机名:目标文件路径源文件路径是个目录,源文件路径/,只会同步源文件目录中的内容!源文件路径,不仅会同步源文件目录中的内容,包括目录本身也会进行同步!3.配置ssh免密
諵街ゝ
·
2020-10-22 10:20
学习日记
大数据
hadoop
Apache Hadoop
完全分布式
集群 搭建
centos7实现免密登录在node01上生产一对钥匙(公钥和私钥)首先在root用户下,执行ssh-keygen-trsa,一路回车,接着会产生在/root目录下会产生.ssh目录查看.ssh目录,会发现它下面生成了两个id_rsa,id_rsa.pub文件ssh-copy-idnode01ssh-copy-idnode02ssh-copy-idnode03同理其它节点也一样虚拟机环境准备三台虚
森林森
·
2020-10-12 17:44
Hadoop
hadoop2.7.2搭建
完全分布式
集群
新建虚拟机修改虚拟机的静态IP修改主机名,添加主机和ip的映射关系关闭防火墙(1-4通过脚本完成)创建普通用户useraddjinghangpasswdjinghang配置普通用户具有root权限vim/etc/sudoers在91行下添加如下内容:jinghangALL=(ALL)NOPASSWD:ALL完成后:wq!7.在/opt目录下创建文件夹(software存放压缩软件包,modul存放
zyj_369
·
2020-10-10 10:46
Hadoop
hadoop
按
完全分布式
安装HBASE
1、下载并解压hbase压缩包2、修改配置文件hbase-env.sh文件exportJAVA_HOME=/usr/jdk1.8.0_101exportHBASE_CLASSPATH=/usr/hadoop-2.7.2/etc/hadoop我没有使用自带的zookeeper,而是上节课部署的zookeeperexportHBASE_MANAGES_ZK=falsehbase-site.xml文件h
keon
·
2020-10-10 06:22
Hadoop
完全分布式
集群的简单安装操作说明
实验环境:本操作说明适合502机房和504机房首先要运行VmwareWorkStation或VirtualBox,启动master
完全分布式
,slave1
完全分布式
,slave2
完全分布式
三台虚拟机,用
whvcse_hlzhang
·
2020-10-09 13:08
Hadoop
完全分布式
集群搭建
集群规划HDFS:1个NameNode+n个DataNode+1个2NNYARN:1个ResourceManager+n个NodeManagerhadoop1hadoop2hadoop3DNDNDNNMNMNMNNRM2NN准备工作准备3台虚拟机,可以新建1台,然后克隆2台1.修改主机名vi/etc/sysconfig/network,三台机器HOSTNAME分别改为hadoop1,hadoop2
WillLiaowh
·
2020-10-09 13:42
hadoop
elasticsearch
完全分布式
安装
1.首先master节点的配置,修改elasticsearch的配置文件,config/elasticsearch.yml;添加如下配置cluster.name指定集群的名称,node.name指定节点的名称,node.master:true指定该节点为主节点。elasticsearch服务2.把当前主机的elasticsearch压缩包远程拷贝到三台机器scpelasticsearch-6.1.
kongfanyu
·
2020-09-17 07:11
大数据
Hadoop错误1_Hadoop分布式及伪分布式下DataNode不能启动的问题
问题导读:1、hadoop
完全分布式
和伪分布式下datanode无法启动的原因?2、怎么解决?问题描述:在集群模式下更改节点后,启动集群发现datanode一直启动不起来。
Wang_Zhenwei
·
2020-09-17 05:00
Hadoop
转载
【Hadoop环境搭建】八.Hadoop集群模式部署
前面介绍的伪分布式是基于单个节点,而
完全分布式
是基于两个或两个以上节点完成Hadoop集群搭建。下面基于三个节点完成。
VI-茄子
·
2020-09-17 01:03
Hadoop环境搭建
hadoop
大数据
hadoop
完全分布式
运行模式安装
目录一、虚拟机准备二、安装JDK三、SSH无密登录配置四、集群时间同步五、编写集群分发脚本xsync六、集群配置七、集群单点启动八、群起集群九、集群启动/停止方式总结一、虚拟机准备参考另一篇Linux模板机及集群相关操作文章https://blog.csdn.net/weixin_39689084/article/details/105133951二、安装JDK1.卸载现有JDK(1)查询是否安装
剑穹
·
2020-09-16 21:25
#
Hadoop
大数据
hadoop
cassandra使用与介绍
高度可伸缩的、一致的、分布式的结构化key-value存储方案,集GoogleBigTable的数据模型与AmazonDynamo的
完全分布式
的架构于一身。
liu---shui
·
2020-09-16 18:17
cassandra
Ubuntu安装Cassandra-3.11.1
最初由Facebook创建,集GoogleBigTable的数据模型与AmazonDynamo的
完全分布式
的架构于一身。
yamaxifeng_132
·
2020-09-16 17:13
大数据
-
Cassandra
Cassandra 3.7.0集群在ubuntu上的安装
它最初由Facebook开发,用于储存收件箱等简单格式数据,集GoogleBigTable的数据模型与AmazonDynamo的
完全分布式
的架构于一身Facebook于2008将Cassandra开源,
sparkexpert
·
2020-09-16 17:02
Cassandra
大数据管理
Ubuntu下伪分布式模式Hadoop的安装及配置
1、Hadoop运行模式Hadoop有三种运行模式,分别如下:单机(非分布式)模式伪分布式(用不同进程模仿分布式运行中的各类节点)模式
完全分布式
模式注:前两种可以在单机运行,最后一种用于真实的集群环境,
weixin_33834075
·
2020-09-16 16:06
手把手教学,小白包会,zookeeper
完全分布式
教程
环境准备系统环境:Centos7软件环境:jdk-8u241-linux-x64.tar.gz,apache-zookeeper-3.6.1-bin.tar.gz节点地址1192.168.16.1492192.168.16.1303192.168.16.132安装准备1.jdk安装和验证详情请见我之前的一篇博客jdk安装验证2.zookeeper的安装步骤以及环境变量的配置详情请见我的上一篇博客在
Zhang_Baiqing
·
2020-09-16 14:31
linux
分布式
java
linux
zookeeper
大数据
java大数据最全课程学习笔记(2)--Hadoop
完全分布式
运行模式
目前CSDN,博客园,简书同步发表中,更多精彩欢迎访问我的giteepagesHadoop
完全分布式
运行模式步骤分析:准备3台客户机(关闭防火墙、静态ip、主机名称)vim/etc/sysconfig/
假装文艺范儿
·
2020-09-16 13:48
Java大数据
hadoop
大数据
linux
java
尚硅谷
hadoop学习笔记2---hadoop的三种运行模式
配置已经很接近
完全分布式
。3、
完全分布式
模式正常的Hadoop集群,由多个各司其职
weixin_34014555
·
2020-09-16 13:42
大数据
kafka-
完全分布式
集群安装及简单使用
kafka
完全分布式
集群安装:要求:前置zookeeper集群版本:kafka2.12.1zookeeper3.4.51.解压安装包:tar-zxvf/opt/software/kafka_2.12-1.0.0
wanwu皆对象
·
2020-09-16 12:47
hadoop-大数据
大数据
Hadoop学习笔记(一)Hadoop快速入门:1.
完全分布式
运行模式
准备、过程虚拟机:VMwareWorkstation12Pro操作系统:CentOSLinuxrelease7.2.1511(Core)控制终端:SecureCRTHadoop版本:Hadoop-2.7.3JDk版本:jdk1.8.0_401)准备3台虚拟机(关闭防火墙、静态ip、主机名称)2)安装JDK3)配置环境变量4)安装Hadoop5)配置环境变量6)配置集群7)单点启动8)配置ssh9)
一个奔跑的C
·
2020-09-16 11:31
Hadoop
hadoop
上一页
5
6
7
8
9
10
11
12
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他