E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
伪分布式
hadoop
伪分布式
环境搭建
所谓
伪分布式
环境是指在一台电脑上搭建分布式。分布式,见名知义,一定是分布在多台电脑上的,为了学习技术,只在一台电脑上搭建起来的就是
伪分布式
。
Jason_M_Ho
·
2021-05-17 06:19
在centos7虚拟机上搭建
伪分布式
hadoop
学习hadoop搭建开发环境篇1,安装jdk1.8由于Hadoop是java写的,依赖java环境,搭建hadoop开发环境之前,需要安装jdk。版本选择:hadoop2.9.0,jdk:1.8网上有很多centos系统安装jdk的方法,这里我选择最简单的yum安装安装之前先检查一下系统有没有自带open-jdk命令:rpm-qa|grepjavarpm-qa|grepjdkrpm-qa|grep
风逐叶
·
2021-05-17 04:38
Mac OS X上搭建
伪分布式
CDH版本Hadoop开发环境
最近在研究数据挖掘相关的东西,在本地Mac环境搭建了一套
伪分布式
的hadoop开发环境,采用CDH发行版本,省时省心。
Edward_Koios
·
2021-05-16 10:07
(三)Hadoop2.6.5 全分布式搭建
首先需要准备四台Linux虚拟机,搭建步骤与
伪分布式
基本一致,同样部分不再详细描述。
yc_yz
·
2021-05-15 14:51
Hive环境搭建
hadoop各个节点角色定义master和slavenamenode和datanode:namenode目录管理者从mapreduce的角度划分hadoop安装部署三种运行模式:单机模式伪分布模式完全分布模式
伪分布式
安装下载
孙宏志
·
2021-05-09 17:45
hadoop
伪分布式
搭建
1、下载hadoop下载页面(根据需求版本下载即可)2、解压#tar-xzvfhadoop-2.8.1.tar.gz3、配置环境变量#vi/etc/profileexportHADOOP_HOME=/opt/software/hadoop-2.8.1exportPATH=$HADOOP_HOME/bin:$FINDBUGS_HOME/bin:$PROTOC_HOME/bin:$MAVEN_HOME
刘子栋
·
2021-05-08 02:09
MapReduce实战-词频统计、文件合并排序
文章目录环境搭建词频统计输入源码输出合并输入源码输出排序输入源码输出环境搭建hadoop
伪分布式
集群环境,包括设置JAVA_HOME、HADOOP_HOME等。
唔仄lo咚锵
·
2021-05-05 17:10
大数据
Linux
hadoop
大数据
mapreduce
hdfs
linux
Hadoop单节点安装(2)
伪分布式
模式
实验前提:保证sshlocalhost不需要输入密码切换工作目录[
[email protected]
]#pwd/usr/hadoop/hadoop-2.7.4etc/hadoop/core-site.xml:fs.defaultFShdfs://localhost:9000etc/hadoop/hdfs-site.xml:dfs.replication1格式化文件系统[root@had
tonyemail_st
·
2021-05-05 05:02
hadoop笔记7--HBase
伪分布式
安装与基本运用
在这里,与前面Hadoop相同,由于设备受限,HBase我还是进行的
伪分布式
的安装。虽然是
伪分布式
的,但在使用上还是差不多。
七号萝卜
·
2021-05-05 03:33
大数据||hadoop分布式集群安装
集群前先计划虚拟机,看文章大数据||Hadoop分布式部署虚拟机基于
伪分布式
环境安装进行展开规划机器与服务(★★★★☆)HDFS文件系统YARN“云操作系统”JobHistoryServer历史服务监控修改配置文件
明明德撩码
·
2021-05-03 20:06
redis
伪分布式
集群搭建
搭建
伪分布式
,需要6个redis实例(生产环境搭建只需改下IP地址即可,步骤相似)。
丶巴比伦
·
2021-05-03 07:22
hadoop
伪分布式
安装
一、配置Java环境,推荐使用jdk1.7以上。1、下载安装jdk包并解压tar-zxvfjdk-8u161-linux-x64.tar.gz2、移动jdk并重命名sudomvjdk-8u161-linux-x64.tar.gz/usr/app/jdk3、配置系统变量,编辑.bashrc文件exportJAVA_HOME=/usr/app/jdkexportCLASSPATH=.:$JAVA_HO
Always_6778
·
2021-05-02 11:06
Hadoop
伪分布式
部署(HDFS)
环境要求:java、ssh1.上传并解压tar包[root@hadoop000software]#rz#上传hadoop-2.8.1.tar.gz[root@hadoop000software]#tar-xzvfhadoop-2.8.1.tar.gz2.配置环境变量[root@hadoop000software]#vi/etc/profileexportHADOOP_HOME=/opt/softw
K_un
·
2021-04-30 22:49
hadoop 分布式文件系统的部署
hadoop分布式文件系统的部署1.hadoop文件系统的简介2.虚拟集群的搭建2.1单机模式2.2
伪分布式
2.3完全分布式文件系统1.hadoop文件系统的简介Hadoop是一个由Apache基金会所开发的分布式系统基础架构
123坤
·
2021-04-30 17:47
运维
分布式
运维
hadoop
Hadoop开发环境准备及错误问题解决方法
Hadoop开发环境准备及错误问题解决方法一、开发环境准备二、错误问题及其产生原因三、错误问题解决方法一、开发环境准备Hadoop环境已经搭建好(
伪分布式
搭建好即可)eclipse或者idea已经下载安装好修改下
若兰幽竹
·
2021-04-28 22:46
Hadoop
hadoop
Hadoop大数据平台
文章目录1.HDFS单机版2.
伪分布式
3.全分布式热添加节点(在线添加server4节点)4.分布式存储5.Zookeeper高可用集群(hadoop自带的nn高可用)1.集群搭建2.hadoop配置3
qiao_qing
·
2021-04-28 17:55
hadoop开发环境&&集群搭建
hadoop版本,所以选择Hadoop-2.7.5image.png下载地址为http://hadoop.apache.org/releases.html搭建Pseudo-Distributed本地开发使用
伪分布式
集群修改配置
TTTing听
·
2021-04-26 03:41
Zookeeper和HA的了解
一、Zookeeper的概述1.1Zookeeper是什么zookeeper是⼀个
伪分布式
应⽤程序提供的⼀个分布式开源协调服务框架。
仙女的崽儿
·
2021-04-25 21:10
大数据的学习
Docker相关文章索引(3)
环境部署docker镜像制作之dockercompose.yml文件---hadoop
伪分布式
CentOS7.2安装Docker1.12.3版生成dockeryum源tee/etc/yum.repos.d
司小幽
·
2021-04-25 05:57
hadoop分布式部署(Hadoop-3.3)
1、单机模式、
伪分布式
、分布式的区别。单机模式:只在一台机器上运行,储存采用本地文件系统,没有采用HDFS。
伪分布式
:储存采用HDFS,但是HDFS的名称节点和数据节点都在同一台机器上。
_贪多必失
·
2021-04-24 17:04
大数据
hadoop
hdfs
大数据
分布式
头歌平台下的Hbase
伪分布式
安装
1、创建文件夹mkdir/appcd/optulimit-f1000000tar-zxvfhbase-2.1.1-bin.tar.gz-C/app2、查看jdk目录并复制echo$JAVA_HOME/usr/lib/jvm/jdk1.8.0_1113、编辑配置vim/app/hbase-2.1.1/conf/hbase-env.sh在最后面添加:exportJAVA_HOME=/usr/lib/j
Fdecad
·
2021-04-23 23:15
hbase
hadoop
大数据入门(三) - HDFS
伪分布式
环境搭建
1HDFS概述及设计目标1.1什么是HDFS:Hadoop实现的一个分布式文件系统(HadoopDistributedFileSystem),简称HDFS源自于Google的GFS论文论文发表于2003年,HDFS是GFS的克隆版1.2HDFS的设计目标:非常巨大的分布式文件系统运行在普通廉价的硬件上易扩展、为用户提供性能不错的文件存储服务HDFS官方文档地址2HDFS架构HDFS是主/从式的架构
JavaEdge
·
2021-04-22 02:23
HBase
伪分布式
在
伪分布式
模式pseudo-distributed下,HBase仍旧运行在一台主机上,但是各个守护进程(HMaster,HRegionServer,andZooKeeper)单独运行。
金刚_30bf
·
2021-04-21 09:12
伪分布式
-spark
解压安装包tar-zxvfspark-2.4.3-bin-hadoop2.7.tgz配置全局环境变量exportSPARK_HOME=/usr/local/src/sparkexportPATH=$PATH:$JAVA_HOME/bin:/usr/local/src/hadoop/bin:$HBASE_HOME/bin:$SPARK_HOME/bin:$SPARK_HOME/sbin在spark-
蕴重Liu
·
2021-04-19 12:25
Hadoop安装教程_单机/
伪分布式
配置---------常见的问题
Hadoop
伪分布式
时的问题按照安装教程进行
伪分布式
配置的修改配置文件时,要注意这个标签只有一个,而原文件中以有这个标签,只需将教程中的其他内容复制到里面就行了,否则将会
HHHH756
·
2021-04-18 19:20
hadoop
Hadoop搭建
SSH-u012941811的专栏-博客频道-CSDN.NET;ApacheHadoop3.0.0-alpha1–Hadoop:SettingupaSingleNodeCluster.Hadoop安装教程_
伪分布式
配置
内心戏很多的慵懒猫
·
2021-04-13 22:35
2021年 全网最细大数据学习笔记(四):Hadoop 之 HDFS的基本使用
文件内容6、对比hdfsdfs三、Java操作HDFS1、前置工作2、示例代码一、学前必备知识2021年全网最细大数据学习笔记(一):初识Hadoop2021年全网最细大数据学习笔记(二):Hadoop
伪分布式
安装
Amo Xiang
·
2021-04-10 16:11
大数据开发
linux
java
大数据
hadoop
hadoop大数据平台的简介及搭建
hadoop的优点3.hadoop核心架构4.hadoop应用场景5.hadoop工作模式5.1单机模式(Local(Standalone)Mode)5.2Pseudo-DistributedMode
伪分布式
樱桃Maruko小丸子cxj
·
2021-04-03 19:15
hadoop2.x
伪分布式
搭建
【前言】之前搭建了hadoop1.x的
伪分布式
与全分布式,由于hadoop2.x与hadoop1.x在安装和配置上有较大的区别,所以对hadoop2.x的安装也做一个笔记以便日后学习。
先生_吕
·
2021-03-10 17:26
Hadoop2.7.3环境搭建之
伪分布式
Hadoop
伪分布式
环境搭建一、前置条件二、准备工作三、Hadoop安装四、
伪分布式
配置说明:熟悉Hadoop
伪分布式
环境搭建基本思路与流程,理解主从式结构体系思想一、前置条件前置条件请自行参考如下资料进行操作
若兰幽竹
·
2021-03-08 21:04
Hadoop
我的Hadoop之旅---启程
Hadoop集群式搭建的旅途在这里,我将进行我的Hadoop搭建路程搭建前期的准备工作我们要进行Hadoop
伪分布式
搭建需要做的一些小小的准备工作:下载VMware任意版本,并创建三台虚拟机,我这里选择的是使用带
浅苏鎏沐
·
2021-03-02 15:55
Hadoop
hadoop
linux
【项目杂记】安全问题--核心数据加密、签名
鉴于优惠券的实现逻辑并不复杂,所以最后决定采用
伪分布式
架构;即现有数据库不做改变,为优惠券模块单独创建一个用户优惠券服务,单独拥有一个数据库;目的是为以后项目服务拆分,整体向分布式改造打前站。
A minor
·
2021-02-18 04:01
项目杂记
加密解密
第七阶段 第一模块
https://www.cnblogs.com/LOVE0612/p/9579751.htmldelete是删除子结点的权限
伪分布式
集群一个结点挂掉其他的都会挂掉Curator连接结点都是在工作空间下创建注意版本
·
2021-02-15 18:32
zookeeper
Hadoop安装
Hadoop安装SSH免密登录SSH概念SSH组成实现步骤安装JDK软件下载解压安装包配置环境变量HDFS
伪分布式
集群搭建软件下载解压安装包配置文件配置环境变量Hadoop集群测试启动和关闭HDFS集群单节点逐个启动和关闭脚本一键启动和关闭查看进程启动情况通过
Ka-Xin
·
2021-02-10 23:21
hadoop
分布式
linux
大数据
Hadoop 学习笔记·三 —— Hadoop 运行模式
Hadoop运行模式包括:本地模式
伪分布式
模式完全分布式模式Hadoop官方网站:http://hadoop.apache.org/本地运行模式官方Grep案例创建在hadoop-2.7.2文件下面创建一个
timedecdec
·
2021-02-06 11:45
学习笔记
大数据
Hadoop
运行模式
本地模式
伪分布模式
完全分布模式
2021-01-29 大数据课程笔记 day9
计算两天案例两天第一天内容安排1T文件操作(训练)hadoop起源(了解)HDFS架构(重点)数据块副本放置策略(重点)HDFS的权限(了解)hadoop的安全模式(理解)HDFS写文件流程(重点)HDFS读文件流程(重点)
伪分布式
搭建
Rich Dad
·
2021-01-29 21:25
西行日记
大数据
分布式
hadoop
数据库
contos8
伪分布式
部署hadoop-3.2.1
知识了解
伪分布式
部署模式介绍:Hadoop守护进程运行在本地机器上,模拟一个小规模的的集群。该模式在单机模式之上增加了代码调试功能,允许你检查内存使用情况,HDFS输入/输出,以及其他的守护进程交互。
东鹏特饮
·
2021-01-27 03:50
运维云计算
hadoop
java
分布式
centos
运维
搭建
伪分布式
集群笔记(3)
搭建Hadoop分布式集群步骤:1.配置时间同步服务2.设置环境变量3.格式化NameNode4.启动关闭集群5.关闭防火墙,做映射6.脚本,启动集群7.hadoop配置文件一些解释1.配置时间同步服务(1)检查是否安装ntp,yum源rpm-qa|grepntpntpstatmount/dev/dvd/mediayumrepolist(2)安装NTP服务。在各节点:yum-yinstallntp
_52394320
·
2021-01-20 17:41
Hadoop基础
hadoop
搭建
伪分布式
集群笔记(2)
搭建Hadoop分布式集群一条件hadoop-2.6.0.tar.gz结构图步骤:1.Hadoop文件上传,解压缩上传hadoop-2.6.0.tar.gz到/opt目录下解压到/usr/local目录下tar-zxfhadoop-2.6.0.tar.gz-C/usr/local一些常用的目录解读2.修改配置文件cd/usr/local/hadoop-2.6.0/etc/hadoopcore-si
_52394320
·
2021-01-20 17:11
Hadoop基础
hadoop
搭建
伪分布式
集群笔记(1)
搭建Hadoop分布式集群前期配置条件CentOS-6.9-x86_64-bin-DVD1.isojdk-8u221-linux-x64.rpm步骤:1.虚拟机设置固定IP2.用xshell远程连接3.虚拟机在线安装软件4.安装java1.虚拟机设置固定IP创建图形化版master节点初始化界面:(1)采用nat方式连接网络查看本地网络主机网段与vm8的网段不一致例如下图主机:vm8:即虚拟机的i
_52394320
·
2021-01-20 17:56
Hadoop基础
hadoop
【快速入门大数据】hadoop和它的hdfs、yarn、mapreduce
优势发展史生态系统发行版本选择企业应用案例第3章分布式文件系统HDFS设计分布式文件系统架构副本机制环境搭建Mac上的仿xshellCDH版-hadoopjdkssh免密登录解决ifconfig命令失效解决ssh报错hadoophdfs配置
伪分布式
瑞 新
·
2021-01-15 13:43
#
Hadoop
大数据技术与应用-D1
没有所谓的在多台机器上进行真正的分布式计算,故称为"
伪分布式
"。全分
?? YJ???????
·
2021-01-15 04:44
大数据技术与应用
hadoop
vim
linux
centos
vmware
hadoop 完全分布式部署
一.实验环境准备需要准备四台Linux操作系统的服务器,配置参数最好一样,由于我的虚拟机是之前
伪分布式
部署而来的,因此我的环境都一致,并且每天虚拟机默认都是Hadoop
伪分布式
哟!
cnmeimei
·
2020-12-30 15:15
技术
Windows下使用IDEA搭建Hadoop开发环境的详细方法
笔者鼓弄了两个星期,终于把所有有关hadoop的环境配置好了,一是虚拟机上的完全分布式集群,但是为了平时写代码的方便,则在windows上也配置了hadoop的
伪分布式
集群,同时在IDEA上就可以编写代码
·
2020-12-30 11:39
(第一篇)记一次python分布式web开发(利用docker)
所以打算在虚拟机上利用docker来部署
伪分布式
的系统,方便环境搭建、开发和二次部署。do
落阳
·
2020-12-23 16:00
nginx
docker
flask
web
(第一篇)记一次python分布式web开发(利用docker)
所以打算在虚拟机上利用docker来部署
伪分布式
的系统,方便环境搭建、开发和二次部署。do
落阳
·
2020-12-23 16:21
nginx
docker
flask
web
Hadoop
伪分布式
集群部署
Hadoop单节点集群部署注:新手菜鸟一枚,参照过程中如发现错误,请谅解,如有疑问请留言。【包含内容】HDFS部署YARN部署SparkonYARNHbaseHive一、HDFS部署Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统(HadoopDist
Tyf--
·
2020-12-22 16:04
大数据
Linux运维
大数据
数据库
hadoop
linux
jpsnamenode和不显示_
伪分布式
hadoop启动后jps查不到namenode的解决办法
hadoop启动后jps查不到namenode的解决办法最近由于项目需要开始接触hadoop,在配置
伪分布式
启动后,jps查询进程发现少了namenode,而DataNode却存在.下面是我的core-site.xml
weixin_39663258
·
2020-12-20 16:54
jpsnamenode和不显示
调用MapReduce对文件中各个单词出现的次数进行统计
调用MapReduce对文件中各个单词出现的次数进行统计Hadoop安装环境创建hadoop用户更新apt安装SSH、配置SSH无密码登陆安装Java环境安装Hadoop2运行Hadoop
伪分布式
实例使用
duxial
·
2020-12-18 00:15
大数据
linux
hadoop
Mapreduce程序 统计文件中每个单词出现次数
创建Hadoop账户2.更新apt3.安装vim4.配置SSH、配置SSH无密码登陆三.安装Java环境1.安装JDK2.验证JDK安装情况3.设置JAVA坏境变量四.安装Hadoop五.Hadoop
伪分布式
配置
niels kiki
·
2020-12-17 15:40
Linux
大数据
hadoop
上一页
9
10
11
12
13
14
15
16
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他