E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
habase伪分布式
Hadoop2.7.3环境搭建之
伪分布式
目录实验环境实验目录准备工作安装步骤jdk安装安装hadoop
伪分布式
配置实验环境Windows10+Centos7+Linux+Mobaxterm实验目录准备工作实验步骤准备工作jdk-8u171-linux-x64
Acolasiajialifen
·
2021-12-06 17:53
分布式
hadoop
linux
后端
Hadoop完全分布式安装部署
Hadoop运行模式包括:本地模式、
伪分布式
模式以及完全分布式模式。
·
2021-12-06 11:02
hadoop
六、Java API操作zookeeper节点
目录前文pom.xml文件增加依赖新建java文件:ZookeeperTestGitHub文件下载前文一、CentOS7hadoop3.3.1安装(单机分布式、
伪分布式
、分布式二、JAVAAPI实现HDFS
李好秀
·
2021-11-22 01:00
二、JAVA API实现HDFS
HDFS上传下载文件windows环境下需要使用uitls.exe为pom.xml增加依赖新建java文件HDFS_CRUDGitHub下载地址前文一、CentOS7hadoop3.3.1安装(单机分布式、
伪分布式
李好秀
·
2021-11-22 00:00
五、Zookeeper的Shell操作
前文一、CentOS7hadoop3.3.1安装(单机分布式、
伪分布式
、分布式二、JAVAAPI实现HDFS三、MapReduce编程实例四、Zookeeper3.7安装Zookeeper的Shell操作
李好秀
·
2021-11-21 22:00
四、Zookeeper3.7安装
前文一、CentOS7hadoop3.3.1安装(单机分布式、
伪分布式
、分布式二、JAVAAPI实现HDFS三、MapReduce编程实例Zookeeper安装@目录前文Zookeeper安装前言下载[
李好秀
·
2021-11-13 22:00
三、MapReduce编程实例
前文一、CentOS7hadoop3.3.1安装(单机分布式、
伪分布式
、分布式二、JAVAAPI实现HDFSMapReduce编程实例@目录前文MapReduce编程实例前言注意事项单词统计WordCountMapReduce
李好秀
·
2021-11-13 22:00
CentOS7 hadoop3.3.1安装(单机分布式、
伪分布式
、分布式)
目录前言预先设置修改主机名关闭防火墙创建hadoop用户SSH安装免密登陆单机免密登陆——linux配置ssh免密登录linux环境配置Java变量配置Java环境变量安装Hadoop-3.3.0.tar.gz运行单机非分布式
伪分布式
李好秀
·
2021-11-13 22:00
【填坑之旅-hadoop】centos7安装hadoop2.10.1 hive 1.2.2 / hdfs 文件上传写入流程 / MapReduce Yarn 流程/zookeeper/hive
第一天hadoop的基本概念
伪分布式
hadoop集群安装hdfsmapreduce演示第二天hdfs的原理和使用操作、编程第三天mapreduce的原理和编程第四天常见mr算法实现和shuffle的机制第五天
alwarse
·
2021-10-22 11:24
大数据hadoop-填坑
hadoop
hdfs
mapreduce
Hadoop系列 (七):ZooKeeper详细介绍
工作流程Follower工作流程应用场景统一命名服务统一配置管理统一集群管理负载均衡ZooKeeper搭建单点模式集群模式Hadoop系列文章Hadoop系列(一):在CentOS中搭建hadoop环境(
伪分布式
EricRae
·
2021-10-18 16:07
#
hadoop
hadoop
zookeeper
big
data
HDFS编程实践(Hadoop3.3.1)
我们是在Hadoop
伪分布式
下去进行HDFS的编程实践准备工作:vm15.5hadoop3.3.1eclipse-java-2021-09-R-linux-gtk-x86_64参考:林子雨:HDFS编程实践
阿洋太爱大数据
·
2021-10-08 20:20
hadoop
linux
大数据
hdfs
eclipse
Hadoop安装搭建
伪分布式
教程(全面)吐血整理
Hadoop安装搭建
伪分布式
教程(全面)吐血整理1、安装下载虚拟机VMware2、下载Ubuntu18.04镜像文件,并在VMware中添加虚拟机。
剁椒沙丁鱼
·
2021-09-23 21:05
hadoop
ubuntu
java
linux
IDEA 运行 WordCount 程序
1.写在前面目标使用IDEA向虚拟机中的Hadoop
伪分布式
集群提交任务,运行MapReduce官方示例WordCountV1.0。
·
2021-07-27 19:13
Spark安装,
伪分布式
环境的搭建与样例程序的测试
1.将Spark的安装包上传到服务器,解压,配置环境安装包地址:链接:https://pan.baidu.com/s/1IyGq3uYU2Yyp5KEfhaHKbw提取码:6zt9解压:tar-zxcfspark-2.1.0-bin-hadoop2.7.tgz-C/opt/module/spark-2.1.0-bin-hadoop2.7配置环境:[root@bigdata111conf]#cpsp
初之寒夏_末之凉秋
·
2021-06-27 20:46
Hadoop 学习系列(一)之Hadoop
伪分布式
环境搭建
原文地址:http://pengtuo.tech/2018/09/04/hadoop-pseudo-distributed/以这篇文章开启大数据开发系列教程更新,本人也是努力学习中1.环境要求首先Java版本不低于Hadoop相应版本要求,一般的,Hadoop大版本号在2.6以前的支持Java6,Hadoop大版本号在2.7~3.0之间的支持Java7,Hadoop版本在3.0之后的支持Java8
PeTu
·
2021-06-27 10:06
在Ubuntu下安装和搭建Hadoop环境(
伪分布式
环境)
最近在学习Hadoop,原本是在win10系统下装个虚拟机,在虚拟机上装的是CentOS操作系统,在该虚拟机上搭建好Hadoop环境之后,在学习WordCount的案例时,发现系统太慢了,还老是卡机,最后果断放弃使用虚拟机,转而使用Ubuntu操作系统(我的笔记本装了双系统:win10和Ubuntu16.04.5)。备注:1)、Hadoop版本选择Hadoop目前有三个版本,分别为:apacheh
初晴H
·
2021-06-26 01:57
【Mac大数据开发】第五篇-分布式集群和免密登陆
1.集群配置此前使用的是
伪分布式
的单机模式,本篇使用分布式的集群配置。
irving_yuan
·
2021-06-25 23:29
20190627-hadoop完全分布式环境搭建
本文搭建了一个由三节点(master、slave1、slave2)构成的Hadoop完全分布式集群(区别单节点
伪分布式
集群),并通过Hadoop分布式计算的一个示例测试集群的正确性。
陈海军_cad0
·
2021-06-25 08:39
【Mac大数据开发】第四篇-Hadoop安装和配置(
伪分布式
集群)
1.Hadoop的安装下载Hadoop安装包,通过scp(或其他指令方式)发送到虚拟机上,并进行解压安装。修改环境变量vi/etc/profileexportJAVA_HOME="/opt/jdk1.8.0_211"exportHADOOP_HOME="/opt/hadoop-2.8.4"#hadoop安装目录exportPATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME
irving_yuan
·
2021-06-25 04:58
ZooKeeper的
伪分布式
集群搭建以及真分布式集群搭建
zk集群的一些基本概念zookeeper集群搭建:zk集群,主从节点,心跳机制(选举模式)配置数据文件myid1/2/3对应server.1/2/3通过zkCli.sh-server[ip]:[port]命令检测集群是否配置成功和其他大多数集群结构一样,zookeeper集群也是主从结构。搭建集群时,机器数量最低也是三台,因为小于三台就无法进行选举。选举就是当集群中的master节点挂掉之后,剩余
端碗吹水
·
2021-06-21 16:31
Hadoop
伪分布式
安装配置
1、配置主机名vim/etc/sysconfig/networkHOSTNAME=CH0hostnameCH02、配置hosts文件vim/etc/hosts127.0.0.1localhost::1localhost192.168.6.20CH03、配置免密码登录ssh-keygenssh-copy-idroot@CH14、下载hadoophttp://hadoop.apache.org/rel
御林君
·
2021-06-21 11:50
hadoop的搭建笔记2-完全分布式搭建
每台机器都搭配一个作为数据存储,一个数据分析领导者:一号机分配namenode二号机resourcemanager三号机secondarymanager一号机多一个historyserver规划好以后就开始搭建,不在之前的
伪分布式
里面进行了
一花一叶异世界
·
2021-06-19 10:40
IDEA 运行 WordCount 程序
1.写在前面目标使用IDEA向虚拟机中的Hadoop
伪分布式
集群提交任务,运行MapReduce官方示例WordCountV1.0。
·
2021-06-18 21:11
Kafka单节点
伪分布式
集群搭建实现过程详解
Kafka集群搭建分为单节点的
伪分布式
集群和多节点的分布式集群两种,首先来看一下单节点
伪分布式
集群安装。
·
2021-06-16 10:32
ElasticSearch 6.3.0
伪分布式
部署
下载下载地址:https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.3.0.zip单实例部署解压elasticsearch-6.3.0.zip到任意文件夹,比如elasticsearch-6.3.0,双击bin/elasticsearch.bat文件运行,启动没有报错,并且命令行窗口持续打开即为启动成功.启动成功后
remainer
·
2021-06-15 17:16
HDFS Hadoop
伪分布式
部署
1.上传并解压tar包[root@hadoop000software]#rz#上传hadoop-2.8.1.tar.gz[root@hadoop000software]#tar-xzvfhadoop-2.8.1.tar.gz2.配置环境变量[root@hadoop000software]#vi/etc/profileexportHADOOP_HOME=/opt/software/hadoop-2.
三旬爱生活
·
2021-06-12 23:10
zookeeper
1.1zookeeper特点1.2数据结构1.3应用场景1.4下载地址2zookeeper安装2.1安装部署2.2配置参数解读3zookeeper内部原理3.1选举机制3.2节点类型4zookeeper实战(重点)4.1
伪分布式
集群
丶落幕
·
2021-06-11 21:04
eclipse搭建hadoop开发环境
1.windows下载hadoop版本并解压注意下载hadoop的版本与
伪分布式
的hadoop版本一致,配置HADOOP_HOME环境变量为hadoop的安装目录,并配置path环境变量,配置完成后,运行
梦的飞翔_862e
·
2021-06-08 22:26
hadoop视频教程培训 hadoop最新实战教程 Hadoop新手速成培训全套完整视频教程
视频下载地址:http://demo.liuy88.cn/jp0706.html-------------------课程目录-------------------第一天hadoop的基本概念
伪分布式
hadoop
单独行走的猪
·
2021-06-08 19:07
【Hadoop】Hadoop 3.2.1 真
伪分布式
搭建
本人目前也是在学习阶段,如在文章中有不对的地方欢迎指正~OK,正篇开始~Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统(HadoopDistributedFileSystem),简称HDFS。HDFS有高容错性的特点,并且设计用来部署在低廉的(low
Catke
·
2021-06-08 18:29
Hadoop的安装
1.Hadoop介绍与
伪分布式
安装1.1什么是Hadoop从狭义上讲Hadoop是一个可拓展的分布式的开源的软件。主要提供分布式存储、分布式资源调度、分布式计算。广义上讲,Hadoop是一个生态。
一笑何方
·
2021-05-24 21:45
大数据
2021年大数据Hadoop(六):全网最详细的Hadoop集群搭建
目录Hadoop集群搭建集群简介集群部署方式1、Standalonemode(独立模式)2、Pseudo-Distributedmode(
伪分布式
模式)3、Clustermode(群集模式)-单节点模式
Lansonli
·
2021-05-24 00:31
#
Hadoop
Hadoop集群搭建
大数据之shell脚本配置
伪分布式
Hadoop
shell脚本配置
伪分布式
Hadoop一hadoop安装install_hadoop.sh##!/bin/bash##安装jdk.
Mr.zhou_Zxy
·
2021-05-22 11:44
大数据
Hadoop
hadoop
分布式
大数据之安装Hadoop—科多大数据
伪分布式
:一台的主机,但该主机上有会有文件系统-hadoop的文件系统。全分布式:多台主机,搭建集群的方式进行文件存储(有一个大型的文件系统)。
大数据在说话
·
2021-05-21 10:16
解决zeppelin spark 读取文件 报hadoop连接错误
//Users/muller/Desktop/people.json")对不起,是要报错的,如果本地没有安装hadoop的话,报连接被拒绝image.png这个由于本机已经安装了Hadoop,使用的是
伪分布式
模式
Helen_Cat
·
2021-05-21 04:50
Spark环境搭建、运行模式、RDD简单操作
安装一个简单的
伪分布式
Spark集群及RDD简单操作文章目录实验环境实验原理安装配置环境监控安装前的环境准备关闭spark服务解压Scala安装包配置环境变量解压Spark安装包,添加配置解压Spark
北山啦
·
2021-05-18 11:08
big
data
大数据
hadoop
分布式
Hbase
伪分布式
集群搭建
环境准备一台Linux虚拟机我用的CentOS-6.6的一个虚拟机,主机名为repo参考在Windows中安装一台Linux虚拟机hbase安装包下载地址:https://mirrors.aliyun.com/apache/hbase/我用的hbase-1.2.61.把hbase安装包上传到服务器并解压[root@repo~]#tar-zxvfhbase-1.2.6-bin.tar.gz-C/op
CoderJed
·
2021-05-17 15:46
hadoop
伪分布式
环境搭建
所谓
伪分布式
环境是指在一台电脑上搭建分布式。分布式,见名知义,一定是分布在多台电脑上的,为了学习技术,只在一台电脑上搭建起来的就是
伪分布式
。
Jason_M_Ho
·
2021-05-17 06:19
在centos7虚拟机上搭建
伪分布式
hadoop
学习hadoop搭建开发环境篇1,安装jdk1.8由于Hadoop是java写的,依赖java环境,搭建hadoop开发环境之前,需要安装jdk。版本选择:hadoop2.9.0,jdk:1.8网上有很多centos系统安装jdk的方法,这里我选择最简单的yum安装安装之前先检查一下系统有没有自带open-jdk命令:rpm-qa|grepjavarpm-qa|grepjdkrpm-qa|grep
风逐叶
·
2021-05-17 04:38
Mac OS X上搭建
伪分布式
CDH版本Hadoop开发环境
最近在研究数据挖掘相关的东西,在本地Mac环境搭建了一套
伪分布式
的hadoop开发环境,采用CDH发行版本,省时省心。
Edward_Koios
·
2021-05-16 10:07
(三)Hadoop2.6.5 全分布式搭建
首先需要准备四台Linux虚拟机,搭建步骤与
伪分布式
基本一致,同样部分不再详细描述。
yc_yz
·
2021-05-15 14:51
Hive环境搭建
hadoop各个节点角色定义master和slavenamenode和datanode:namenode目录管理者从mapreduce的角度划分hadoop安装部署三种运行模式:单机模式伪分布模式完全分布模式
伪分布式
安装下载
孙宏志
·
2021-05-09 17:45
hadoop
伪分布式
搭建
1、下载hadoop下载页面(根据需求版本下载即可)2、解压#tar-xzvfhadoop-2.8.1.tar.gz3、配置环境变量#vi/etc/profileexportHADOOP_HOME=/opt/software/hadoop-2.8.1exportPATH=$HADOOP_HOME/bin:$FINDBUGS_HOME/bin:$PROTOC_HOME/bin:$MAVEN_HOME
刘子栋
·
2021-05-08 02:09
MapReduce实战-词频统计、文件合并排序
文章目录环境搭建词频统计输入源码输出合并输入源码输出排序输入源码输出环境搭建hadoop
伪分布式
集群环境,包括设置JAVA_HOME、HADOOP_HOME等。
唔仄lo咚锵
·
2021-05-05 17:10
大数据
Linux
hadoop
大数据
mapreduce
hdfs
linux
Hadoop单节点安装(2)
伪分布式
模式
实验前提:保证sshlocalhost不需要输入密码切换工作目录[
[email protected]
]#pwd/usr/hadoop/hadoop-2.7.4etc/hadoop/core-site.xml:fs.defaultFShdfs://localhost:9000etc/hadoop/hdfs-site.xml:dfs.replication1格式化文件系统[root@had
tonyemail_st
·
2021-05-05 05:02
hadoop笔记7--HBase
伪分布式
安装与基本运用
在这里,与前面Hadoop相同,由于设备受限,HBase我还是进行的
伪分布式
的安装。虽然是
伪分布式
的,但在使用上还是差不多。
七号萝卜
·
2021-05-05 03:33
大数据||hadoop分布式集群安装
集群前先计划虚拟机,看文章大数据||Hadoop分布式部署虚拟机基于
伪分布式
环境安装进行展开规划机器与服务(★★★★☆)HDFS文件系统YARN“云操作系统”JobHistoryServer历史服务监控修改配置文件
明明德撩码
·
2021-05-03 20:06
redis
伪分布式
集群搭建
搭建
伪分布式
,需要6个redis实例(生产环境搭建只需改下IP地址即可,步骤相似)。
丶巴比伦
·
2021-05-03 07:22
hadoop
伪分布式
安装
一、配置Java环境,推荐使用jdk1.7以上。1、下载安装jdk包并解压tar-zxvfjdk-8u161-linux-x64.tar.gz2、移动jdk并重命名sudomvjdk-8u161-linux-x64.tar.gz/usr/app/jdk3、配置系统变量,编辑.bashrc文件exportJAVA_HOME=/usr/app/jdkexportCLASSPATH=.:$JAVA_HO
Always_6778
·
2021-05-02 11:06
Hadoop
伪分布式
部署(HDFS)
环境要求:java、ssh1.上传并解压tar包[root@hadoop000software]#rz#上传hadoop-2.8.1.tar.gz[root@hadoop000software]#tar-xzvfhadoop-2.8.1.tar.gz2.配置环境变量[root@hadoop000software]#vi/etc/profileexportHADOOP_HOME=/opt/softw
K_un
·
2021-04-30 22:49
上一页
8
9
10
11
12
13
14
15
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他