E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
habase伪分布式
Win10环境下Hadoop(单节点
伪分布式
)的安装与配置--bug(yarn的8088端口打不开+
一、本文思路【1】、配置java环境–JDK12(Hadoop的底层实现语言是java,hadoop运行需要JDK环境)【2】、安装Hadoop1、解压hadoop2、配置hadoop环境变量3、配置Hadoop文件二、所需下载文件【1】JDK下载地址【2】Hadoop下载地址—推荐binary版本是提前编译好的【3】hadoop在windows上运行需要winutils支持和hadoop.dll
老妹儿的
·
2020-08-21 19:25
windows
hadoop
yarn
ZooKeeper
伪分布式
集群安装及使用
让Hadoop跑在云端系列文章,介绍了如何整合虚拟化和Hadoop,让Hadoop集群跑在VPS虚拟主机上,通过云向用户提供存储和计算的服务。现在硬件越来越便宜,一台非品牌服务器,2颗24核CPU,配48G内存,2T的硬盘,已经降到2万块人民币以下了。这种配置如果简单地放几个web应用,显然是奢侈的浪费。就算是用来实现单节点的hadoop,对计算资源浪费也是非常高的。对于这么高性能的计算机,如何有
Fens
·
2020-08-21 17:26
Hadoop
伪分布式
-----Spark的安装和配置
在前面几章已经搭建好Hadoop环境,本节主要介绍在Hadoop基础上搭建Spark平台1下载所需安装包1)下载spark安装包2)下载Scala安装包,并解压安装包本例以下面版本为例2配置环境变量利用命令sudogedit/etc/profile配置如下环境变量3查看Scala版本4配置Spark将spark-env.sh.template拷贝到spark-env.sh配置如下变量5启动Hado
千语_肉丸子
·
2020-08-21 16:59
分布式
hadoop的部署总共有3种类型
目前大多数公司使用的还是1.x的hadoop,那么散仙今天
伪分布式
的部署,使用的是Apache1.2的hadoop稳定版本,关于2.x的hadoop的部署,散仙会在后面的文章中给出例
tao_wei162
·
2020-08-21 16:47
Apache Hadoop 3.0.0(一、安装)
按照官网教程进行安装过程:本地模式
伪分布式
分布式1、环境在CentOS7上进行安装,本地虚拟机上安装好后,网络环境配置可以参考之前转发的进行配置。2、事
spaceandroid
·
2020-08-21 16:09
hadoop
hadoop3.1.0 HDFS快速搭建
伪分布式
环境
hadoop3.1.0HDFS快速搭建
伪分布式
环境1.环境准备CenntOS7环境JDK1.8-并配置好环境变量下载Hadoop3.1.0二进制包到用户目录下2.安装Hadoop1.解压移动#1.解压tar.gztar-zxvfhadoop
le3t
·
2020-08-21 14:14
超详细的Hadoop3.1.2架构单机、
伪分布式
、完全分布式安装和配置
动手安装是最基础的实践,下面介绍一下单机、
伪分布式
和完全分布式安装与配置、测试过程,供有需要的参考。
caojianhua2018
·
2020-08-21 13:01
hadoop
Hadoop版本升级(2.7.6 => 3.1.2)
自己的主机上的Hadoop版本是2.7.6,是测试用的
伪分布式
Hadoop,在前段时间部署了HiveonSpark,但由于没有做好功课,导致了Hive无法正常启动,原因在于Hive3.x版本不适配Hadoop2
aju1790
·
2020-08-21 13:25
hadoop笔记(一)
伪分布式
环境搭建
早在2015年就买到Hadoop的书了,可是由于各种原因没有细细看过!(ps:就是因为懒)。虽然从事的不是编码工作,但是心中依旧有个写代码的梦想!!最近将这本书拿出来,学习了一下,做个笔记!以方便自己以后复习查看,笔记中有不对地方,也请大家指出,一起讨论,一起进步!!雄起!(1)hadoop基本信息hadoop的基本概念属于老生常谈了,网上百度,各种答案,就不多说了,百度的结果如下:WhatIsA
一般的斑鸠
·
2020-08-21 13:12
《Hadoop》之"踽踽独行"(十)快速搭建一个Hadoop完全分布式集群
截止到今天,我已经在博客中给大家介绍了hadoop的本地模式、
伪分布式
搭建,并且在《Hadoop》之"踽踽独行"(四)中也总结了在CentOS6.5平台上搭建的hadoop2.7.3集群的步骤。
从明老师
·
2020-08-21 13:21
hadoop
大数据
Hadoop 运行wordcount任务卡在job running的一种解决办法
Hadoop运行wordcount任务卡在runnningjob的一种解决办法在使用Mac系统构建本地
伪分布式
hadoop系统,遇到如下问题网上有较多的解决办法,但是均不能解决我的问题,后来经过google
凌月衡
·
2020-08-21 07:50
大数据
Ubuntu16.04下设置静态IP(Nat网络设置)
想在自己的本子上配置Hadoop
伪分布式
,最首要的就是要给系统配置一个静态ip;一开始,我安装网上的步骤进行静态ip,方法如下:autoeth0ifaceeth0inetstaticaddress192.168.8.100netmask255.255.255.0gateway192.168.8.2dns-nameserver119.29.29.29
overad
·
2020-08-21 05:06
Ubuntu16.04搭建hadoop
伪分布式
环境
参考自:https://blog.csdn.net/hliq5399/article/details/78193113原材料:1.Ubuntu16.04操作系统成品(在vmware上安装成功)2.jdk-7u67-linux-x64.tar.gzjdk-7u67-linux-x64.tar.gz下载地址:http://download.oracle.com/otn/java/jdk/7u67-b0
成程晨
·
2020-08-21 05:53
hadoop
hadoop - hadoop2.6
伪分布式
- eclipse 中 配置 和 示例 wordcount
1.配置eclipse1.1下载linux版的eclipse百度云-大数据资料专辑1.2解压可以手动提取,也可以命令提取:yuan@LABELNET:~/JAVA$sudotar-zxvfeclipse.tar.gz~/JAVA/1.3运行yuan@LABELNET:~/Java/eclipse$./eclipse1.4图标我的是deepin15-linux操作系统,创建图标很简单(1)必须在ho
LABLENET
·
2020-08-20 22:44
大数据
HBase的三种操作方式
在《Hadoop2.2.0和HBase0.98.11
伪分布式
》中已经安装好了
伪分布式
的HBase,而且可以启动起来了。
liuyuan185442111
·
2020-08-20 21:16
Old
Hadoop
zookeeper、hadoop、hbase单节点
伪分布式
集群一键部署shell脚本
ardh.1.0安装说明注:脚本tgz包后续上传,欢迎留言与我交流讨论一、使用说明1、脚本内默认安装三款软件:zookeeper-3.4.13、hadoop2.7.3、hbase-1.2.62、脚本经centos6.5、centos7.4/7.5测试安装正常3、服务器需配置正确的hostname(hostname前面不可跟回环地址127.0.0.1)例:[root@SHELL2tgz]#cat/e
王若蠢
·
2020-08-20 19:12
hadoop
shell
zookeeper
hbase
hadoop、hive、sqoop、spark、livy、jdk单节点
伪分布式
集群一键部署shell脚本
ards.1.0安装说明注:脚本tgz包后续上传,欢迎留言与我交流讨论一、使用说明本脚本可实现快速自动安装(hadoop-2.7.3/hive-1.1.0/sqoop-1.4.6/spark-2.3.0/livy/jdk1.8)集群功能,提前阅读以下说明(脚本内亦有提示)有助于您使用此脚本1、脚本经centos6.5、centos7.4/7.5测试安装正常,脚本内输入错误可使用Ctrl+Backs
王若蠢
·
2020-08-20 19:12
外网无法访问HDFS解决方法
文章目录前提症状分析猜测验证前提A云主机是Linux环境,搭建Hadoop
伪分布式
,公网IP:49.4.71.xxx,内网IP:192.168.0.80,主机名:ruixin4。
「已注销」
·
2020-08-20 18:09
Hadoop
第一个hadoop程序(java程序访问hadoop的hdfs文件系统中的文件)
1:hadoop2.7.3环境2:阿里云服务器centos6.5,ip是:47.88.14.1903:hadoop在
伪分布式
下运行的。
mkl34367803
·
2020-08-20 18:29
hadoop
Linux下搭建Hadoop集群/
伪分布式
环境——保姆级教程(CentOS7&Hadoop2.8.5)
我成为今天的我,是在1975年某个阴云密布的寒冷冬日,那年我十二岁。我清楚地记得当时自己趴在一堵坍塌的泥墙后面,窥视着那条小巷,旁边是结冰的小溪。许多年过去了,人们说陈年旧事可以被埋葬,然而我终于明白这是错的,因为往事会自行爬上来——《追风筝的人》KhaledHosseini以下是关于搭建Hadoop集群的实际操作1.安装三台虚拟机并实现ssh免密登录1.1使用VMwareWorkstationp
FRed、
·
2020-08-20 13:40
hadoop
大数据
centos
linux
spark
Spark
伪分布式
集群搭建
软件准备一台Linux虚拟机我用的CentOS-6.6的一个虚拟机,主机名为repo参考在Windows中安装一台Linux虚拟机spark安装包下载地址:https://mirrors.aliyun.com/apache/spark/我用的spark-2.2.0-bin-hadoop2.7.tgz要根据自己机器中的hadoop版本选择对应的spark版本(1)把安装包上传到服务器并解压[root
CoderJed
·
2020-08-20 12:03
HBase的
伪分布式
安装与部署(基于hbase-1.2.6,详细)!!!
文章目录前言:1在Master节点上安装HBase.2在Master节点上配置HBase-env.sh1.修改环境变量hbase-env.sh2.修改配置文件hbase-site.xml3.创建数据目录4.设置regionservers5.设置环境变量。6.配置HMaster的备份。3.将HBase安装文件复制到Slave、Slave2和Slave3节点上4.启动HBase5验证HBase。6.停
忆&往浠℃
·
2020-08-20 07:40
ubuntu下hbase的
伪分布式
安装与配置
1.hadoop版本:hadoop-1.1.1,HBase版本:hbase-0.94.32.到官方网站下载好hbase-0.94.3.tar.gz,解压hbase安装包到一个可用目录如(/home/hadoop/hbase-0.94.3/)root@ubuntu:/home/hadoop#sudotarzxvfhbase-0.94.3.tar.gz设置hbase-0.94.3所在用户为hadoop
weixin_33690367
·
2020-08-20 07:15
hbase
伪分布式
安装(ubuntu)
HBase–HadoopDatabase,是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在廉价PCServer上搭建起大规模结构化存储集群。与FUJITSUCliq等商用大数据产品不同,HBase是GoogleBigtable的开源实现,类似GoogleBigtable利用GFS作为其文件存储系统,HBase利用HadoopHDFS作为其文件存储系统;Google运行
ghost165
·
2020-08-20 06:29
大数据
伪分布式
Hadoop
关于Hadoop基础环境的搭建,在虚拟机中如何安装JDK和Hadoop呢?如何把jdk文件上传到虚拟机中呢?话不多说,先奉上我们要安装的JDK和Hadoop以及WINSCP传输软件提取码:jlto一:安装JDK1、安装WINSCP如果用VM自带的tool工具有可能会引发诸多问题,所以我推荐使用winscp,较为方便快捷。首先安装好winscp,保持虚拟机在开机状态,网络无异常,可以用pingwww
无发可脱丶
·
2020-08-20 06:26
笔记
Hadoop
学习
大数据
hadoop
分布式
linux
Hbase1.2.6
伪分布式
的安装
1下载hbase解压文件,更名为Hbase2配置环境变量exportHBASE_HOME=/home/hadoop1/hbaseexportPATH=&HBASE_HOME/bin:$PATH3配置hbase-env.shPS如果使用的是hbase自带的zookeeper就是true,如果使用安装的zookeeper就是false4配置hbase-site.xmlhbase.rootdir----
CARROTHWQ
·
2020-08-20 05:14
hadoop
学习笔记
CentOS 下HBase1.2.6 单机和
伪分布式
平台搭建
前篇文章搭建了hadoop传送门centos上hadoop2.7.3安装部署单机版hbase1.2.6安装一hbase安装1.下载解压hbase下载解压到/usr/hbase/2.修改环境命令:vi/etc/profile添加exportHBASE_HOME=/usr/hbase/hbase-1.2.6#在path增加:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$HBA
_fighting
·
2020-08-20 05:50
hbase
2.4.1
伪分布式
环境搭建
环境需要:linux系统(当前使用Centos6.5)、jdk、hadoop2.4.1、zookeeper-3.4.6、ssh概念简单介绍NameNodeNamenode管理者文件系统的Namespace。它维护着文件系统树(filesystemtree)以及文件树中所有的文件和文件夹的元数据(metadata)。管理这些信息的文件有两个,分别是Namespace镜像文件(Namespaceima
无名灰衣扫地人
·
2020-08-19 21:49
如何正确的配置hadoop3.0.3
伪分布式
(YARN)
我的系统配置:Ubuntu18.04java:jdk1.8.0(java8)hadoopversion:3.0.3准备工作下载,安装好hadoop。国内的话去镜像源列表找找看http://www.apache.org/mirrors/注意要下载binaryrelease,也就是文件名不带src的给一个华科的镜像地址:http://mirrors.hust.edu.cn/apache/hadoop/
limn2o4
·
2020-08-19 10:31
Hadoop
and
Spark
用 Hadoop 进行分布式并行编程, 第 3 部分
用Hadoop进行分布式并行编程,第1部分:基本概念与安装部署中,介绍了MapReduce计算模型,分布式文件系统HDFS,分布式并行计算等的基本原理,并且详细介绍了如何安装Hadoop,如何在单机及
伪分布式
环境
kylt
·
2020-08-19 10:17
分布式
安装配置hadoop,搭建hadoop集群,搭建
伪分布式
详细步骤
hadoop搭建集群1.生成密钥对(NameNode和DataNode都需要)[root@sql~]#ssh-keygen-trsa-P''2.查看密钥对[root@gg1~]#cd.ssh/[
[email protected]
]#lsid_rsaid_rsa.pub3.删除DataNode的密钥对,NameNode的不可以删!!![
[email protected]
]#rm-rfid_rsa.pub[root@gg
操作工小刚
·
2020-08-19 10:23
hadoop
mapreduce原理--
伪分布式
hadoop的配置
几个重要的流程理解:1.HDFS的读写流程2.NameNode启动流程3.YARN的架构4.MapReduce的计算流程输入—map()–shuffle–reduce()—输出map()方法的输出:context.write(key,value)key:1reduce()方法的输入:key{1,1,1}shuffle两个阶段:map()方法结束第一阶段:mapshuffle第二阶段:reduces
fangtaoma
·
2020-08-19 09:15
大数据
mapreduce
hadoop
分布式
架构
伪分布式
Hadoop完全分布模式配置详解
伪分布式
模式:Hadoop可以在单节点上以所谓的
伪分布式
模式运行,此时每一个Hadoop守护进程都作为一个独立的Java进程运行。完全分布式模式:在集群中所有机器节点上安装必须软件。
竹林风
·
2020-08-19 09:31
hadoop
Hadoop2.2.0
伪分布式
环境搭建(附:64位下编译Hadoop-2.2.0过程)
Hadoop2.2.0
伪分布式
环境搭建:写在前面:Hadoop2.2.0默认是支持32位的OS,如果想要在64位OS下运行的话,可以通过在64位OS下面编译Hadoop2.2.0来实现,编译的操作步骤在最后面呈现
圆圆一直在修炼
·
2020-08-19 09:00
Java
hadoop
Spark的
伪分布式
与完全分布式
伪分布式
配置spark-env.sh配置slaves配置如下网页查看http://bigdata121:8080/结果如下spark的bin目录下.
JasonAndChen
·
2020-08-19 08:02
Spark
Hadoop 3.1.3 本地、伪分布、完全分布环境搭建 学习笔记
hadoop的优势一、Hadoop组成(重点)ModulesHDFS架构YARN架构MapReduce架构大数据生态体系二、Hadoop运行环境搭建(开发重点)虚拟机环境准备安装JDK安装Hadoop
伪分布式
启动
VanasWang
·
2020-08-19 08:45
Hadoop
大数据学习3-Hadoop
伪分布式
搭建和使用
伪分布式
:就是假的分布式。
风吹海洋浪
·
2020-08-19 08:00
大数据
Hadoop
伪分布式
搭建(超详细)
Hadoop
伪分布式
搭建虚拟机准备阶段操作安全设置防火墙相关指令关闭关闭selinuxIP设置查看机器IP修改主机名修改IP及主机名映射SSH免密登陆Hadoop
伪分布式
搭建JDK配置解压配置环境变量Hadoop
为了抽短袖
·
2020-08-19 08:28
Hadoop
大数据
Hadoop
伪分布式
配置流程
配置环境在Ubuntu下,使用jdk8+Hadoop2.8.5。在配置的过程中出现了各种各样的错误,最终解决了。过程如下:1,安装JavaJDK$java出现相应的jdk版本default-JavaJava-openjdk8-healess等等。$sudoapt-getinstall[版本]2.配置环境变量sudogedit/etc/profile输入以下内容:验证jdk是否成功Java-vers
yll1ang
·
2020-08-19 07:52
Hadoop学习
Hadoop3.1
伪分布式
搭建全过程
一、环境系统介绍:LinuxCentOS7+Hadoop3.1+jdk1.8(我的虚拟机里面先前有jdk1.7所以先要将jdk1.7卸载然后再安装jdk1.8)资料下载:https://pan.baidu.com/s/1DGVbuIbZ_Vtl2dfZRJ0Slg(百度网盘)提取密码:ayp6二、环境搭建:1、IP地址用主机名确定#hostname查看主机名我的是Node01(这里的主机名并没有与
Mirs@Wang
·
2020-08-19 07:07
大数据技术实操
hadoop
伪分布式
安装流程
1.解压JDK1.82.解压Hadoop2.6.0CDH5.15.13.配置JDK环境变量4.配置Hadoop环境变量5.修改配置文件1)/etc/hadoop/hadoop-env.sh保证Java环境变量正确2)/etc/hadoop/core-site.xml加入属性fs.default.namehdfs://hadoop000:80203)hdfs-site加入属性dfs.namenode
weixin_30374009
·
2020-08-19 07:55
Hadoop2.2.0
伪分布式
之MapReduce简介
一概念、mapReduce是分布式计算模型。注:在hadoop2.x中MapReduce运行在yarn上,yarn支持多种运算模型。storm、spark等等,任何运行在JVM上的程序都可以运行在yarn上(我想这是因为它使用的是Container技术,且真正发挥了Container技术相对于Hyperviser(KVM、XEN)虚拟化的优势).MR有两个阶段组成,Map和Reduce,用户只需要
雨钓Moowei
·
2020-08-19 07:15
Hadoop
大数据简介&hadoop简介和
伪分布式
、完全分布...
二:大数据简介数据(data)是事实或观察的结果,是对客观事物的逻辑归纳,是用于表示客观事物的未经加工的的原始素材。数据可以是连续的值,比如声音、图像,称为模拟数据。也可以是离散的,如符号、文字,称为数字数据。数据的分类从结构上可以分为-结构化数据:如:二维表-半结构化数据:如:xml、html、css-非结构数据:如:图片、音频、视频等数据的来源企业自己的业务数据网上爬虫爬来的数据从第三方处买数
码农的世界,你不懂
·
2020-08-19 07:35
Hadoop
伪分布式
搭建
Hadoop
伪分布式
搭建1、把hadoop-2.6.4.tar.gz移动到/usr/local目录下2、使用命令tar-zxvfhadoop-2.6.4.tar.gz解压缩3、编辑/etc/profile
一个谦虚的青年
·
2020-08-19 07:50
Hadoop
集群、分布式、集中式、
伪分布式
的概念与区别
1.集中式将项目等部署到同一台机器上,对机器性能要求比较高,一般会用多台机器备份,否则,如果机器出现死机等状况,整个项目将不能运行。eg:就好比你要盖一座房子,你房子就给一个人盖,如果这个人生病或者有事,你还没有合适的人来代替这个人,你的房子就不能盖了。2.分布式将一个项目分成几块,分别在不同的机器上运行,想比较与集中式,对机器要求有所下降。3.集群与集中式、分布式是完全不同的概念。分布式一定是集
亮大兵
·
2020-08-19 07:46
hadoop
伪分布式
搭建01
1.准备Linux环境1.0点击VMware快捷方式,右键打开文件所在位置->双击vmnetcfg.exe->VMnet1host-only->修改subnetip设置网段:192.168.1.0子网掩码:255.255.255.0->apply->ok回到windows-->打开网络和共享中心->更改适配器设置->右键VMnet1->属性->双击IPv4->设置windows的IP:192.16
李孟lm
·
2020-08-19 07:19
hadoop
hadoop
2018-05-17 Morning Study — Day012
3.hdfs
伪分布式
部署时我们需要配置当前用户对当前机器的无密码信任关系,那么你们会配置吗?root和其他用户有什么区别?知道在哪找吗?4.xml配置文件官网怎么找,会不?
LY_babc
·
2020-08-19 06:43
大数据Hadoop入门,Hadoop安装与配置,HDFS
伪分布式
部署(一)
一、概述(部署请跳到第二节)1.大数据的由来随着计算机技术的发展,互联网的普及,信息的积累已经到了一个非常庞大的地步,信息的增长也在不断的加快,随着互联网,物联网建设的加快,信息更是爆炸式增长,收集检索,统计这些信息越发困难,传统的数据库结构难以应对这种变化,必须使用新的技术来解决这些问题2.什么是大数据-大数据指无法在一定时间范围内用常规工具进行捕捉,管理和处理的数据集合-大数据需要新处理模式才
JJH的创世纪
·
2020-08-19 06:38
Ubuntu17安装
伪分布式
Hadoop出现的问题与解决方法
由于自己第一次在Linux环境下安装Hadoop,所有安装方法均参照同行写的技术博客。1安装ssh,pdsh,生成密钥实现无密码登陆官方文档推荐安装ssh和pdsh,则参照官方文档安装两者并生成密钥:http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-common/SingleCluster.html#Pseudo-Di
岚匀
·
2020-08-19 06:06
hadoop
hadoop
伪分布式
配置的全部流程!!!,记录下第一篇博客
准备工作1,准备虚拟机,我准备的centOS6.5(可能有点老)!!2,所需软件OracleVMVirtualBox,FZ,Xshell**3,环境,我搞得jdk1.7/hadoop2.6.5**配置ssh免密修改vm网络配置查看linuxIP地址修改ip地址1,命令:sudovi/etc/sysconfig/network-scripts/ifcfg-eth0这是6.5的命令!!生效ip重启虚拟
我的代码没错
·
2020-08-19 06:30
hadoop配置全流程!!
hadoop
zookeeper
hive
上一页
13
14
15
16
17
18
19
20
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他