E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
伪分布式
深入kafka(二).单机与
伪分布式
配置实战
1.下载安装到https://www.apache.org上下载wgethttp://apache.fayea.com/kafka/0.10.0.0/kafka_2.11-0.10.0.0.tgz安装:拷贝到用户目录cpkafka_2.11-0.10.0.0.tgz/usr/local解压:tar-zxvfkafka_2.11-0.10.0.0.tgz重命名:mvkafka_2.11-0.10.0
shunyang
·
2020-07-28 04:16
基于阿里云服务器,一步步详解部署Hadoop2.8.5
伪分布式
并进行配置及原理解释,命令+图解!!!极其详细!!!
原创声明:近期发现在关键字搜索我的文章时,发现很多文章被其他网站直接一字不落的拿去。在这里我先谢谢大家对我写的内容的肯定,我也会继续努力。但是,很多网站连标明都未标明来源,这就让人很可气,毕竟每一篇文章都是我一个字一个字敲出来的。我也不是在抱怨什么,只是希望那些某些站长在“转载”他人文章时标明来源,注明作者。不要只是简单的一个来源互联网。万分感谢。此外,本站文章如未标注文章来源,则均为作者原创,请
吃土少年8
·
2020-07-28 00:54
大学
使用Eclipse插件连接配置Mapreduce说明与教程(hadoop-eclipse-plugin 2.6)
1.前言网上的很多教程都是基于hadoop单机或者是
伪分布式
的,在HA集群的hadoop是有些不一样的;所以写个hadoop-eclipse-plugin连接HAhadoop集群的说明;2.查看hadoop
且_听_风_吟
·
2020-07-27 23:24
hadoop相关
IDEA+SPARK 本地
伪分布式
开发日志调测
IDEA+SPARK本地
伪分布式
开发日志调测:要在windows本地IDEA环境中
伪分布式
开发spark程序,观察spark框架运行的日志。
段智华
·
2020-07-27 21:00
SparkInBeiJing
伪分布式
运行Hadoop实例之HDFS运行MapReduce程序
一、前期准备准备一台客户机安装jdk配置环境变量安装Hadoop配置环境变量二、配置集群配置hadoop-env.sh文件cd/opt/module/hadoop-2.7.2/etc/hadoopvimhadoop-env.sh配置core-site.xml这个文件也在hadoop目录下fs.defaultFShdfs://hadoop101:8020配置hdfs-site.xmldfs.repl
KevinWDong
·
2020-07-27 20:18
hadoop
三 Hadoop运行模式之本地运行模式和
伪分布式
模式
文章目录1本地运行模式1.1官方Grep案例1.2官方WordCount案例2
伪分布式
模式2.1启动HDFS并运行MapReduce程序2.1.1分析2.1.2执行步骤2.2启动YARN并运行MapReduce
andyonlines
·
2020-07-27 19:04
#
数据技术之Hadoop
Hadoop运行模式 之
伪分布式
运行模式
什么是
伪分布式
模式?它与本地运行模式以及完全分布式模式有什么区别?
伪分布式
的配置信息,完全是按照完全分布式的模式去搭建的,但是它只有一台服务器,可以用于学习和测试,真正的开发中不可以使用。
__zzz__
·
2020-07-27 15:53
大数据技术
hadoop-2.0.0-cdh4.7.0
伪分布式
安装,mapreduce例子执行
centOS6.5下搭建成功Hadoop
伪分布式
环境jdk和hadoop安装包,可以到我的百度云盘下载(http://pan.baidu.com/s/1bn9zkZX)操作系统:centos6.5JDK
老李家的小二
·
2020-07-27 12:52
CentOS
Java
Hadoop
三、Hadoop运行模式(本地模式、伪分布模式)
上篇博客介绍了Linux下搭建Hadoop运行环境,本篇主要介绍Hadoop的本地运行模式和
伪分布式
模式,关注专栏《fromzerotohero(Hadoop篇)》查看相关系列的文章~目录一、本地模式1.1
象在舞
·
2020-07-27 11:52
from
zero
to
hero(Hadoop篇)
Hadoop
hadoop
大数据
四、Hadoop的运行模式(完全分布式)
上篇博客介绍了Hadoop的本地模式和
伪分布式
,本篇主要介绍Hadoop的完全分布式,关注专栏《fromzerotohero(Hadoop篇)》查看相关系列的文章~目录一、分发命令以及分发脚本1.1scp
象在舞
·
2020-07-27 11:52
from
zero
to
hero(Hadoop篇)
Hadoop
hadoop
分布式
大数据
五、Hadoop核心组件之HDFS
上篇博客介绍了Hadoop的本地模式和
伪分布式
,本篇主要介绍Hadoop的核心组件HDFS,关注专栏《fromzerotohero(Hadoop篇)》查看相关系列的文章~目录一、HDFS的产生背景二、HDFS
象在舞
·
2020-07-27 10:57
from
zero
to
hero(Hadoop篇)
hadoop
hdfs
hadoop环境部署自动化shell脚本(
伪分布式
、完全分布式集群搭建)
本文旨在提供一个hadoop环境部署shell,脚本帮助读者更快速地搭建用于学习和开发的hadoop环境,节省大数据技术入门的时间成本。重要说明:本脚本基于博客使用Shell脚本一键部署Hadoop的内容完善安装功能,感谢原作者的无私奉献!本脚本在原脚本的基础上优化和补充跨主机执行安装脚本等功能,使得安装过程更加自动化。本人也按照这种思路制作了Spark和Flink的分布式集群安装脚本,如各位读者
Ted丶
·
2020-07-25 01:38
shell脚本
自动化部署
hadoop完全分布式集群
大数据
hadoop
脚本语言
Hadoop环境搭建
更改主机名hostnamectlset-hostnamemaster配置host192.168.1.88master配置主机名与ip的映射关系hadoop
伪分布式
安装软件安装目录:/usr/local/
这最后微笑是美丽
·
2020-07-16 05:22
【Hadoop踩雷】无法上传文件?有办法!
我就准备试试
伪分布式
了!!结果??!啊哈?!?!
张照博
·
2020-07-16 05:28
zookeeper下载安装及配置解析
目录一、官网下载:二、安装配置本地模式安装(单机测试)三、zoo.cfg配置参数介绍四、真分布式配置五、
伪分布式
配置一、官网下载:https://zookeeper.apache.org/点击Download
少年做自己的英雄
·
2020-07-16 05:49
Linux
大数据
最新版hadoop2.7.1单机版与
伪分布式
安装配置
前提:熟悉Linux系统操作,掌握基本的Linux命令注意:安装路径中不能有任何中文字符和空格!我安装的是ubuntu14,用户名是ubuntu,机器名是ubuntu,hadoop的版本是hadoop-2.7.1.tar.gz一、在Ubuntu下创建hadoop用户组和用户1、将hadoop用户添加到系统用户ubuntu@ubuntu:~$sudoaddgrouphadoopubuntu@ubun
我爱棒棒糖
·
2020-07-16 05:04
大数据
CentOS7+Hapdoop2.8+spark2.1完全分布式平台的搭建经历
伪分布是指一台物理主机中有多台虚拟机,这些虚拟机搭建的平台就是
伪分布式
平台。2、关于平台版本选择:尽量选择成熟的版本,不要太旧也不要选择最新版本的。
PsG庞士冠
·
2020-07-16 04:56
数据挖掘
spark
1-Hadoop环境配置
配置配置时间2015年5月5日操作系统Mint-16,64bitHadoop版本2.2.0安装模式单机
伪分布式
步骤安装JAVA下载安装JAVA——Open-JDK1.764bit设置环境变量使用java-version
一只小青鸟
·
2020-07-16 01:49
运行hive,报错,解决经历
今天运行hive,因为hadoop原来为分布式,然后改成
伪分布式
后,运行hive报错初步判断是由于HA节点中处于standby状态造成的异常OperationcategoryREADisnotsupportedinstatestandby
超超超超子
·
2020-07-15 23:15
java
Hadoop
伪分布式
搭建启动测试
ssh免密钥(本机)ssh-keygen-tdsa-P''-f~/.ssh/id_dsacat~/.ssh/id_dsa.pub>>~/.ssh/authorized_keysJAVA_HOMEJAVA_HOME=/opt/modules/jdk1.7.0_79exportPATH=$PATH:$JAVA_HOME/bincore-site.xml fs.defaultFS hdf
宇直豪
·
2020-07-15 17:17
大数据
kafka下载安装配置
目录一、官网下载二、安装配置本地安装配置(单机模式)
伪分布式
模式真分布式模式安装过程遇到问题及解决办法一、官网下载官网地址:http://kafka.apache.org/下载非src版(src版为源码
少年做自己的英雄
·
2020-07-15 14:02
中间件
消息队列
MQ
kafka
异步
hadoop的安装与配置(
伪分布式
模式安装)
最近偶然在研究hadoop看完网络上的配置文章居然在linux下安装成功的hadoop就把别人的文章进行说明一下,提供给需要的读者。hadoop的安装分为本地模式、伪分布模式、集群模式。本地模式是运行在本地,只负责存储,没有计算功能,不讲述。伪分布模式是在一台机器上模拟分布式部署,方便学习和调试。集群模式是在多个机器上配置hadoop,是真正的“分布式”。本文章讲述伪分布模式。解压缩hadoop使
Garry1115
·
2020-07-15 13:06
hadoop
linux
大数据离线处理
hadoop单机版配置
hadoop单机版配置必要前置软件安装HADOOP纯单机版和
伪分布式
必要前置软件首先是jdk,因为hadoop是基于java编写的。
强瞿望羲
·
2020-07-15 12:26
Hadoop大数据实验
原因是我按照书上的操作手册,少了-d/home/user这一句(PPT中有)2.我安装的是1.2.1版本,最新版为2.6.0,如果用最新版安装端口会有所变化,比如50030变成了80803.对于单机和
伪分布式
的区别
yueshuangfei
·
2020-07-15 11:46
Hadoop
hadoop
搭建hadoop平台时遇到的问题及解决方法
笔者最近在搭建
伪分布式
hadoop平台的时候,遇到了一些问题,在解决了这些问题之后就将问题及解决方法记录了下来,以供参考。
daixiangcn
·
2020-07-15 11:33
系统运维
容器和集群
大数据和云计算
Ubuntu 下,Hadoop 单机
伪分布式
部署
目录安装Java配置ssh安装Hadoop安装Javahttps://blog.csdn.net/yitengtongweishi/article/details/81946349配置sshhttps://blog.csdn.net/yitengtongweishi/article/details/81946083安装HadoopHadoopReleases单击上述链接,下载需要的版本。笔者选择的
修行修心
·
2020-07-15 11:19
HBase
Hive
Hadoop
Ubuntu 下,HBase 单机
伪分布式
部署,不使用 HBase 自带的 Zookeeper
目录安装Zookeeper安装Hadoop下载HBase配置HBaseHBase官方文档安装Zookeeperhttps://blog.csdn.net/yitengtongweishi/article/details/81872307安装Hadoophttps://blog.csdn.net/yitengtongweishi/article/details/81941667下载HBaseHBas
修行修心
·
2020-07-15 11:19
HBase
Hive
Hadoop
HADOOP 单机模式
伪分布式
完全分布式区别
1.单机(非分布式)模式这种模式在一台单机上运行,没有分布式文件系统,而是直接读写本地操作系统的文件系统,一般仅用于本地MR程序的调试2.
伪分布式
运行模式这种模式也是在一台单机上运行,但用不同的Java
yhblog
·
2020-07-15 11:13
Hadoop
Hadoop 3.1.0 本地安装和
伪分布式
安装步骤和踩坑详解
一、Hadoop安装1.apache官网下载hadooptar.gz上传到linux服务器;2.验证Linux服务器是否有java环境,java-version;是否有JAVA_HOME,echo$JAVA_HOME;3.配置Hadoop环境变量,需要配置hadoop目录下的bin和sbin目录注:环境变量可在~/.bash_profile(只对当前用户有效)或者/etc/profile(对所有用
蜜斯呦
·
2020-07-15 11:27
hadoop
Hadoop的
伪分布式
的安装及部署
文章目录需要的软件及源码包安装JDKHadoop的部署安装Hadoop的配置Hadoop的使用做Hadoop的
伪分布式
我们分为一下几个步骤安装JDK配置JDK的环境变量配置Hadoop的环境变量修改Hadoop
KellyXuJR
·
2020-07-15 10:51
Linux
搭建hadoop
伪分布式
集群环境过程中遇见的问题总结
1、网络配置问题:在centos7中配置网络环境后,本机(win10系统)与虚拟机centos7网络不通(本机可以ping通虚拟机,但是虚拟机ping不通本机);解决方式:方式1:查看本机win10系统的防火墙是否关闭,若没有,直接关闭win10系统的防火墙即可;方式2:修改本机配置:windows防火墙-高级设置-入站规则-虚拟机监控(回显请求-ICMPv4-Ln),把这项启用即可。2、创建的h
jasligea
·
2020-07-15 10:45
hadoop相关工具
hbase使用外部(非自带)zookeeper搭建
伪分布式
环境
1、修改conf/hbase-env.sh中的HBASE_MANAGES_ZK为false:exportHBASE_MANAGES_ZK=false2、修改conf/hbase-site.xml如下所示:hbase.rootdirfile:///home/hbase-0.98.6-hadoop1/datahbase.zookeeper.quorumlocalhosttheposofzkhbase.
古巴与八股
·
2020-07-15 10:35
大数据
hbase
Mac下搭建hadoop
伪分布式
及eclipse开发环境
本文分三个部分,首先是mac下搭建hadoop
伪分布式
集群,然后搭建eclispe下hadoop调试环境,最后配置hadoop源码,便于学习。
宇毅
·
2020-07-15 10:15
hadoop
伪分布式
模式安装HBase和ZooKeeper
第一步:安装单机ZooKeeper1.在namenode机器下,配置zookeeper,先解压安装包,使用命令:tar-zxvfzookeeper-3.4.4.tar.gz2.进入zookeeper的配置目录,首先把zoo_sample.cfg重命名一下,可以重新复制一遍,使用命令:cpzoo_sample.cfgzoo.cfg3.配置zoo.cfgdataDir=/usr/local/zooke
人在^O^旅途
·
2020-07-15 10:36
大数据
Hadoop集群安装配置教程(Hadoop2.7.6_Ubuntu 32位)
hadoop1通过Hadoop安装教程_
伪分布式
配置(Hadoop2.7.6/Ubuntu14.0432位),hadoop2为hadoop1虚拟机的复制。在一台电脑上运行两个虚拟机搭建集群。
LuckyZZR
·
2020-07-15 10:21
hadoop学习
linux
学习
Hadoop安装教程_
伪分布式
配置(Hadoop2.7.6/Ubuntu14.04 32位)
Hadoop官方教程:Hadoop:SettingupaSingleNodeCluster1.环境本文使用Ubuntu版本为14.0432位,请自行安装。Ubuntu需要安装JDK(JDK安装教程),因hadoop官方高版本只发布64位编译版,因此安装32位需要自行编译,编译过程可参考ubuntu编译hadoop源码。(部分64位hadoop编译版可运行在32位机上,只是会报warning,部分功
LuckyZZR
·
2020-07-15 10:21
hadoop学习
linux
学习
solr集群搭建-7-分析solrcloud架构,并搭建Zookeeper集群
SolrCloud架构图如下:使用
伪分布式
实现solr集群。需要三个zookeeper实例,4个tomcat实例。我们是在一台虚拟机上模拟,所以将虚拟机内存设置到1
Peter-OK
·
2020-07-15 10:48
solr集群搭建
Hadoop集群配置以及
伪分布式
、完全分布式
安装好配置好虚拟机后将IP地址进行截图,并在secureCRT中输入相应IP地址进行连接(此处CRT我用的是绿色免安装版本所以可以直接连接)以下是虚拟机IP以及主机名截图(bigdata1后改成了bigdata129)1.关闭防火墙(虚拟机直接禁用,不然格式化以后运行不成功)systemctldisablefirewalld禁止防火墙2.SecureCRT【File(文件)】→【ConnectSF
做一条有梦想的咸鱼卍
·
2020-07-15 10:13
大数据
CentOS
伪分布式
部署HBase
上一节介绍了在CentOS7.3上单机部署Hadoop2.8.5,本节介绍在CentOS7.3上单机部署HBase2.1.5。1、解压HBase[root@hadoophadoop]#tar-zxvfhbase-2.1.5-bin.tar.gz-C/usr/hadoop/配置hadoop环境变量。[root@centoshadoop]vim/etc/profile#sethadoopenviron
贲_WM
·
2020-07-15 09:06
Hadoop
zookeeper伪分布安装
前面已经介绍了zookeeper的基本使用和单节点环境的搭建,现在介绍一下
伪分布式
环境的zookeeper是如何搭建的。
0day__
·
2020-07-15 09:55
zookeeper
ubuntu18.04虚拟环境中基于openjdk-8的hadoop3.2.1的
伪分布式
搭建
1.布置虚拟机系统a.本人用的虚拟机平台是VMware15Prob.我比较喜欢ubuntn18.04的界面(下载desktop版本)ubuntu18.04的国内镜像下载地址c.在虚拟机中安装ubuntu系统比较简单,而且要根据自己主机的情况进行配置,下图是我的虚拟机配置截图记得在网络适配器选项中选择NAT模式,这样可以共享主机的网络,不用再单独配置ip地址如果在虚拟机配置的时候出现“此主机支持In
twt_never404
·
2020-07-15 09:53
HBase的
伪分布式
安装部署(超详细)
完成Hbase的下载、安装Hbase是一个高可靠性、高性能、面向列、可伸缩的分布式数据库。利用Hbase技术可在廉价PCServer上搭建起大规模结构化存储集群。Hbase是非关系型数据库,它不要求数据之间有严格的关系,同时它允许在同一列不同行中存储不同类型的数据。Hbase作为Hadoop框架下的数据库,是被设计成在一个服务器集群上运行的。OS:Ubuntu16.04.6LTSJDK:v1.8、
�� 花花
·
2020-07-15 09:39
hbase
【Hadoop集群搭建】Hadoop运行模式——本地模式(附Hadoop目录结构了解)
介绍几个重要的常用的如下:Hadoop的运行模式分为本地模式/
伪分布式
/完全分布式三种,下面我们来讲第一种——最简单的也是最基础的本地模式(Local/StandaloneOpe
烧火棍势力登场
·
2020-07-15 08:20
大数据
hadoop
大数据
zookeeper+hadoop+hbase
伪分布式
安装最全教程
zookeeper+hadoop+hbase
伪分布式
安装最全教程zookeeper+hadoop+hbase
伪分布式
安装最全教程这里先介绍以下安装环境以及配置:1.ubuntu182.jdk1.83.zookeeper3.4.124
我是方小磊
·
2020-07-15 08:42
大数据
四(1)、CentOs-7 Hadoop
伪分布式
安装配置zookeeper
首先有一个搭建好的
伪分布式
1.下载安装zookeeper2.创建一个文件夹--------此步骤的目的是为了能够在构建将来的Hbase托管状态下方便建立物理文件3.修改zoo.cfg4.配置环境变量5.
小小酥ε=(´ο`*)))唉
·
2020-07-15 08:42
ELK相关文章索引(2)
环境部署logstash插件安装logstash将Kafka中的日志数据订阅到HDFS基本常识logstash读取kafka数据插件单机启动3节点
伪分布式
es集群bin/elasticsearchbin
司小幽
·
2020-07-15 07:37
大数据之Hadoop
伪分布式
这样搭建,一次就成功了!
Hadoop原本来自于谷歌一款名为MapReduce的编程模型包。谷歌的MapReduce框架可以把一个应用程序分解为许多并行计算指令,跨大量的计算节点运行非常巨大的数据集。使用该框架的一个典型例子就是在网络数据上运行的搜索算法。Hadoop最初只与网页索引有关,迅速发展成为分析大数据的领先平台。在这里我还是要推荐下我自己建的大数据学习交流裙:532+二一八加上147,裙里都是学大数据开发的,如果
姜果
·
2020-07-15 07:48
大数据开发
Java大数据
数据挖掘
数据分析
云计算
大数据环境搭建之HBase完全分布式环境搭建步骤详解
文章目录整体介绍环境准备安装配置解压安装包配置文件hbase-env.shhbase-site.xml配置环境变量配置RegionServer配置BackupMaster同步到其他机器启动集群Web界面整体介绍前一篇文章搭建了
伪分布式
环境
Darren.P
·
2020-07-15 07:52
HBASE
大数据环境
伪分布式
Hadoop的安装以及配置
前言以前装过单机版Hadoop、
伪分布式
Hadoop以及分布式的Hadoop,但是都没有做总结,今天刚好又需要装
伪分布式
Hadoop,所以在此写了一篇
伪分布式
Hadoop的安装教程。
Molly134
·
2020-07-15 07:56
大数据
大数据与人工智能入门到放弃(02 回顾篇 jdk安装与ssh免密登录配置,hadoop
伪分布式
配置)
记:最近酒店到期,所以忙于租房找房子,搬家,晚上下班的空余时间,写完这一篇。准备好jdk和hadoop压缩包这里我jdk选用的是jdk-8u191-linux-x64.tar.gz,hadoop选用的是hadoop-2.7.5.tar.gz。这里我就选用一台虚拟机来作为配置的例子,将包上传到linux虚拟机。为了统一管理,我将jdk解压到了/usr/java/目录下,如图2-1。图2-1配置jdk
张老kkkk
·
2020-07-15 06:01
大数据与人工智能入门到放弃
上一页
18
19
20
21
22
23
24
25
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他