E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
伪分布式
大数据环境部署 第五章——Spark
伪分布式
搭建
大数据环境部署第五章——Spark
伪分布式
搭建前言:本文为系列教程,至此默认读者已经安装好了Hadoop,jdk;如还未配置好上述服务,可以查看笔者前面的博文进行参考配置一、准备阶段scala文件下载及配置
尼克不可
·
2020-07-14 02:37
大数据环境部署
大数据环境部署 第四章——Hbase
伪分布式
搭建(使用外部zookeeper)
大数据环境部署第四章——Hbase
伪分布式
搭建(使用外部zookeeper)前言:本文为系列教程,看到这里默认读者已经配置好了hadoop,zookeeper服务如果还有未配置好的服务请查阅笔者的前几篇博客一
尼克不可
·
2020-07-14 02:37
大数据环境部署
Hadoop 2.7.4
伪分布式
安装步骤与排坑
概述本教程适合于在CentOS6.x系统中安装原生Hadoop2X,适用于Hadoop2.6.0,Hadoop2.7.4等版本,主要参考了官方安装教程,步骤详细,辅以适当说明,相信按照步骤来,都能顺利在CentOS中安装并运行Hadoop。—大肥肥出品环境准备在装好了centos以后还有一些环境需要准备一下,下面一一列举创建hadoop用户su输入密码useraddhadooppasswdhado
大肥肥哈哈哈
·
2020-07-14 01:29
hadoop
大数据必备——Hadoop环境搭建
/opt下创建两个文件夹,software,install1.4免密登陆1.5安装jdk2.安装Hadoop2.1本地模式安装2.1.1解压2.1.2环境变量2.1.3测试2.1.4官方示例演示2.2
伪分布式
搭建
@哇咔咔
·
2020-07-14 01:19
linux
hadoop
Hadoop安装教程_
伪分布式
配置
创建hadoop用户如果你安装CentOS的时候不是用的"hadoop"用户,那么需要增加一个名为hadoop的用户。首先点击左上角的“应用程序”->"系统工具"->"终端",首先在终端中输入su,按回车,输入root密码以root用户登录,接着执行命令创建新用户hadoop:su#上述提到的以root用户登录useradd-mhadoop-s/bin/bash#创建新用户hadoopShell命
_delin
·
2020-07-14 01:19
部署大数据
伪分布式
环境和编程开发
参考书:《基于Hadoop与Spark的大数据开发实战》,肖睿丁科吴刚山主编.注意,当从此word文档复制命令时,可能由于word自动转换了字符(比如横线字符)而导致命令执行失败.所以,应该尽量不采用复制方式!如果你是直接复制了这个客户机,则可以直接看”三,使用此客户机”.一,安装说明用于部署大数据环境和编程开发;2019年9月18日星期二在32位Windows2003Server的VMWarew
arld83728
·
2020-07-14 01:53
Hadoop安装与配置(CentOS7、
伪分布式
、单节点)
目录一、安装Linux虚拟机(系统:CentOS7)二、配置主机三、解压安装包四、文件配置五、Hadoop运行、访问与关闭本文用到的安装包jdk(Linux)提取码:tmxpHadoop安装包提取码:vcfg一、安装Linux虚拟机(系统:CentOS7)安装链接如下(主机网卡地址自定义)Linux虚拟机安装二、配置主机修改主机名hostnamectlset-hostnamehadoop101添加
KingWeiGG
·
2020-07-14 00:35
大数据环境部署 第二章——Hadoop
伪分布式
环境搭建
大数据环境部署第二章——Hadoop
伪分布式
环境搭建一、准备阶段1、Hadoop-x.x.x.tar.gz(版本随意但是这里推荐使用2.7.x版本,毕竟现在这是稳定的版本,后面对一些其他的组件之间的依赖也更好一些
尼克不可
·
2020-07-14 00:11
大数据环境部署
工欲善其事,必先利其器——Hadoop 集群安装配置
2.Master按照上一篇文章完成Hadoop环境的搭建,并完成配置(完成到
伪分布式
)。3.Slave使用上一篇文章,创建hadoop用户,安装sshServer以及java环境。
NIUNIU_SUISUI
·
2020-07-14 00:35
Hadoop自学史
学习Spark——环境搭建(Mac版)
14年的时候开始接触Hadoop,在Windows下搭了好几次环境,单机版、
伪分布式
和分布式都搭建过。那时候需要在
baixieyun4655
·
2020-07-14 00:10
hadoop集群部署
hadoop集群部署分为三种:本地部署
伪分布式
部署分布式部署分布式部署顾名思义前提要有至少多台服务器,所以这里只介绍前两种部署方式,但是本地部署非常简单,只有几步,按照官方文档完全可以进行,所以下面主要讲
伪分布式
部署方式
伪分布式
ysjh0014
·
2020-07-13 23:16
大数据
Hadoop
Hadoop安装,
伪分布式
,完全分布式搭建
在搭建集群式要先安装jdk和hadoop,本文用的时Centos6.8,jdk8,hadoop2.7.3JDK安装参考:https://blog.csdn.net/woainiqazwsx123/article/details/83016453Hadoop安装在用户目录下新建一个soft目录将hadoop压缩包解压到当前目录下创建软链接$ln-shadoop-2.7.3hadoop配置环境变量JA
幻染雨停轻
·
2020-07-13 21:28
Hadoop
hadoop入门系列之三【hadoop的安装与配置】
1、概述Hadoop安装分为三种方式,分别为单机、
伪分布式
、完全分布式,安装过程不难,在此主要详细叙述完全分布式的安装配置过程,毕竟生产环境都使用的完全分布式,前两者作为学习和研究使用。
来生做一个苦行僧
·
2020-07-13 16:34
hadoop
Hadoop简介与环境搭建(独立模式/
伪分布式
)
Hadoop简介与环境搭建Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。其中它有两个核心:-HDFS(存储功能)大规模数据集(支持节点扩展)简单一致性模型(一次写入多次读取)流式数据访问(对数据进行批量处理,而不是用户交互处理)硬件错误(有很强的容错能力)MapReduce(计算功能)
white先生
·
2020-07-13 10:28
大数据
搭建Hadoop
伪分布式
环境
前提:默认关闭防火墙、禁用SELinux、网络正常、配置计算机名称node01NameNodeSecondaryNameNodeDataNode安装Hadoop和JDKtar-zxvfhadoop-3.1.1.tar.gz-C/opt/hadoop/rpm-ivhjdk-8u172-linux-x64.rpm配置环境变量vim/etc/profile添加:exportJAVA_HOME=/usr/
上杉丶零
·
2020-07-13 08:44
Hadoop安装教程_单机/
伪分布式
配置_Hadoop2.6.0/Ubuntu14.04
当开始着手实践Hadoop时,安装Hadoop往往会成为新手的一道门槛。尽管安装其实很简单,书上有写到,官方网站也有Hadoop安装配置教程,但由于对Linux环境不熟悉,书上跟官网上简略的安装步骤新手往往Hold不住。加上网上不少教程也甚是坑,导致新手折腾老几天愣是没装好,很是打击学习热情。本教程适合于原生Hadoop2,包括Hadoop2.6.0,Hadoop2.7.1等版本,主要参考了官方安
niepangu
·
2020-07-13 08:47
大数据学习
Hadoop3.1.2(Linux版本)环境搭建记录2-Pseudo-Distributed(
伪分布式
模式)
上一节中我们了解了单机模式,这一节中,会说明第二种模式
伪分布式
模式,这种模式相比于单机模式,增加了检查内存使用情况,hdfs输入输出,以及其他的守护进程交互。
爱玩技术的淘气包儿
·
2020-07-13 08:27
大数据
hadoop
伪分布式模式
hbase
伪分布式
安装详解及错误分析
安装环境:centos6.0+jdk1.6.0_29+hadoop1.0.0+hbase0.90.4已经安装好centos6.0+jdk1.6.0_29+hadoop1.0.0环境1.到官方网站下载好hbase-0.90.4.tar.gz解压hbase安装包到一个可用目录(如:/opt)[html]viewplaincopyprint?cd/opttarzxvfhbase-0.90.4.tar.g
Forsure
·
2020-07-13 07:11
HADOOP和HIVE
使用Eclipse编译运行MapReduce程序_Hadoop2.6.0_Ubuntu/CentOS
本教程主要测试环境:Ubuntu14.04Hadoop2.6.0(
伪分布式
)Eclipse3.8此外,本教材在CentOS6.4系统中也验证通过,对Ubuntu与CentOS的不同配置之处有作出了注明。
汪酱0110
·
2020-07-13 04:42
黑马12期大数据教程(hadoop,storm,kafka,hbase,hive,sqoop)
weekend110-第1天01-hadoop职位需求状况02-hadoop课程安排03-hadoop应用场景04-hadoop对海量数据处理的解决思路05-hadoop版本选择和
伪分布式
安装06-hadoop
chuiyan4425
·
2020-07-13 03:49
Hadoop:启动与停止命令
Hadoop认证培训:启动与停止命令,在安装配置了Hadoop的
伪分布式
环境后就可以启动Hadoop了,首先需要格式化HDFS分布式文件系统,进入Hadoop的bin目录,操作命令如下:hadoopnamenode-format
StarskyBoy
·
2020-07-13 01:18
Hadoop
Hadoop2.x部署之完全分布式集群环境搭建
一、分布式部署概述Hadoop环境的搭建有三种方式:本地环境搭建
伪分布式
环境搭建完全分布式环境搭建集群在前面的文章中,详细描述了如何搭建本地环境【https://blog.csdn.net/qq_37142346
不清不慎
·
2020-07-12 22:56
Hadoop
大数据
安装hadoop3.2.1(mac
伪分布式
)
一、安装从官网下载hadoop包,http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-3.2.1/hadoop-3.2.1.tar.gz#解压,路径为/Users/zheng/hadoop/hadoop-3.2.1$tar-zxvfhadoop-3.2.1.tar.gz#设置环境变量$vim/etc/profile#加入以下设置exportHA
9随遇而安
·
2020-07-12 20:52
hadoop
Hadoop2.8.1
伪分布式
环境配置
前言本文搭建了一个由两节点(master、slave0)构成的Hadoop
伪分布式
集群,Hadoop版本选取了hadoop2.8.1,本人主要初次搭建Hadoop集群,期间遇到了很多问题,花了好长时间,
天空飞翔的小燕子
·
2020-07-12 17:53
大数据
hadoop
Redis部分:Redis
伪分布式
主从环境变量的配置【全】
1.创建redis目录:mkdirredis2.在redis目录下分别创建3个端口目录:6380,6381,6382(不在配置文件中写他的目录指定关系,直接在当前目录下执行,持久化目录)3.当前目录下分别启动3个实例:redis-server--port6380redis-server--port6381--slaveof127.0.0.16380redis-server--port6382--s
道法—自然
·
2020-07-12 16:41
apache-hive-1.2.2安装教程
1、安装前提1、hadoop集群(
伪分布式
也可以)2、mysql数据库这里假设hadoop集群和mysql数据库都安装好了。
码农A
·
2020-07-12 15:09
hadoop
hadoop环境搭建遇到的问题:-bash: jps: command not found
在
伪分布式
环境搭好后需要执行命令查看运行任务情况当我们执行jps时发生:-bash:jps:commandnotfound说明运行的jps程序找不到,当然你去java的bin目录下执行时可以的。
wickedvalley
·
2020-07-12 15:54
hadoop
Ubuntu18.04 配置hadoop3.2(
伪分布式
安装)并运行wordcount步骤
Ubuntu18.04配置hadoop3.2(
伪分布式
安装)并运行wordcount步骤下载hadoop直接选3.2版本(目前最新)64位linux走起记得配置好jdk准备工作要做好然后解压hadoop
陈浩天就是我
·
2020-07-12 11:07
hadoop集群环境搭建(超详细)
ssh-keygen-trsa//生成公私钥对(四个回车)ssh-copy-idlocalhost//本机免密码ssh-copy-id虚拟机名称//互登免密码2.安装hadoop三种运行方式-单机模式-
伪分布式
会~飞的鱼
·
2020-07-12 11:59
hadoop
linux
hadoop生态圈
java大数据最全课程学习笔记(1)--Hadoop简介和安装及
伪分布式
目前CSDN,博客园,简书同步发表中,更多精彩欢迎访问我的giteepages目录Hadoop简介和安装及
伪分布式
大数据概念大数据概论大数据特点(4V)大数据部门组织结构从Hadoop框架讨论大数据生态
假装文艺范儿
·
2020-07-12 10:00
java大数据最全课程学习笔记(1)--Hadoop简介和安装及
伪分布式
目前CSDN,博客园,简书同步发表中,更多精彩欢迎访问我的giteepages目录Hadoop简介和安装及
伪分布式
大数据概念大数据概论大数据特点(4V)大数据部门组织结构从Hadoop框架讨论大数据生态
假装文艺范儿
·
2020-07-12 10:00
玩转大数据计算之Hadoop
Hadoop安装:Hadoop官方文档提供了3种安装模式:单机安装:Hadoop所有服务都在一个JVM进程运行单机
伪分布式
安装:Hadoop服务都在一台机器上每个独立JVM进程运行完全分布式安装:在多个物理机或虚拟机分别安装
pptb
·
2020-07-12 03:32
大数据学习初级入门教程(四) —— Kafka 2.2.0
伪分布式
集群的安装、配置、启动和测试
单节点的安装、启动和测试》中,简要说明了在一台测试服务器上如何安装单节点Kafka并做了消息发送和获取的测试,这篇主要说明一下在一台机器上如何配置多个节点,需要在前一篇文章操作后的基础上,搭建Kafka
伪分布式
集群
孟郎郎
·
2020-07-12 01:39
Kafka
Spark2.0.1
伪分布式
安装配置
前言.Spark简介和hadoop的区别Spark是一种与Hadoop相似的开源集群计算环境,但是两者之间还存在一些不同之处,Spark启用了内存分布数据集,除了能够提供交互式查询外,它还可以优化迭代工作负载。1.架构不同。Hadoop是对大数据集进行分布式计算的标准工具。提供了包括工具和技巧在内的丰富的生态系统,允许使用相对便宜的商业硬件集群进行超级计算机级别的计算。Spark使用函数式编程范式
哥们你裤衩掉了
·
2020-07-12 01:26
spark
三台主机搭建hadoop集群过程记录
步骤在一台主机上安装好hadoop
伪分布式
环境,作为master节点。
sunsi_10
·
2020-07-12 00:58
BigData
【zookeeper】zookeeper/zookeeper-3.4.13/zookeeper_server.pid: 没有此文件目录 FAILED TO WRITE PID 报错
出现的问题今天第一次部署zookeeper的
伪分布式
,跟着网上大多数的教程走,但仍然遇到了问题。问题如下:其中显示无法创建目录/zookeeper,但是本人修改了目录的权限仍然不行。
Lee1Qiang
·
2020-07-11 21:09
大数据Hadoop--3.1.3入门——
伪分布式
搭建学习
1启动HDFS并运行MapReduce程序(1)配置集群(a)配置:hadoop-env.sh首先查找文件位置进入文件进行修改命令Linux系统中获取JDK的安装路径:echo$JAVA_HOME/opt/module/jdk1.8.0_212修改JAVA_HOME路径:exportJAVA_HOME=/opt/module/jdk1.8.0_212(b)配置:core-site.xml添加如下配
Caron_xcb
·
2020-07-11 20:23
Hadoop
【大数据学习】在云服务器安装配置
伪分布式
Hadoop
刚好又要上大数据云计算的课,要在本地使用虚拟机学习,操作不方便,而且还耗电脑资源,电脑卡又经常报莫名的错,所以我决定用阿里云服务器来学习,因为只有一条机器,所以只能用
伪分布式
的方式。
歌在路上
·
2020-07-11 19:30
大数据
HBase:独立模式、
伪分布式
和完全分布式的安装部署
目录独立模式
伪分布式
完全分布式使用独立安装的zookeeper现有三台机器,主机名分别为hmaster1,hslave1,hslave2,并且已经搭建了完全分布式hdfs集群独立模式在独立模式下,HBase
BOUNC3
·
2020-07-11 18:45
HBase
Deepin15.11下Hadoop 3.2.1+jdk1.8安装全流程
目录前言前期准备安装Deepin15.11安装JDK1.8安装ssh安装配置单机Hadoop
伪分布式
Hadoopeclipse环境配置示例程序完事前言最近需要安装Hadoop,去年也做过一次,安装起来挺麻烦的
confsky
·
2020-07-11 18:23
HBase – Hadoop Database简介及
伪分布式
搭建
【资源】hbase中文文档http://abloz.com/hbase/book.html【简介】(1):HBase是一个分布式的、面向列的开源数据库,一个结构化数据的[分布式存储系统]”。(2):HBase–HadoopDatabase,是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在廉价PCServer上搭建起大规模结构化存储集群。(3):HBase利用Hadoo
先生_吕
·
2020-07-11 11:00
hbase总结(二)-hbase安装
本篇介绍两种HBase的安装方式:本地安装方式和
伪分布式
安装方式。安装的前提条件是已经成功安装了hadoop,而且hadoop的版本要和hbase的版本相匹配。
程序员成长史
·
2020-07-11 10:47
Hbase
hadoop hbase zookeeper hive
伪分布式
一站安装
1.对于初学者我觉得没必要安装完全分布式集群,或是高可用集群一是完全分布式集群非常占用内存和磁盘空间,一个集群少说也带三台linux,非常消耗电脑资源,更别说去操作集群.所以我觉得搭一个
伪分布式
,方便快捷
风雨等归期
·
2020-07-11 10:20
程序安装部署
Hadoop〖一〗Hadoop3.2.1版本本地安装伪集群实现词频统计案例
Hadoop〖一〗Hadoop3.2.1版本本地安装伪集群实现词频统计案例一.安装Hadoop在虚拟机上1.1准备一台虚拟机1.2安装JDK1.3安装Hadoop二.接下来进行配置
伪分布式
(上面的Hadoop
ktoking
·
2020-07-11 10:34
大数据相关
Hadoop
伪分布式
系统的搭建
相关软件下载:一、安装虚拟机软件VirtualBox二、使用VirtualBox新建虚拟机并安装Ubuntu系统提示:最小安装即可三、创建一个新账户1、使用CTRL+ALT+T打开命令行终端,输入命令创建新用户sudouseradd-mhadoop-s/bin/bash说明:-m表示自动创建用户目录(/home/hadoop),hadoop是用户名,-s表示使用/bin/bash作为shell2、
diyinjiao1404
·
2020-07-11 05:41
[HBase Manual] CH2 Getting Started
CH2GettingStartedGettingStartedGettingStarted.11.Introduction.12.QuickStart-StrandaloneHBase.12.1JDK版本选择...12.2GetStartedWithHBase.12.3
伪分布式
本地安装
dida4700
·
2020-07-11 05:18
flume
伪分布式
部署和测试
本篇讲flume
伪分布式
部署和测试flume包括3种节点,一种是agent,一种是collector,一种是master。master用于管理agent和collector。
caodaoxi
·
2020-07-11 03:20
Hadoop3, datanode 与live node(伪分布=0) 不相等
jps检查之后,所有的service都正常启动了,但是local:9870里livenode的数量不对,改成
伪分布式
之后livenode=0,但是在resourceManager(local:8088)
大胖头leo
·
2020-07-11 01:49
hadoop
在Windows上构建和安装Hadoop 2.0或更新的版本
介绍为Windows构建hadoop内核开始一个单节点(
伪分布式
)集群总结1、介绍Hadoopversion2.2onwardsincludesnativesupportforWindows.TheofficialApacheHadoopreleasesdonotincludeWindowsbinaries
Gold_Spring
·
2020-07-10 21:28
Hadoop
利用Flume和hadoop收集并管理tomcat日志
文章目录tomcat方所需依赖js埋点控制器层配置文件Flume方Flume介绍Flume的安装Hadoop方hadoop简介Hadoop
伪分布式
安装hadoop组件HDFSYarnMapReduce启动
思无邪心飞扬
·
2020-07-10 19:41
大数据
上一页
21
22
23
24
25
26
27
28
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他