E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
伪分布式
Hadoop新手快速入门经典视频教程
视频下载地址:http://t.cn/EIOA6Pn第一天hadoop的基本概念
伪分布式
hadoop集群安装hdfsmapreduce演示01-hadoop职位需求状况.avi02-hadoop课程安排
dskjh231
·
2020-07-04 15:40
Hadoop+zookeeper集群环境搭建步骤(百分百安装,亲测有效)
zookeeper集群环境搭建步骤(百分百安装,亲测有效)使用的软件hadoop-2.7.5zookeeper-3.4.5安装hadoop,需要多台机器构建集群(最少3台)这里我使用三台机器搭建hadoop
伪分布式
集群以及
咖啡里的
·
2020-07-04 15:07
hadoop
大数据
zookeeper
Hadoop2.7.1
伪分布式
配置
Hadoop2.7.1
伪分布式
配置前言Hadoop的安装分为单机方式、
伪分布式
方式和完全分布式方式。这里主要讲解在CentOS6.5环境中Hadoop的
伪分布式
安装配置。
梦想不会灭
·
2020-07-04 13:14
SpringCloud
编写一键安装
伪分布式
Hadoop的脚本
学校开设了Hadoop这门课程,第一次上课就是在本机上安装一个
伪分布式
的Hadoop。
不能说的秘密go
·
2020-07-04 12:30
linux
在CentOS6.4搭建hadoop集群的实践笔记
伪分布集群的搭建请看下面两个链接Ubuntu上搭建hadoop
伪分布式
配置请看这里CentOS上搭建hadoop
伪分布式
配置请看这里说是集群,实际上只有一个master和一个slave,为了不让CPU烧熟桌子本搭建基于
阿坨
·
2020-07-04 11:21
Hadoop
centos搭建hadoop
伪分布式
集群
用centos搭建hadoop
伪分布式
集群,一路坎坷,终于走过来了。记录一下:版本:centos7和hadoop2.7.4hadoop的安装就不用说了,下载安装包解压就行,很顺利。主要是配置文件。
舒小贱
·
2020-07-04 09:09
Hadoop
伪分布式
安装步骤
Hadoop
伪分布式
安装步骤目录Hadoop
伪分布式
安装步骤一.永久关闭防火墙二.配置主机名1.编辑network文件:vim/etc/sysconfig/network2.将HOSTNAME属性改为指定的主机名
萌新Java程序猿
·
2020-07-04 06:29
Hadoop
大数据Hadoop
Hadoop
伪分布式
搭建 Pseudo-Distributed Mode
Hadoop简介配置操作Linux系统配置Hadoop安装配置解压安装并配置环境变量配置HDFS配置yarn并将MapReduce交由yarn运行配置日志服务器启动服务配置SSH秘钥Hadoop简介Hadoop是一个开源的、可靠的、可扩展的分布式并行计算框架主要组成:分布式文件系统HDFS和MapReduce计算模型Hadoop项目主要包括以下四个模块:-HadoopCommon:为其他Hadoo
oldEcho
·
2020-07-04 06:59
大数据-hadoop
在Linux系统下安装zookeeper并部署实现
伪分布式
一、准备工作:1、在Linux下安装jdk并配置环境变量2、在Linux下安装zookeeper并配置环境变量二、具体操作:1、在Linux下安装jdk并配置环境变量1)直接在Linux系统中去官网中下载Linux版本的jdk,这里以jdk1.8为例2)进入安装包目录,解压安装包3)解压完之后,再把解压好的jdk移动到便于你管理的目录下(不强制)执行命令:mvjdk1.8.0_181/usr/lo
LOVE_LJing
·
2020-07-04 06:20
Hadoop的安装和
伪分布式
集群搭建
1.java安装2.配置免密码登录创建公钥和私钥ssh-keygen-trsa将要登录者机器的公钥id_rsa.pub内容添加到被登录机器的authorized_keys中,修改authorized_keys权限这里模拟本机登录本机cd~/.ssh/catid_rsa.pub>>authorized_keyschmod644authorized_keys直接ssh主机名免密码登录sshbigdat
JoatECJTU
·
2020-07-04 06:40
Linux
架构
Hadoop
Eclipse远程连接Hadoop
先说下我自己laptop没有hadoop环境(虚拟机中有
伪分布式
,不过是为了熟悉hadoop啦),也没有像网上那样用cygwin,主要得益于实验室服务器上师兄之前搭建了hadoop集群,之前一直用xshell
JasonZhangOO
·
2020-07-04 06:42
linux下安装配置hive
参考文章:https://blog.csdn.net/Alen_Liu_SZ/article/details/80752273一、安装前准备1安装Hadoop具体安装过程参考:Hadoop2.7.6安装_
伪分布式
集群
wisdom_power
·
2020-07-04 05:06
大数据相关
hadoop视频教程培训 hadoop最新实战教程 Hadoop7天培训全套完整视频教程
-------------------课程目录-------------------视频下载地址:http://demo.liuy88.cn/jp0595.html第一天hadoop的基本概念
伪分布式
hadoop
zzaqee12azza
·
2020-07-04 04:07
大数据技术原理与应用-大数据处理架构Hadoop
1.6Hadoop各种版本2Hadoop项目结构3Hadoop的安装与使用3.1准备工作3.2创建hadoop用户3.3SSH登录权限设置3.4安装Hadoop3.5Hadoop单机模式测试3.6Hadoop
伪分布式
配置
wolfchenxing
·
2020-07-04 03:16
大数据
linux hadoop 2.7
伪分布式
安装简单几步实现
本机配置1.ubuntu64bit2.hadoop2.7.1Contents1.安装jdk2.安装ssh3.安装hadoopSteps1.安装jdka)下载这个网址中跟自己操作系统相对应的jdk版本:http://www.oracle.com/technetwork/cn/java/javase/downloads/jdk7-downloads-1880260.html我选择的是jdk-7u79-
CourageK
·
2020-07-04 02:36
linux
使用Shell脚本一键部署Hadoop
测试环境Linux系统版本:CentOS7实现功能1、Java环境一键配置2、Hadoop单机版一键安装3、Hadoop
伪分布式
一键安装4、Hadoop集群部署5、
伪分布式
hadoop初始化6、集群设置
丶气质ン稳拿。
·
2020-07-04 02:55
Hadoop
Linux
大数据学习三之
伪分布式
集群安装部署
大数据学习三之
伪分布式
集群安装部署ip:168.192.59.200hostname:bigdata-lmt02.hpsk.com我的环境搭建是基于前两篇博客的基础之上的:大数据学习一Linux基础配置大数据学习二
木子_muzi
·
2020-07-04 02:08
大数据
基本配置
Linux
大数据框架
ubuntu配置hadoop
伪分布式
添加hadoop用户创建hadoop用户并使用bash作为shellsudouseradd-mhadoop-s/bin/bash设置hadoop用户密码sudopasswdhadoop为hadoop用户增加管理员权限sudoadduserhadoopsudo安装openssh-serversudoapt-getinstallopenssh-server出现缺dependencies的问题:Thef
SpringWolfM
·
2020-07-04 01:50
hadoop集群搭建【
伪分布式
】
一、hadoop集群搭建前准备在linux中安装好jdk,配置好jdk环境变量安装好hadoop单机版注:如果单机版不会安装,可以点击下面连接去查看hadoop单机版安装二、安装hadoop集群复制单机版hadoop,复制三分找到虚拟机管理,选择克隆复制时的选项点击完成即可,复制三台虚拟机,作为hadoop的主节点和从节点。三、启动三台虚拟机配置hadoop使用root用户登录输入:vi/etc/
lyq7269
·
2020-07-04 00:10
linux
大数据
hadoop
linux
分布式
zookeeper
一、安装
伪分布式
安装注意事项:在
伪分布式
启动server端服务时,注意同时启动服务。
时待吾
·
2020-07-02 17:38
kafka 顺序消费, spark streaming exactly-once以及零丢失的一些总结
Kafka:定义:消息中间件–>分布式流式平台生产者sourceBrokerchannel消费者sink正常部署的是:Broker进程(一个机器一个(分布式),一个机器多个(
伪分布式
))使用场景:Flume
holomain
·
2020-07-02 17:53
流全栈处理
零基础如何学好大数据?需要掌握哪些基础工具?
一、HadoopHadoop生态系统安装部署(单机、
伪分布式
、完全分布式)HDFS及读写原理MapReduceV1、V2框架WordCount编码详解原理Mapper、Reducer、Combiner、
qq_27513477
·
2020-07-02 17:57
大数据
大数据
云平台配置1:
伪分布式
配置手册
伪分布式
配置手册linux环境配置、linux环境下hadoop环境配置、linux静态ip设置系统环境VMWare10.0.1MacCentOS764bitJDK7hadoop2.6.5一、Mac下面修改
zThanks
·
2020-07-02 14:42
Hadoop
伪分布式
运行模式启动HDFS并运行MapReduce程序
伪分布式
运行模式启动HDFS并运行MapReduce程序分析(1)配置集群(2)启动、测试集群增、删、查(3)执行WordCount案例执行步骤(1)配置集群(a)配置:hadoop-env.shLinux
美食江湖
·
2020-07-02 12:00
大数据
Hadoop
伪分布式
配置(二).配置hadoop
1.首先下载hadoop(版本1.2.1)下载地址:http://hadoop.apache.org/releases.html2.配置hadoop的配置文件对于hadoop到三种运行模式都需要配置jdk路径,所以首先介绍这个到配置进入conf文件夹下,在hadoop-env.sh文件中做修改,在第九行左右到位置中有#exportJAVA_HOME=*******这样到字样,首先将#(这里#为注释
mcp3128
·
2020-07-02 11:34
Linux
hadoop
hadoop
伪分布式
模式部署
伪分布式
模式:守护进程运行在本地机器上,模拟一个小规模的集群,只有一个NameNode和一个DataNode实例,数据都存放在同一个节点上。“伪”体现在如何本节点出现故障,则数据丢失
机器熊技术大杂烩
·
2020-07-02 11:07
Hadoop
hadoop
伪分布式
部署过程
1.配置PATH#vi/etc/profileexportJAVA_HOME=/usr/java/jdk1.6.0_32exportPATH="$JAVA_HOME/bin:$PATH"exportHADOOP_PREFIX=/home/hadoop/hadoop-2.4.0exportCLASSPATH=".:$JAVA_HOME/lib:$CLASSPATH"exportPATH="$JAVA
Michael-JOE
·
2020-07-02 06:05
Hadoop
搭建 hive 环境 mysql 作为metastore
hbase(四)使用phoenix-hbase-client和squirrel图形化工具(五)搭建hive环境mysql作为metastorehive基于hadoop,hadoop安装参考:hadoop
伪分布式
搭建搭建
大写的A
·
2020-07-02 03:52
HBase
配置Hadoop
伪分布式
模式并运行WordCount示例操作实例演示步骤
hadoop单机模式的构建可以参考为上一篇博文:http://blog.csdn.net/henni_719/article/details/77718642PS:全程以root的角色进行配置安装第一部分:
伪分布式
配置伪分布模式主要涉及一下配置信息
WEL测试
·
2020-07-02 02:01
大数据
hadoop
伪分布式
模式实现
一台机器的各个进程上运行hadoop多个模块,但并不是真正的分布式,因为是一台机器。但是HDFS和MapReduce,还有yarn等模块都运行起来了。因此掌握伪模式的配置较为重要。一、创建用户使用hadoop框架useraddhadooppasswdhadoop然后给hadoop以root的权限,这样比较方便,当然真正配置分布式时不能给这么大权限。vim/etc/sudoers添加如下rootAL
hahachenchen789
·
2020-07-02 01:23
hadoop
Hadoop
伪分布式
模式安装配置步骤
最近要升级Hadoop的版本,需要重新安装测试环境,特此记录一下安装配置步骤O(∩_∩)O1.依赖软件1.1JavaHadoop2.7及以上版本需要Java7,之前的版本支持Java6,本文使用Hadoop2.6.5版本,所以安装Java6就可以了(本文省略安装步骤)1.2ssh集群、单节点模式都需要用到SSH登陆,安装完SSH之后(本文省略安装步骤)执行以下命令在用户的主文件夹生成密钥和加入授权
煉心_
·
2020-07-02 00:53
Hadoop
hadoop
伪分布式
运行模式
修改hadoop-env文件配置core-site文件修改hdfs-site文件初始化NameNode(第一次启动需要初始化,以后不需要)./bin/hdfsnamenode-format启动NameNode./sbin/hadoop-daemon.shstartnamenode启动DataNode./sbin/hadoop-daemon.shstartdatanode查看是否启动成功web端查看
chen18677338530
·
2020-07-01 19:54
大数据
flink
伪分布式
搭建及其本地idea测flink连接
下载安装flink:上传压缩包:flink-1.7.2-bin-scala_2.12.tgz解压:tar-zxvf/flink-1.7.2-bin-scala_2.12.tgz-C../hone复制解压文件到子节点:scp-r/home/flink-1.7.2/root@slave1:/home/scp-r/home/flink-1.7.2/root@slave2:/home/修改配置文件:选择一
chaoluo5168
·
2020-07-01 19:38
大数据-运行Hadoop
伪分布式
实例
上面的单机模式,grep例子读取的是本地数据,
伪分布式
读取的则是HDFS上的数据。要使用HDFS,首先需要在HDFS中创建用户目录:.
changhenshui1990
·
2020-07-01 19:27
大数据
Hadoop
伪分布式
安装与配置详解(附脚本)
Hadoop的安装脚本蓝奏云:https://ydfei.lanzous.com/iLgZqd9miheHadoop链接:https://pan.baidu.com/s/1vx2xEGNEK3hQQauOaCJrgQ提取码:cnvu脚本使用方法:要求:1.已安装jdk1.82.hadoop版本为hadoop-2.6.0-cdh5.14.2.tar.gz参数:1.安装目录(Hadoop安装包要在安装
yd、夜
·
2020-07-01 17:50
Hadoop
伪分布式
运行wordcount小例子
原文:http://blog.csdn.net/dr_guo/article/details/50890582先说点小知识hadoopfs使用面最广,可以操作任何文件系统hadoopdfs和hdfsdfs只能操作HDFS相关的在上一篇博客中,我们已经成功启动了HDFS和YARN,接下来先建数据存放目录和结果输出目录[plain]viewplaincopyguo@guo:/opt/Hadoop/ha
如果一切再重来
·
2020-07-01 14:33
Hadoop
Hadoop
伪分布式
模式配置并运行wordcount
Hadoop
伪分布式
模式配置并运行wordcount只有一台虚拟机bigdata128,既是namenode又是datanode。
黑客团长
·
2020-07-01 14:54
hadoop
wordcount
虚拟机
胖虎的Hadoop笔记——Hadoop的
伪分布式
部署
胖虎的Hadoop笔记——Hadoop的
伪分布式
部署本博客用于Hadoop大数据企业课笔记记录。
深度贪玩
·
2020-07-01 12:15
Hadoop
HIVE环境搭建杂交版
windows系统HIVE
伪分布式
1、Hadoop环境配置:环境变量配置:java_home=C:\ProgramFiles\Java\jdk1.8.0_201hadoop_home=D:\hadoop
LEEBELOVED
·
2020-07-01 10:54
SQL
【成为架构师2-3】反向代理:接入层扩容,负载均衡
接入层扩容用什么做反向代理反向代理解决了什么问题反向代理带来了什么新问题3反向代理,负载均衡负载均衡方法:负载均衡抓手(如何维护session状态一致性):4反向代理,高可用5两个遗留问题1单机遗留问题上一篇讨论了
伪分布式
与垂直拆分的问题垂直拆分
Nevercome_
·
2020-07-01 10:18
成为架构师
nginx
分布式
http
Hadoop
伪分布式
运行模式
文章目录Hadoop
伪分布式
运行模式1.启动HDFS并运行MapReduce程序1.1配置集群配置hadoop-env.sh配置core-site.xml配置hdfs-site.xml1.2启动集群格式化
喵先生呢
·
2020-07-01 06:28
Hadoop
hadoop
hadoop伪分布式运行模式
Diagnostics: File file:/private/tmp/spark-d4ebd819-e623-47c3-b008-2a4df8019758/__spark_libs__6824092...
spark
伪分布式
模式on-yarn出现一下错误Diagnostics:Filefile:/private/tmp/spark-d4ebd819-e623-47c3-b008-2a4df8019758/
weixin_30685047
·
2020-07-01 05:15
见习的一个月
就知识来说,从之前的
伪分布式
到现在的完全分布式,这个大数据平台体系有了更加深层次了解,虽然离有些人还有很大一段距离。在这里一个月,我好像一直和平台搭建干上了,问题百出,有些问题可以独立解决了。
起个什么呢称呢
·
2020-06-30 23:27
hive UDF 测试样例开发
hive-1.1.0-cdh5.7.11.开发环境相关说明依据《Win7IDEA开发环境搭建部署》部署Win7系统的idea开发环境,hadoop和hive环境依据《hadoop2.6.0-cdh5.7.1
伪分布式
编译安装
VincentQB
·
2020-06-30 19:51
Hadoop
hadoop
伪分布式
环境配置
本次测试在一台服务器上进行
伪分布式
搭建。Hadoop
伪分布式
模式是在单机上模拟Hadoop分布式,单机上的分布式并不是真正的
伪分布式
,而是使用线程模拟分布式。
zhaogezhuoyuezhao
·
2020-06-30 15:47
Hadoop
伪分布式
与集群式安装配置
http://www.cnblogs.com/yedezhanghao/archive/2012/07/29/2614182.html配置环境配置前的说明部署
伪分布式
与集群式Hadoop的绝大部分操作都是一样的
zhaogezhuoyuezhao
·
2020-06-30 15:47
hadoop集群问题
大数据与Elasticsearch结合kibana可视化展示
+以上不支持,试过),hadoop可以搭全分布式和
伪分布式
,我是用
伪分布式
。
NYAIoT
·
2020-06-30 12:09
大数据
*学习笔记二(HDFS
伪分布式
)
HDFS简介摘录:HDFS是一个ApacheSoftwareFoundation项目,是ApacheHadoop项目的一个子项目(参见参考资料)。Hadoop非常适于存储大型数据(比如terabytes和petabytes),并使用HDFS作为其存储系统。HDFS允许您连接多个集群中包含的节点(普通个人计算机),那些集群上分布着一些数据文件。然后您可以将那些数据文件作为一个无缝文件系统来进行访问和
Notput
·
2020-06-30 10:53
hive安装部署及初步使用
现在只需要写HSQL语句就可以实现mapreduce,所以hive的运行环境就是hadoop下面的hive安装部署是在hadoop集群已经安装好并且能够运行的前提下,如果没有可以参考我之前的博文,hadoop的
伪分布式
和分布式都有详细的步骤介绍
ysjh0014
·
2020-06-30 09:19
大数据
Hive
三种搭建集群的模式
搭建集群的模式有三种:1、
伪分布式
node01在一台服务器上,启动多个进程,分别表示各个角色2、完全分布式在多台服务器上,每台服务器启动不同角色的进程,使用多台服务器组成HDFS集群node01:namenodenode02
xgs960528
·
2020-06-29 23:48
上一页
24
25
26
27
28
29
30
31
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他