E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Hadoop2
win7 x64下eclipse远程到
hadoop2
.6.0集群服务器+word count 实例演示
由于实验室在做Spark的研究,所以需要搭建相关的平台进行实验。由于每次提交测试代码都需要先打包后上传到linux虚拟机中,再ssh到服务器上去跑比较麻烦。所以就有如下的分享。假设你已经搭建好完全分布式hadoop集群了,搭建步骤见第一篇:http://blog.csdn.net/youxia918/article/details/466077091.下载解压hadoop-2.6.0.tar.gz
Allen-Y
·
2020-07-15 11:37
hadoop
大数据
单节点部署三台zookeeper和三台kafka
:同理kafka也可以这样部署解压复制三个目录,分别为zookeeper,zookeeper1,zookeeper2[hadoop@hadoop001app]$lllrwxrwxrwx.1hadoop
hadoop2
5Sep103
yoohhwz
·
2020-07-15 11:54
Zookeeper
window环境hadoop客户端安装
一、安装
hadoop2
.5.2下载
hadoop2
.5.2.tar.gz,并解压到你想要的目录下,我放在D:\dev\hadoop-2.5.2二、配置hadoop环境变量1.windows环境变量配置右键单击我的电脑
ye826263369
·
2020-07-15 11:46
史上最详细的Hadoop环境搭建,从0开始,图解全部过程
本文的思路是:以安装部署Apache
Hadoop2
.x版本为主线,来介绍
Hadoop2
.x的架构组成、各模块协同工作原理、技术细节。安装不是目的,通过安装认识Hadoop才是目的。第
此id已存在
·
2020-07-15 11:55
大数据
环境搭建
Hadoop
使用
配置
Linux
Centos7
轻松了解大数据
技术分享
学习
操作系统
框架
最新版spark-2.2.0安装教程
1.jdk的安装;(java1.8)2.hadoop安装;(
hadoop2
.7.2)3.scala安装;(scala2.11.8)4.spark安装。
gavenyeah
·
2020-07-15 11:50
大数据
hadoop图像处理接口hipi
比如下面是针对
hadoop2
.6版本所做的修改。......使用ant命令
Cbird-coder
·
2020-07-15 11:58
hadoop学习
Hadoop 2.0底层工作原理
1HDFS简介1.1
Hadoop2
.0介绍Hadoop是Apache的一个分布式系统基础架构,可以为海量数据提供存储和计算。
xinpiannanhai
·
2020-07-15 10:27
hadoop
hadoop
Hadoop集群安装配置教程(
Hadoop2
.7.6_Ubuntu 32位)
1.环境本文使用两个节点作为集群,hadoop1主机作为主节点,
hadoop2
主机作为从节点。
LuckyZZR
·
2020-07-15 10:21
hadoop学习
linux
学习
Hadoop安装教程_伪分布式配置(
Hadoop2
.7.6/Ubuntu14.04 32位)
Hadoop官方教程:Hadoop:SettingupaSingleNodeCluster1.环境本文使用Ubuntu版本为14.0432位,请自行安装。Ubuntu需要安装JDK(JDK安装教程),因hadoop官方高版本只发布64位编译版,因此安装32位需要自行编译,编译过程可参考ubuntu编译hadoop源码。(部分64位hadoop编译版可运行在32位机上,只是会报warning,部分功
LuckyZZR
·
2020-07-15 10:21
hadoop学习
linux
学习
Window环境下hadoop开发环境配置(含window环境的hadoop编译后压缩包)
Window环境下hadoop开发环境一、java环境准备二、解压window环境编译过的
hadoop2
.7.2版本(通Linux版本差异是,在bin目录下多了两个文件:winutils.exe、hadoop.dll
xiaomi0329
·
2020-07-15 10:43
hadoop
WordCount源码注解
查看源码:解压hadoop发行版(如
hadoop2
.6.4)的压缩包,在目录“hadoop-2.6.4\share\hadoop\mapreduce\sources"中找到hadoop-mapreduce-examples
落叶阳光
·
2020-07-15 10:26
大数据
Hadoop2
.7.1 安装提示SHUTDOWN_MSG: Shutting down NameNode at java.net.UnknownHostException
刚配置
Hadoop2
.7.1格式化namenode时报出这个这个错误/************************************************************SHUTDOWN_MSG
xianglingchuan
·
2020-07-15 10:22
Hadoop
Spark的集群搭建
1.2Java1.8环境已经配置好1.3
Hadoop2
.8.5几圈已经完成搭建1.4Scala软件包和Spark软件包的下载https://www.scala-lang.org/download/http
6x6x6x
·
2020-07-15 10:10
spark
CentOS伪分布式部署HBase
上一节介绍了在CentOS7.3上单机部署
Hadoop2
.8.5,本节介绍在CentOS7.3上单机部署HBase2.1.5。
贲_WM
·
2020-07-15 09:06
Hadoop
Hadoop 伪分布模式安装及环境变量
一、安装下载Hadoop解压Hadooptar-zxfhadoop-2.6.0-cdh5.14.2.tar.gz将解压后的Hadoop移动到soft,并重新命名为
hadoop2
60mvhadoop-2.6.0
跳蛙pass
·
2020-07-15 09:31
hadoop
zookeeper+hadoop+hbase伪分布式安装最全教程
hbase伪分布式安装最全教程zookeeper+hadoop+hbase伪分布式安装最全教程这里先介绍以下安装环境以及配置:1.ubuntu182.jdk1.83.zookeeper3.4.124.
hadoop2
.8.55
我是方小磊
·
2020-07-15 08:42
大数据
Hadoop2
.7.6 完全分布搭建
centos7.5
hadoop2
.7.6完全分布搭建一、准备3台客户机(master,slave1,slave2)关闭防火墙三台机器都要systemctlstopfirewalld.service关闭防火墙
szjmsww
·
2020-07-15 08:13
Spark中executor-memory参数详解
文中安装的是Spark1.6.1,安装在
hadoop2
.7上。1、相关的2个参数1.1yarn.scheduler.maximum-allocation-mb这个参数表示每个cont
孤数不证
·
2020-07-15 08:30
iMac Hadoop Config
1brewinstall
Hadoop2
ssh-keygen-tdsa-P''-f~/.ssh/id_dsa3cat~/.ssh/id_dsa.pub>>~/.ssh/authorized_keys4sshlocalhostssh
好了伤疤忘了
·
2020-07-15 07:36
初入flink 安装以及启动
首先,需要先去http://archive.apache.org/dist/flink/flink-1.7.2/flink-1.7.2-bin-
hadoop2
6-scala_2.11.tgz这里下载。
渔闻520
·
2020-07-15 06:37
flink
HA高可用hadoop3.1.1集群搭建
背景在
Hadoop2
.0.0之前,NameNode是HDFS集群中的单点故障(SPOF)。
滑冰选手库里
·
2020-07-15 06:07
Hadoop
Windows下
hadoop2
.7.6安装及配置教程
一、首先确保你已经安装了JDK您可以去官网下载JDK1.8.0(注意版本哦~)二、去获取hadoop-2.7.6的镜像(清华大学提供的优秀资源):http://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common三、接下来就到了我们的配置过程啦~1.配置环境变量系统变量Java_Home系统变量Hadoop_Home修改D:\hadoop-2.7.6\
weixin_39025364
·
2020-07-15 06:09
Spark的伪分布安装和wordcount测试
基于
hadoop2
.6伪分布的Spark安装和wordcount测试一:环境说明Ubuntu:15.10(不稳定版,建议安装在稳定版,Ubuntu下XX..4是稳定的)Hadoop:2.6Scala:2.11.8Java
weixin_34342992
·
2020-07-15 05:38
大数据之---伪分布式部署之终极篇
------------------------------软件版本--------------------------------------RHEL6.8
hadoop2
.8.1apache-maven
weixin_34258838
·
2020-07-15 05:35
大数据
java
运维
基于Spark的机器学习实践 (三) - 实战环境搭建
提供多种语言接口,需要JVM◆官方为我们提供了Spark编译好的版本,可以不必进行手动编译◆Spark安装不难,配置需要注意,并且不一定需要Hadoop环境下载解压tarzxvfspark-2.4.1-bin-
hadoop2
.7
weixin_34216196
·
2020-07-15 05:56
hbase安装详解
hdfs://ns1/hbase hbase.cluster.distributedtrue hbase.tmp.dir /opt/modules/hbase-0.98.10.1-
hadoop2
weixin_34199335
·
2020-07-15 05:14
Eclipse连接Hadoop集群并运行wordCount全过程记录
环境:win10Eclipse4.4.2JDK1.7
Hadoop2
.7.1相关安装文件可在文末的链接下载1.加载eclipse插件(1)下载hadoop-eclipse-plugin插件,此处下载了hadoop-eclipse-plugin
weixin_34167043
·
2020-07-15 05:50
centos6.5 安装
hadoop2
.7.6 1master2node
环境采用centos6.5最小化安装,hadoop下载的
hadoop2
.7.6.tar.gz安装,Java下载的oracle官网的1.8.0_172的包安装。参考了别人的文档,遇到了不同的问题。
weixin_34032621
·
2020-07-15 04:59
完全分布式(四)Sqoop 安装部署及操作示例
2019独角兽企业重金招聘Python工程师标准>>>本次采用完全分布式系列的hadoop集群,安装配置过程详细参见完全分布式集群(二)
hadoop2
.6.5安装部署Hive在分布式集群上的部署配置参见完全分布式集群
weixin_33974433
·
2020-07-15 04:30
CentOS7下搭建
hadoop2
.7.3完全分布式
这里搭建的是3个节点的完全分布式,即1个nameNode,2个dataNode,分别如下:CentOS-masternameNode192.168.11.128CentOS-node1dataNode192.168.11.131CentOS-node2dataNode192.168..11.1321.首先创建好一个CentOS虚拟机,将它作为主节点我这里起名为CentOS-master,起什么都行
weixin_33737134
·
2020-07-15 04:36
超详细zookeeper集群搭建及解析说明
hadoop2
.0,使用zookeeper的事件处理确保整个集群只有一个活跃的namenode,存储配置信息Hbase,使用zo
独立小桥风满袖
·
2020-07-15 04:42
hadoop
hbase伪分布式环境的搭建
一,实验环境:1,ubuntuserver16.042,jdk,1.83,
hadoop2
.7.4伪分布式环境或者集群模式4,hbase-1.2.6.tar.gz二,环境的搭建1,首先请大家安装好虚拟机运行环境
weixin_30824479
·
2020-07-15 03:42
[Hadoop]单机尝试安装并测试
Hadoop2
.7.1(附带注释脚本)
还算是比较顺利,在代码中注释写得已经比较详细了。附上脚本,有兴趣的朋友可以尝试一下。注意bashrc中添加的环境变量名的修改,否则会出现找不到主类等问题。1###ubuntu14.04LTS23##makehadoopaccount4sudoaddgrouphadoop#makeagroupnamedhadoop5sudoadduser-ingrouphadoophadoop#addanusern
weixin_30755393
·
2020-07-15 03:10
Hadoop集群配置搭建
环境:Centos6.9,
Hadoop2
.7.1,JDK1.8.0_161,Maven3.3.9前言:1、配置一台master服务器,两台或多台slave服务器。
weixin_30276935
·
2020-07-15 02:25
Hadoop2
.x HDFS shell命令
Hadoop2
HDFSshell命令1.hdfsdfs-appendToFile...可同时上传多个文件到HDFS里面2.hdfsdfs-catURI[URI...]查看文件内容3.hdfsdfs-chgrp
weir_威尔
·
2020-07-15 02:19
Sqoop-1.99.7安装配置(详细图文)
环境:centos6.5,
hadoop2
.6.4集群1.解压安装sqoop从官网下载好安装包,发送到集群中任意一台主机即可。
爱萨萨
·
2020-07-15 02:29
技术-大数据
MRUnit使用
mapreduce程序的java框架,它可以很方便地测试Mapper和rudecer程序使用方法:在maven中加入下面配置:org.apache.mrunitmrunit0.9.0-incubating
hadoop2
TheMRUnitbuildprocesshaschangedtoproducemrunit
w98degrees
·
2020-07-15 02:41
hadoop
Hadoop2
.8.5的YARN的高可用集群搭建(YARN HA)
参照:
Hadoop2
.8.5的HDFS的高可用集群搭建(HDFSHA)https://blog.csdn.net/u014635374/article/details/104997451搭建好HDFSHA
蜗牛杨哥
·
2020-07-15 02:38
大数据架构
HA)
Spark操作hbase
一、环境:Haoop2.2.0Hbase版本0.96.2-
hadoop2
,r1581096Spark1.0.0本
OopsOutOfMemory
·
2020-07-15 01:12
spark
Spark学习笔记1. 伪分布式&全分布式环境搭建
安装Linux、JDK等等解压:tar-zxvfspark-2.1.0-bin-
hadoop2
.7.tgz-C~/training/由于Spark的脚本命令和Hadoop有冲突,只设置一个即可(不能同时设置
aimmon
·
2020-07-15 01:31
Spark
Mac下部署单机版spark模式
首先我们从Spark官网上下载Spark的源程序http://spark.apache.org/downloads.html,在页面中选择你需要的版本,本文选择的是最新版本spark-2.1.0-bin-
hadoop2
.7
STHSF
·
2020-07-15 01:28
spark
windows下利用eclipse+maven连接虚拟机上的hadoop
http://blog.fens.me/hadoop-maven-eclipse/问题1:按照文章步骤,采用hadoop-core1.0.3登陆远程
Hadoop2
.0.0-cdh4.1.1时出现ServerIPCversion7cannotcommunicatewithclientversio
inocsin
·
2020-07-15 01:24
hadoop
spark部署standalone集群
spark官网文档:http://spark.apache.org/docs/latest/spark-standalone.html环境linuxcentosspark-1.3.1-bin-
hadoop2
.6jdk1.7python2.6
踏莎行hyx
·
2020-07-15 01:00
python
JavaAPI访问
Hadoop2
.2HA的配置下访问Hbase0.96.2 .
1、确保Hadoop和Hbase服务已经正常启动了2、把hbase-site.xml,core-site.xml,hdfs-site.xml配置文件放到Java工程的src目录下3、引入相关的依赖包4、JavaClient测试访问Hbase集群packagecom.hbase.test;importjava.util.ArrayList;importjava.util.List;importorg
miqi1227
·
2020-07-15 00:15
hadoop
hadoop和hive配置kerbros安全认证
版本:centos7.7
hadoop2
.7.6hive1.2.2部署规划:ip主机服务192.168.216.111hadoop01namenode、resourcemanager、datanode、nodemanager
Aidon-东哥博客
·
2020-07-15 00:15
hive
hive的kerbros配置
hadoop安全配置
kerbros配置
kerbros
hive安全认证
hadoop的日志详解
本文部分资料转自Hadoop日志存放路径详解本文部分资料转自Hadoop历史服务器详解本文部分资料转自董的博客:
Hadoop2
.0中作业日志收集原理以及配置方法一Hadoop日志存放路径详解1Hadoop
Aidon-东哥博客
·
2020-07-15 00:15
大数据
hadoop的日志
yarn的日志
日志查看
container日志
Mac下编译
Hadoop2
.6.0源码
1、环境搭建(1)Hadoop官网下载
Hadoop2
.6.0源码(hadoop-2.6.0-src.tar.gz)https://mirrors.tuna.tsinghua.edu.cn/apache/
顾大静
·
2020-07-15 00:48
分布式系统
mac
hadoop
源码
Ambari搭建Hadoop,Spark,Storm的基础环境安装
环境列表,四台centos7/etc/hosts的配置:172.16.192.130hadoop1172.16.192.129
hadoop2
172.16.192.131hadoop3172.16.192.132ambari-serverambari-server
老生住长亭
·
2020-07-15 00:57
Hadoop中Map端shuffle过程及源码解析
分析的源码是基于
Hadoop2
.6.0。官网上面的MapReduce过程Map端shuffle的过程:在执行每个maptask时,无论map方法中执行什么逻辑,最终都是要把输出写到磁盘上。
等你628
·
2020-07-15 00:04
Hadoop
Hadoop入门学习经历
(回到读研时候,找到了整天码代码的感觉,这酸爽....)推荐两部视频,学习Java的“尚学堂科技_马士兵”以及董西成的“《
Hadoop2
.X大数据平台V3》教程”,后者网上售卖499,感谢网盘。
today0221
·
2020-07-14 23:46
上一页
37
38
39
40
41
42
43
44
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他