E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Hadoop2
Spark2.2.1+
hadoop2
.6.1安装配置成功运行WordCount
hadoop2
.6.1安装配置可以参考:分布式环境搭建redhat7+
hadoop2
.6.1+jdk1.8+WordCount成功运行例子Scala安装与配置1.下载Scala包2.新建一个目录,将scala
Jiawen_
·
2020-07-06 13:55
spark学习笔记
Hive数据仓库ODS层数据存储设计
软件环境
Hadoop2
.6.0-cdh5.9.0Hive1.1.0-cdh5.9.0Zookeeper3.4.5-cdh5.9.0需求背景数据来源是将8台服务器日志各自压缩成*.gz(8个gz文件)后,
RotKang
·
2020-07-06 11:57
Hive
主成分分析(PCA)原理详解
转载网址:http://blog.csdn.net/zhongkelee/article/details/44064401转载网址:https://www.cnblogs.com/
hadoop2
015/
宇文凡宇
·
2020-07-06 11:18
PCA
PCA
笔记:1、Hadoop集群配置中的坑-【slave节点上的datanode启动失败】
有一种原因是没有配置etc/hosts观察slave节点的logs/hadoop-root-datanode-
hadoop2
.log(备注:
hadoop2
是我的slave主机名)出现如下错误代码:ERRORorg.apache.hadoop.hdfs.server.datanode.DataNode
windcore
·
2020-07-06 11:54
Hadoop学习
hadoop2
.X视频教程全集下载
1、
Hadoop2
.X大数据平台V3视频教程(14周全)http://pan.baidu.com/s/1qW4rPSg密码:7ohd2、Hadoop&Spark企业应用实战链接:http://pan.baidu.com
yierxiansheng
·
2020-07-06 10:04
Hadoop2
.0完全分布式安装(无HA 联邦)
servicenetworkrestart(/etc/rc.d/init.d/networkrestart)验证:执行命令ifconfig2.修改主机名1.修改会话中的主机名,执行命令hostname
hadoop2
龙行天下学大象
·
2020-07-06 09:11
hadoop
hadoop 2.2.0集群配置
hadoop-2.2.0环境搭建在这里我们选用4台机器进行示范,各台机器的职责如下表格所示hadoop0hadoop1
hadoop2
hadoop3是NameNode吗?
雪峰庙
·
2020-07-06 09:08
新手指导
spark 与 hadoop的hdfs的连接(亲测有效)
出处::http://blog.csdn.net/oopsoom/article/details/24257981,目前Spark的Runon的Hadoop版本大多是
hadoop2
以上,但是实际上各个公司的生产环境不尽相同
星之擎
·
2020-07-06 09:14
整理
从hive中导出数据到clickhouse中(亲测可用)
waterdrop1.4以上,并解压3.vimconfig/waterdrop-env.sh#指定Spark安装路径SPARK_HOME=${SPARK_HOME:-/usr/local/spark-2.4.3-bin-
hadoop2
.7
世Kevin
·
2020-07-06 08:49
数据导出
eclipse远程连接Hadoop
关于Hadoop环境搭建可参照本人之前写的文章:Centosmini配置
hadoop2
.7.3废话不多说,直接上干货。
xiakexiaohu
·
2020-07-06 08:13
Hadoop大数据学习
树莓派hadoop集群搭建
软件版本:hadoop-2.6.4;hbase-0.98.20-
hadoop2
;zookeeper-3.4.6使用的源:debhttp://mirrors.ustc.edu.cn/raspbian/raspbian
小五-
·
2020-07-06 08:24
hadoop
CentOS7安装
Hadoop2
.7.3完整流程及总结
一、前言配置一台master服务器,两台(或多台)slave服务器;master可以无密码SSH登录到slave;卸载centos7自带的openjdk,通过SecureCRT的rz命令上传jdk-7u79-linux-x64.tar.gz文件到服务器,解压安装JDK;解压安装Hadoop,配置hadoop的core-site.xml、hdfs-site.xml、mapred-site.xml、y
wl0909
·
2020-07-06 07:24
实验文档
centos
jdk
hadoop
虚拟机
helloworld
hadoop的部署
1.hadoop本地部署1.建立hadoop用户,并且设置密码[root@server5~]#useradd-u1000hadoop[root@server5~]#passwd
hadoop2
.以hadoop
崔沐橙
·
2020-07-06 07:44
Hadoop
Hadoop 2.4.1+HBase 0.98.6.1 分布式安装
A:先配置
Hadoop2
.4.1的集群环境参考:http://blog.csdn.net/wind520/article/details/38317937B:配置HBase参考:http://abloz.com
wind520
·
2020-07-06 07:39
HBase
Idea远程连接Hadoop运行MapReduce
Idea远程连接Hadoop运行MapReduce环境:
hadoop2
.7.1虚拟机伪分布式集群虚拟机镜像文件下载看到网上有许多文章,都很复杂,其实只需要以下三步就可以使用Idea远程连接Hadoop运行
池边的树
·
2020-07-06 05:39
hadoop
centos7搭建
hadoop2
.9.2完全分布式+zookeeper部署+hbase部署
目录一、Hadoop完全分布式集群搭建部署1、配置静态IP2、关闭防火墙3、修改hostname及hosts映射4、创建Hadoop账号5、配置SSH6、安装jdk7、修改时区8、安装Hadoop9、配置Hadoop文件10、主机ping通centos11、启动hadoop进程可能遇到的问题:二、Zookeeper安装部署1、环境变量配置2、配置zoo.cfg文件3、创建myid文件4、启动三、H
Marshall_He
·
2020-07-06 05:30
Hadoop
Hbase
sqoop2安装与配置以及常见问题
1.sqoop2的版本:sqoop-1.99.7-bin-
hadoop2
00.tar.gz解压缩即可:tar-zxvfsqoop-1.99.7-bin-
hadoop2
00.tar.gz2.环境变量的配置
磨刀大神
·
2020-07-06 04:00
大数据协作框架
Linux
hadoop2
.6.5搭建伪分布式
先搭建单机hadoop,可以进入下面网址参考教程:https://mp.csdn.net/postedit/885300141、先进行配置bash_profile输入命令:vim~/.bash_profile进入文件里面配置下图的环境:(加入你的hadoop路径)并生效环境变量:source~/.bash_profile加入jdk:进入cd/usr/local/hadoop/etc/hadoop/
我就是DaLing呀!
·
2020-07-06 04:00
hadoop与hbase的伪分布式代码测试环境的搭建
安装包下载我用的是
hadoop2
.6.0,Hbase0.90.4(用这么老的版本的Hbase都是因为nutch)。
trieyouth
·
2020-07-06 03:47
Centos7虚拟机 搭建 Hadoop3.1.1 教程
本次测试所用软件及环境Centos7jdk8Vmware12prohadoop3.1.11、下载
Hadoop2
、安装3个虚拟机实现ssh面密码登陆2.1安装3个虚拟机这里使用的Linux系统是Centos7
年年年年年
·
2020-07-06 03:20
Hadoop
环境配置
Linux安装hadoop配置完全分布式
搭建hadoop完全分布式工具:CentOS6.5jdk8
hadoop2
.7.6安装包都是.tar.gz后缀三台虚拟机192.168.136.133Master192.168.136.134Slave1192.168.136.135Slave2
长安一片月
·
2020-07-06 03:52
hadoop学习
Hadoop伪分布式安装
1.环境信息elementary14.04Java1.8.0_151(/apps/jdk1.8.0_151)
Hadoop2
.6.5(/apps/hadoop)用户名bigdata、密码123、主机名
hadoop2
浅墨微蓝
·
2020-07-06 03:45
bigdata
在虚拟机上安装Hadoop集群
首先介绍一下安装流程:1下载
hadoop2
安装3个虚拟机并实现ssh免密码登录2.1安装3个机器2.2检查机器名称2.3修改/etc/hosts文件2.4给3个机器生成秘钥文件2.5在hserver1上创建
森先生
·
2020-07-06 02:23
Linux
mapreduce运行内存及JVM配置错误running beyond physical
title:Hive1.2.1安装笔记date:2016/8/220:47:36tags:Hivecategories:大数据环境ubuntu16.044台机器的
Hadoop2
.7.2集群Mysql安装在
Skye_kh
·
2020-07-06 02:31
hadoop-ha集群搭建
hadoop2
.0已经发布了稳定版本了,增加了很多特性,比如HDFSHA、YARN等。
中关村村委
·
2020-07-06 02:23
运行spark及hadoop版本不一致解决方法
由于代码是基于Spark2.0.1、Scala2.11.8、
Hadoop2
.7.3以及JAVA1.8,而我自己电脑配置的是Spark1.6.1、Scala2.11.8、Hadoop1.2.1以及JAVA1.8
weixin_37979944
·
2020-07-06 02:54
spark
org.apache.hadoop.hive.metastore.HiveMetaException: Failed to get schema version.
schematool-dbTypemysql-initSchemaSLF4J:ClasspathcontainsmultipleSLF4Jbindings.SLF4J:Foundbindingin[jar:file:/apps/spark-1.6.3-bin-
hadoop2
.6
weixin_34391445
·
2020-07-06 01:18
完全分布式集群(五)Hbase-1.2.6.1安装配置
独角兽企业重金招聘Python工程师标准>>>环境信息完全分布式集群(一)集群基础环境及zookeeper-3.4.10安装部署hadoop集群安装配置过程安装hive前需要先部署hadoop集群完全分布式集群(二)
hadoop2
.6.5
weixin_34203832
·
2020-07-06 00:08
hadoop2
.0 和1.0的区别
1.Hadoop1.0中的资源管理方案Hadoop1.0指的是版本为ApacheHadoop0.20.x、1.x或者CDH3系列的Hadoop,内核主要由HDFS和MapReduce两个系统组成,其中,MapReduce是一个离线处理框架,由编程模型(新旧API)、运行时环境(JobTracker和TaskTracker)和数据处理引擎(MapTask和ReduceTask)三部分组成。Hadoo
weixin_33851429
·
2020-07-05 23:26
配置高可用的Hadoop平台
1.概述在
Hadoop2
.x之后的版本,提出了解决单点问题的方案--HA(HighAvailable高可用)。
weixin_33777877
·
2020-07-05 23:45
Hadoop学习笔记(四)Hadoop伪分布式配置
第一部分是Hadoop1.0配置,第二部分是
Hadoop2
.0的配置,大家可以自己选择查看。
weixin_33774883
·
2020-07-05 23:13
Linux下配置Hadoop全分布式环境
hadoop2
.0已经发布了稳定版本了,增加了很多特性,比如HDFSHA、YARN等。hadoop-2.4.1又增加
weixin_33736649
·
2020-07-05 22:02
HADOOP之3节点集群
hadoop-2.4.1的安装包是在32位操作系统编译的,因为hadoop一些C++的本地库,所以如果在64位的操作上安装hadoop-2.4.1就需要重新在64操作系统上重新编译2.本次搭建使用了2.7.1,
hadoop2
.7.1
weixin_33676492
·
2020-07-05 22:25
Windows环境下安装Hadoop+Hive的使用案例
Hadoop安装:首先到官方下载官网的
hadoop2
.7.7,链接如下https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/找网盘的hadooponwindows-master.zip
weixin_30615767
·
2020-07-05 21:59
一键配置高可用Hadoop集群(hdfs HA+zookeeper HA)
台节点,主节点建议2G内存,两个从节点1.5G内存,桥接网络关闭防火墙配置ssh,让节点之间能够相互ping通准备软件放到autoInstall目录下,已存放hadoop-2.9.0.tar.gz备注:
hadoop2
weixin_30595035
·
2020-07-05 21:42
Linux下
Hadoop2
.7.1集群环境的搭建(超详细版)
本文旨在提供最基本的,可以用于在生产环境进行Hadoop、HDFS分布式环境的搭建,对自己是个总结和整理,也能方便新人学习使用。一、基础环境在Linux上安装Hadoop之前,需要先安装两个程序:1.1安装说明1.JDK1.6或更高版本(本文所提到的安装的是jdk1.7);2.SSH(安全外壳协议),推荐安装OpenSSH。下面简述一下安装这两个程序的原因:1.Hadoop是用Java开发的,Ha
weixin_30559481
·
2020-07-05 21:16
CentOS7:
hadoop2
.6.5 HA yarn 高可用集群搭建 hbase-0.98.12.1-
hadoop2
-bin.tar.gz mysql5.7 hbase-0.98.12.1 apac.
操作系统是CentOS7节点规划ntp校时;每一台虚拟机yuminstallntp-yservicentpdrestartservicentpdstopntpdate210.72.145.39date查看日期时间timedatectl查看时区ln-sf/usr/share/zoneinfo/Asia/Shanghai/etc/localtime设置时区永久关闭防火墙 systemctlstopfi
weixin_30501857
·
2020-07-05 21:29
Hadoop安装教程_单机/伪分布式配置
本教程基于原生
Hadoop2
,在
Hadoop2
.6.0(stable)版本下验证通过,可适合任何
Hadoop2
.x.y版本,例如
Hadoop2
.7.1,
Hadoop2
.4.1等。
Claire_ljy
·
2020-07-05 20:33
企业应用hadoop视频教程多套合集--百度网盘下载
1、
Hadoop2
.X大数据平台V3视频教程(14周全)http://pan.baidu.com/s/1qW4rPSg密码:7ohd2、Hadoop&Spark企业应用实战链接:http://pan.baidu.com
王一洋
·
2020-07-05 20:55
hadoop
Ubuntu系统下的Hadoop集群(1)_Hadoop安装教程_单机/伪分布式配置
Hadoop安装教程_单机/伪分布式配置_
Hadoop2
.6.0/Ubuntu14.04当开始着手实践Hadoop时,安装Hadoop往往会成为新手的一道门槛。
Wang_Zhenwei
·
2020-07-05 19:27
Hadoop
转载
Spark shell退出操作以及出现问题的解决方法
wugaosheng:spark-2.2.0-bin-
hadoop2
.7eric$.
农民小飞侠
·
2020-07-05 19:25
spark机器学习
本地
hadoop2
.6部署注意事项
解压win64+
hadoop2
.6.rar,将解压的所有文件覆盖并替换到hadoop-2.6.0.tar.gz解压文件
稀饭俊
·
2020-07-05 18:06
hadoop3.1.3-spark-2.4.6-bin-
hadoop2
.7-hive-3.1.2单机版本安装
环境:centos7.4vim/etc/profileexportJAVA_HOME=/usr/java/java8exportJRE_HOME=/usr/java/java8/jreexportCLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jarexportHIVE_HOME=/u
镜水灵动
·
2020-07-05 18:49
java
大数据
hadoop
spark
大数据
hive
sbt创建分布式spark任务
目录sbt的目录格局一般为lib/(该目录下存储与编译相关的jar文件)project/src/main/scala/src/main/test/scala复制jar文件spark-assembly*
hadoop2
.5.1
红旗下的IT工人
·
2020-07-05 17:36
hive遇到的问题java.lang.IncompatibleClassChangeError: Found class jline.Terminal, but interface was expec
针对这个java.lang.IncompatibleClassChangeError:Foundclassjline.Terminal,butinterfacewasexpected错误如下解答:尝试了把
hadoop2
.6
knowfarhhy
·
2020-07-05 16:31
hive
Spark +hadoop 完全分布式搭建 以及常见问题
所用信息版本:主节点1台:ubuntu16.04desktop.从节点2台:ubuntu14.04server
hadoop2
.7.4spark2.2.0java1.8scala2.12.3(搭建过程也是
流風回雪_YZK
·
2020-07-05 16:45
hadoop
spark
ubuntu
hadoop的第一个程序wordcount实现
具体安装步骤请见博客:linux
hadoop2
.7伪分布式安装简单几步实现1.在本地新建一个文件,笔者在~/hadoop-2.7.1/local_data文件夹新建了一个文本文件hello.txt,local_data
CourageK
·
2020-07-05 16:43
linux
hive beeline拒绝连接的错误
1、启动
hadoop2
、开启metastore在开启hiveserver2服务nohuphive--servicemetastore>>log.out2>&1&nohuphive--servicehiveserver2
zhengqiangtan
·
2020-07-05 15:28
hive
使用Kettle向CDH集群中Hive导入数据表
Kettle向CDH集群中Hive导入数据表使用Kettle向CDH集群中Hive导入数据表步骤概览详细步骤环境准备环境配置数据抽取过程开发CDH集群搭建好了,需要向Hive中导入数据,环境如下:CDH版本:
Hadoop2
.6.0
俊不见高堂明镜
·
2020-07-05 15:45
kettle
YARN的架构及原理
产生背景a)JobTracker单点故障b)JobTracker承受的访问压力大,影响系统的扩展性c)不支持MapReduce之外的计算框架,比如storm、spark、flink什么是YARNYARN是
Hadoop2
.0
墨梅寒香
·
2020-07-05 15:59
工具介绍
大数据
自学
上一页
46
47
48
49
50
51
52
53
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他