E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Hadoop2
Spark2 ON CDH5.15.1
刚开始从Spark官网下,基于
hadoop2
.6.0-cdh5.15.1版本更改pom文件的依赖,改到后面发现是个巨坑,parquet版本不兼容,后面隐性的一大堆Jackson依赖不兼容。
clive0x
·
2020-08-22 18:16
Hbase学习文档(超详细单机安装)
1.2环境要求本文使用系统环境:centOS6.5,hadoop-2.5.2,hbase-0.98.13-
hadoop2
-bin,jdk1.8;可能需要用到的window软件:SwitchHost
风学者
·
2020-08-22 17:22
java
zookeeper
hadoop
hbase
linux
hadoop2
.9.2+hbase2.2.3安装与配置(伪分布式环境下)——Hbase安装与配置
文件准备
hadoop2
.9.2.tar.gz(链接:https://pan.baidu.com/s/19wbFJPeFCv9HwLb1PKnLjQ提取码
itjiangpo
·
2020-08-22 17:09
HBase
浅谈Linux cgroup机制与YARN的CPU资源隔离
好在
Hadoop2
.2版本之后,YARN通过利用Linux系统的cgroup机制支持了CPU资源隔离。本文先简单看看cgroup,然后分析一下YARN的
LittleMagics
·
2020-08-22 17:34
Hadoop
hadoop2
.2.0对应HBase安装说明
HBase0.96.0安装说明注:安装配套
hadoop2
.2.0版本的HBase,需要hbase-0.96.2-
hadoop2
-bin.tar.gz1.1下载安装包下载地址:http://mirror.esocc.com
kuanner
·
2020-08-22 17:00
Hbase启动命令以及错误处理
前提:分布式集群,三个节点,Master,Slave1和Slave2节点,用的是自己安装的zookeeper-3.4.6,hbase版本为:hbase-0.98.6-
hadoop2
,hadoop-2.6.0.1
一只小飞狐
·
2020-08-22 16:06
hbase
eclipse 配置运行hadoop 2.7 程序例子参考步骤
前提:你搭建好了
hadoop2
.x的linux环境,并能够成功运行。还有就是window能够访问到集群。
fhg12225
·
2020-08-22 16:16
hadoop2.x
Hbase 2.1.6安装配置教程(踩坑记录)
前提你已安装好
Hadoop2
.7.x版本,强烈推荐的版本!
chuiguixin3900
·
2020-08-22 16:19
hbase(一)–hbase安装
hbase(一)–hbase安装文章目录hbase(一)--hbase安装一、简介二、安装步骤2.1安装
hadoop2
.2下载hbase2.3解压hbase2.4修改hbase-env.sh文件2.5修改
panda-star
·
2020-08-22 16:46
hbase
hbase1.2.6完全分布式安装
环境,参考之前的两篇博文:jdk1.7
hadoop2
.6.0完全分布式一个master,slave1,slave2,slave3zookeeper3.4.6完全分布式安装与配置:(以下步骤都在master
baixiao9898
·
2020-08-22 16:40
hadoop相关知识汇总
HadoopDistributedFileSystem):HDFS架构(1.0)HDFS特性MapReduce体系结构(1.0)MapReduce特性YARN(YetAnotherResourceNegotiator)YARN基本架构
Hadoop2
林里灰羊
·
2020-08-22 16:52
大数据
HappyBase安装&Python操作HBase
前期工作
Hadoop2
.7.4Hbase1.2.6简介浏览此教程前,请确认已做好以上前期工作,本教程主要是实现用Python语言操作Hbase。主要通过HappyBase这个包来实现。
树蛙民工
·
2020-08-22 16:10
大数据开发
hadoop
python
hbase
Linux安装Hbase(CentOS7+Hbase1.2.5+
Hadoop2
.8.0)
转自https://blog.csdn.net/pucao_cug/article/details/72229223
BIGE_BIGGER
·
2020-08-22 15:08
虚拟机ubuntu
Linux安装Hbase(CentOS7+Hbase1.2.5+
Hadoop2
.8.0)
1下载和解压缩1.1下载1.2解压缩2配置2.1环境变量配置2.2conf目录下的配置2.2.1修改hbase-env.sh文件2.2.2修改配置文件hbase-site.xml2.2.3修改regionservers文件3启动和测试3.1启动3.2测试3.2.1用浏览器访问Hbase状态信息3.2.2启动hbase的命令行关键词:LinuxCentOSHadoopHbaseZookeeperJA
陈南志
·
2020-08-22 15:59
Linux
运维
CentOS
hadoop
Hbase
ZooKeeper
将本地jar添加进本地仓库
例如将本地使用spark-assembly-1.4.1-
hadoop2
.3.0.jar的添加到maven仓库:mvninstall:install-file-DgroupId=local.spark-DartifactId
拱头
·
2020-08-22 15:44
编译工具
maven
Hadoop集群各守护进程入门级详解
现在所被人熟知的有hadoop1.x和
hadoop2
.x两大版本,不同版本的had
PassionXxt
·
2020-08-22 13:53
Hadoop
什么是Hadoop的HA机制?
Hadoop的HA机制前言:正式引入HA机制是从
hadoop2
.0开始,之前的版本中没有HA机制1.1HA的运作机制(1)hadoop-HA集群运作机制介绍所谓HA,即高可用(7*24小时不中断服务)实现高可用最关键的是消除单点故障
十色花
·
2020-08-22 04:45
Hadoop
Java
深入剖析阿里巴巴云梯YARN集群
阿里巴巴作为国内使用Hadoop最早的公司之一,已开启了Apache
Hadoop2
.0时代。
原文链接
·
2020-08-22 02:56
阿里巴巴
云梯
Hadoop
基于Spark的TF-IDF算法的中文文本相似度实现
Sparkversion:spark2.2.0Hadoopversion:
Hadoop2
.6.5Scalaversion:scala2.11ansjversion:5.1.5第一、先说下应用场景吧,用户给出一段文字然后我返回十个与这段文字最相似的文件名称
cap3396g
·
2020-08-22 01:07
spark
人工智能
大数据
工作中的shell
/bin/bashzkhost='
hadoop2
004
hadoop2
005
hadoop2
006'forzkin$zkhostdossh-T$zk/dev/null2>&1&EOFecho从节点$nim启动
先生_吕
·
2020-08-22 00:55
编译 hadoop-eclipse-plugins-2.8.5.jar 文件
目录1、编译准备1.1.安装Ant1.2.下载安装Hadoop-2.8.5.tar.gz1.3.下载安装Eclipse1.4.下载解压
hadoop2
x-eclipse-plugin-master.zip2
weixin_30418341
·
2020-08-21 22:02
Hadoop2
.6.5单机安装
Hadoop2
.6.5单机安装JDK的安装配置JDK环境变量[root@spark1soft]#vim/etc/profile#JDK环境变量配置#exportJAVA_HOME=/application
shenzhen_zsw
·
2020-08-21 21:31
【大数据】
【大数据】【Hadoop】
源码下载地址
Hadoop2
.6.0-cdh5.4.1源码编译安装http://www.tuicool.com/articles/vQzMRbQcdh源码下载地址:http://archive-primary.cloudera.com
qaws962839575
·
2020-08-21 20:38
hadoop学习笔记3
hadoop2
.5.2单机模式环境配置和eclipse运行
core-site.xmlhadoop.tmp.dir/home/mouap/hadoop/tmpfs.defaultFShdfs://localhost:9000io.file.buffer.size4096hdfs-site.xmldfs.nameserviceshadoop-cluster1集群别名,可以有多个,逗号分割dfs.namenode.name.dirfile:///home/mo
若水_若水
·
2020-08-21 20:49
大数据
Hadoop安装流程&使用CDH版的Hadoop搭建HDFS环境
参考文档:http://hadoop.apache.org/docs/r2.6.0/hadoop-project-dist/hadoop-common/SingleCluster.html软件下载cdh-
hadoop2
.6.0http
艾艾猫dori
·
2020-08-21 19:16
大数据
Hadoop单机版安装
环境:centos6.2,jdk7_u45,
hadoop2
.2.0下载,解压过程就不说了,直接环境配置(包括JAVA_HOME的配置,以及HADOOP_HOME的环境变量配置,都略过了)。
天道酬勤厚积薄发
·
2020-08-21 19:09
Win10环境下Hadoop(单节点伪分布式)的安装与配置--bug(yarn的8088端口打不开+
一、本文思路【1】、配置java环境–JDK12(Hadoop的底层实现语言是java,hadoop运行需要JDK环境)【2】、安装Hadoop1、解压
hadoop2
、配置hadoop环境变量3、配置Hadoop
老妹儿的
·
2020-08-21 19:25
windows
hadoop
yarn
海量数据处理
1.
Hadoop2
.HPCC系统(High-PerformanceClusterComputing高性能集群计算),http://hpccsystems.com/
flserver
·
2020-08-21 19:55
hadoop2
.7.1安装部署错误,求大神指导
环境,三台虚拟机,centos6.5,jdk1.7.0_71,hadoop版本
hadoop2
.7.1三台机分别配置/etc/sysconfig/network为NETWORKING=yesHOSTNAME
charsli
·
2020-08-21 18:23
zookeeper-3.4.5集群的配置
Slave1.Hadoop、Slave2.Hadoop、Slave3.Hadoop其中Hadoop的NameNode部署在Master.Hadoop上使用的hadoop用户:由root用户创建useradd
hadoop2
汐朔
·
2020-08-21 18:33
hadoop
大数据-什么是Hadoop?Hadoop的起源与国内应用、Hadoop作为插件在eclipse中的使用
二、版本Hadoop1.0:只包含HDFS以及MapReduce两个模块
Hadoop2
.0:完全不同于1.0的架构,包含HDFS、MapReduce以及Yarn三个模块H
静坐听雨声ㅤ
·
2020-08-21 17:06
大数据
hadoop
大数据
java
Hadoop 2.7.1发布啦
Apache
Hadoop2
.7.1于美国时间2015年07月06日正式发布,本版本属于稳定版本,是自
Hadoop2
.6.0以来又一个稳定版,同时也是
Hadoop2
.7.x版本线的第一个稳定版本,也是2.7
过往记忆
·
2020-08-21 16:52
大数据
hadoop学习记录之hadoop版本升级问题解决
hadoop学习记录之hadoop版本升级问题解决我之前用的是
hadoop2
.4.1是32位的,在运行程序时发现不行了,必须得升级,
hadoop2
.5.1开始支持64位的了。
JustInToday
·
2020-08-21 16:54
hadoop学习笔记
hadoop的部署总共有3种类型
基于yarn平台的
Hadoop2
.2.0在前几天已经发布稳定版本了新版本解决了1.x中的NameNode,JobTracker单点故障问题,使用yarn统一了分布式开发的集群平台,给集群的资源管理及部署大大提供了便利
tao_wei162
·
2020-08-21 16:47
HDFS编程实战中出现的问题
问题来源:慕课网——厦门大学林子雨老师主讲《大数据技术原理与应用》——3.6-HDFS编程实战系统环境:ubuntu14.04LTS
Hadoop2
.7.6Eclipse3.8.1javaSE-1.7补充
黯叶
·
2020-08-21 15:17
编程技术
大数据笔记(四):Hadoop 2.7.7+Scala+Spark 完全分布式集群搭建
本文记录了使用3台物理机部署Hadoop完全分布式集群的过程,所使用系统为Ubuntu16.04LTS,Hadoop版本为
Hadoop2
.7.7。
Kevin@1997
·
2020-08-21 15:42
大数据学习
hadoop2
.7迁移到hadoop3.1,hive数据迁移
r3.1.0/hadoop-distcp/DistCp.html关于distcp的几点说明:1.如果跨版本迁移,官网推荐源目标要使用webhftp协议(此处有坑,hadoop0.x和1.x时时hftp协议,
hadoop2
loveProLife
·
2020-08-21 14:44
大数据平台及运维类
hadoop安装的时候,提前确认hadoop版本是32位还是64位。
后来官网从
hadoop2
.5版本开始就提供了64位。我们来从官网下载的
hadoop2
.4.1安装包.hadoop是32位还是64位,我们查看本地库即可。
levy_cui
·
2020-08-21 14:51
hadoop3.1.0 HDFS快速搭建伪分布式环境
安装Hadoop1.解压移动#1.解压tar.gztar-zxvfhadoop-3.1.0.tar.gz#2.将hadoop.tar.gz移动到usr目录下sudomvhadoop-3.1.0/usr/
hadoop2
le3t
·
2020-08-21 14:14
Hadoop3.0版本新特性
Hadoop2
.0是基于JDK1.7开发的,而JDK1.7在2015年4月已停止更新,这直接迫使Hadoop社区基于JDK1.8重新发布一个新的Hadoop版本,而这正是hadoop3.0。
雾幻
·
2020-08-21 14:41
hadoop
(Hadoop入门系列一)Hadoop集群搭建
Hadoop所需环境配置操作系统:Ubuntu1604-64位Hadoop版本:Apache
hadoop2
.6.1配置集群hostnameHadoop集群由一个master节点和一个slave节点组成:
jy_arm
·
2020-08-21 14:25
Hadoop
hadoop版本总结
其中从0.20.x分支发展出来的是:hadoop1.0,CDH3从0.23.x分支发展出来的是:hadoop-alpha,CDH4下面具体说hadoop1.0、2.0和CDH3、CDH4:Apache
Hadoop2
012
jimmylsp
·
2020-08-21 14:51
hadoop
hadoop版本的新特性
ApacheHadoopApache版本衍化ApacheHadoop版本分为两代,我们将第一代Hadoop称为Hadoop1.0,第二代Hadoop称为
Hadoop2
.0。
珠穆拉玛峰
·
2020-08-21 14:15
hadoop学习
Hadoop——更新中
1、添加一个hadoop用户,并为其设置密码:#添加hadoop用户sudouseraddhadoop#设置hadoop用户密码passwd
hadoop2
、修改主机名:(需要重启虚拟机才能看见效果)方式一
农夫不相信
·
2020-08-21 13:00
hadoop hdfs 全分布式(Fully-Distributed Operation) 部署
使用hadoop版本:Apache
Hadoop2
.6.5使用4个虚拟机节点以及角色:hadoop01(192.168.92.66)namenodehadoop02(192.168.92.67)datanode
ccx_jy
·
2020-08-21 13:58
hadoop
hdfs
Hadoop版本升级(2.7.6 => 3.1.2)
自己的主机上的Hadoop版本是2.7.6,是测试用的伪分布式Hadoop,在前段时间部署了HiveonSpark,但由于没有做好功课,导致了Hive无法正常启动,原因在于Hive3.x版本不适配
Hadoop2
aju1790
·
2020-08-21 13:25
hadoop 2.6.4 编译
hadoop2
.6.4编译-解决native编译问题问题起因为了解决执行hadoop命令时总有警告:WARNutil.NativeCodeLoader:Unabletoloadnative-hadooplibraryforyourplatform
SagarYu
·
2020-08-21 13:15
hadoop
《Hadoop》之"踽踽独行"(十)快速搭建一个Hadoop完全分布式集群
截止到今天,我已经在博客中给大家介绍了hadoop的本地模式、伪分布式搭建,并且在《Hadoop》之"踽踽独行"(四)中也总结了在CentOS6.5平台上搭建的
hadoop2
.7.3集群的步骤。
从明老师
·
2020-08-21 13:21
hadoop
大数据
Apache Hadoop进行版本升级的操作
3月份,公司最大的集群要从
Hadoop2
.4升级到
Hadoop2
.8,是一个大版本跨度的升级操作,所以前期对
Hadoop2
.8版本进行了很多功能和性能方面的验证和测试。同时也拟定了几个升级和回滚方案。
Jaeger1024
·
2020-08-21 12:34
大数据
Hadoop
HDFS
Apache Hadoop 3.0.0-alpha1版发布做了哪些改进
ApacheHadoop3.0.0-alpha1包含很多重要的改进在
hadoop2
.x的基础上。这个是一个alpha版,通过开发者和使用者帮助测试和搜集反馈。API的稳定性和质量还不能保证。概述提
wxzsebastian
·
2020-08-21 12:54
hadoop
上一页
22
23
24
25
26
27
28
29
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他