E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Hadoop集群
Hadoop集群
的基本操作(四:Hive的基本操作)
实验目的要求目的:(1)掌握数据仓库工具Hive的使用;要求:掌握数据仓库Hive的使用;能够正常操作数据库、表、数据;实验环境五台独立PC式虚拟机;主机之间有有效的网络连接;每台主机内存2G以上,磁盘50G;所有主机上安装CentOS7-64位操作系统;所有主机已完成静态网络地址、主机名、主机地址映射的配置;已完成Hadoop平台的搭建;已完成MySQL数据库平台的搭建;已完成Hbase的安装;
Eyeshort
·
2020-07-05 06:50
操作系统
大数据技术
Hadoop学习
Hadoop集群
搭建(四:Zookeeper环境安装)
实验目的要求目的:1、掌握在完全分布模式的整合平台中Zookeeper的完全分布模式的安装要求:完成Zookeeper的完全分布农事的安装;Zookeeper服务能够正常启动和连接;Zookeeper控制台能够正常进入;Zookeeper控制台命令能够正常使用实验环境五台独立PC式虚拟机。主机之间有有效的网络连接每台主机内存2G以上,磁盘50G。所有主机上安装CentOS7-64位操作系统。所有主
Eyeshort
·
2020-07-05 06:50
操作系统
大数据技术
Hadoop学习
# 8_2VirtualBox+Ubuntu搭建
Hadoop集群
(一)
8_2VirtualBox+Ubuntu搭建
Hadoop集群
(一)所需环境:ubuntuOracleVMVirtualBoxjdk:jdk-8u221-linux-x64.tar.gzhadoop:hadoop
MarlonBrando1998
·
2020-07-05 06:41
Training
ubtun
hadoop
[大数据]Hadoop大数据开发基础----环境配置(一)
大数据的概念就不在此赘述了,自己看书了解一下~下面说一下
Hadoop集群
的搭建及配置1.Hadoop相关软件及版本软件版本备注LinuxOsCentOS6.864位JDK1.7+64位VMware14pro
qq_36563021
·
2020-07-05 06:40
HDFS 添加组和用户
Hadoop3.1.2独立模式,单节点和多节点伪分布式安装与使用创建
Hadoop集群
的时候,创建并使用了hadoop用户,Hadoop也装在hadoop用户目录下。
shpunishment
·
2020-07-05 05:09
大数据
Host key verification failed.集群启动问题解决
背景描述:现有三台虚拟机节点chdp11,chdp12,chdp13用来搭建
hadoop集群
,在此将chdp11设为namenode,chdp13设为resourcemanager;也就是说namenode
.破晓.
·
2020-07-05 05:09
Bigdata
errorRecoder
关于Zookeeper
如MapReduce就是一个分布式服务,MapReduce会将所做的工作分发给
Hadoop集群
中的多台服务器共同实现。如何
qq_33890533
·
2020-07-05 05:57
大数据
Flink部署
部署1.standalone模式1)flink/conf/flink-conf.yaml文件2)修改/conf/slave文件3)分发到其他节点4)执行程序2.yarn模式1)启动
hadoop集群
2)启动
余崇富
·
2020-07-05 05:30
Flink
Hadoop 集群搭建伪分布式、集群/分布式
CentOSCentOS7设置静态IP以及windows下ping不通虚拟机、虚拟机ping不通外网解决方案本教程适用于在CentOS7系统中安装Hadoop2,详细介绍了从系统环境配置、Java环境配置到Hadoop安装及
Hadoop
Swt_BigData
·
2020-07-05 04:21
Hadoop集群
hadoop的高可用机制和联邦机制
所以在实际应用中一般会使用高可用集群(HA),在
hadoop集群
中配置两个NameNo
冥更
·
2020-07-05 03:23
大数据
HDFS机架感知概念及配置实现
告诉
Hadoop集群
中哪台机器属于哪个机架二、那么怎么告诉呢?
your_blue_sky
·
2020-07-05 01:46
大数据-HDFS
【Hadoop】图解Hadoop架构
这是针对目前测试环境中
Hadoop集群
架构的一个简单的总结,下图用图来简单表现:关于HBase与ZooKeeper,可以分三点来描述:一、Zookeeper集群的职责1、负责监控整个hbase集群中节点的状态和通信
moxiaomomo
·
2020-07-05 00:59
Hadoop
ARM平台搭建
Hadoop集群
常规意义上的
Hadoop集群
都是搭建在商业服务器上的,利用大规模柜式服务器的强劲硬件资源进行大数据分布式计算。同时Hadoop是由Java编写的,运行在JVM之上。
Lannister_wf
·
2020-07-05 00:01
Big
data
is
coming
Hadoop中Pig,Hive和Hbase的区别
建立在
Hadoop集群
的最顶层,对存储在Hadoop群上的数据提供类SQ
Coding小飞侠
·
2020-07-05 00:00
云计算
大数据
完全分布式
hadoop集群
安装之一:VMWare Vsphere ESXI 5.1 安装配置
本人要搭建一个完全分布式
hadoop集群
,为了节约成本决定用一个高配置的计算机,用虚拟化软件虚拟成4台Linux计算机(centos6.0)。其中一台作为Master,另外3台作为Slave。
爱吃烤面筋的鱼
·
2020-07-05 00:28
Hadoop
Win7下用virtualbox 虚拟3台虚拟机搭建
hadoop集群
用了这么久的hadoop,只会使用streaming接口跑任务,各种调优还不熟练,自定义inputformat,outputformat,partitioner还不会写,于是干脆从头开始,自己搭一个玩玩,也熟悉一下整体架构。整体环境:主机Win7i54核8G内存笔记本;虚拟机(客户机)采用Centos5.9(用这个的原因是不想用图形界面,并且以后还想试着装一下ICE)3台互联的虚拟机搭建Hadoo
lwmonster
·
2020-07-04 23:32
centos
hadoop
virtualbox
Spark on YARN
启动SparkOnYARN确认HADOOP_CONF_DIR或者YARN_CONF_DIR指向的目录包含
Hadoop集群
的配置文件。Spark依赖这些配置文件的内容写HDFS或者向YARN申请资源。
GoofyWang
·
2020-07-04 23:30
大数据学习之Hbase shell的基本操作
安装完HBase之后,启动
hadoop集群
(利用hdfs存储),启动zookeeper,使用start-hbase.sh命令开启hbase服务,最后在shell中执行hbaseshell就可以进入命令行界面
lmseo5hy
·
2020-07-04 22:22
Zookeeper在
Hadoop集群
下的安装
Zookeeper在
Hadoop集群
下的安装目录Zookeeper在
Hadoop集群
下的安装一、
Hadoop集群
的配置二、zookeeper安装及配置(集群下的虚拟机都需要)三、启动Zookeeper一
树很懒~
·
2020-07-04 22:39
学习摸索
Hadoop
第二讲:大数据处理架构Hadoop
2.1概述2.2Hadoop项目结构2.3Hadoop的安装和使用2.4
Hadoop集群
的部署与使用2.1.1Hadoop简介Hadoop是Apache软件基金会旗下的一个开源分布式计算平台,为用户提供了系统底层细节透明的分布式基础架构
lihuanqing011
·
2020-07-04 21:08
大数据
Hadoop
Hadoop集群
部署重要步骤记录
一、角色规划
Hadoop集群
机器命名规范如下,假如有3台机器,角色混部。
sh_qd
·
2020-07-04 21:00
hadoop
配置机架感知
机架感知是一种优化
hadoop集群
的方式,使hdfs能更加智能的放置副本(replica),以取得性能和弹性的平衡。
皮皮的雅客
·
2020-07-04 20:44
◆【大数据】
hadoop面试题总结
2、
hadoop集群
可以从哪几个方面优化?块的大小怎么设置?槽位怎么设置?3、mapreduce程序的执行过程是怎么样的?4、mapreduce程序中join和groupby是怎么实现的?
追寻北极
·
2020-07-04 20:55
cloud
最新hadoop视频教程培训 Hadoop入门培训全套完整视频教程
视频下载地址:http://demo.liuy88.cn/jp0821.html-------------------课程目录-------------------第一天hadoop的基本概念伪分布式
hadoop
jjjjjzzzzzaaaa
·
2020-07-04 19:38
org.apache.hadoop.ipc.Client: Retrying connect to server异常的解决
这个设置应该是在做伪分布式的
hadoop集群
的时候,留下来的。如果照上面的方法还是出现同样的问题,或者etc/hosts目录并没有127.
iteye_18480
·
2020-07-04 18:10
解决win下eclipse连linux的
hadoop集群
连不上的问题
一、windows下的eclipse连接
hadoop集群
1.加入eclipse的hadoop插件下载hadoop-eclipse-plugin-X.jar,并加入到eclipse安装目录的plugins
hunkyguy
·
2020-07-04 18:20
linux
hadoop
[HBase基础]-- 安装hbase分布式集群(h15\h16\h17上操作,原因是在这些机器上有zookeeper-3.4.6)
hbase整体架构数据模型1.在h15上启动
hadoop集群
和zookeeper集群2.上传解压,配置环境变量,然后生效:#vi~/.bash_profile#source~/.bash_profile3
highfei2011
·
2020-07-04 17:59
HBase
细数搭建
hadoop集群
中遇到的坑及解决办法
本人环境centos7,JDK1.8,Hadoop2.8.2测试环境时报错1.WARNhdfs.DFSClient:DataStreamerException.Thereare0datanode(s)runningandnonode(s)areexcludedinthisoperation.原因及解决办法:Linux默认关闭防火墙(不敢完全确定,但我用的centos是的),而在集群运行中需要集群中
laoguan123
·
2020-07-04 16:00
hadoop
linux
hadoop
集群
linux
spark与hadoop集成详解
我们经常被问到如何让spark集成到hadoop生态系统中,如何让spark在现有的
hadoop集群
中运行,本文的目的就是来回答上述问题。
reylee911
·
2020-07-04 16:01
hadoop
spark
hive
Summary of February 2017
内容:观察者模式、装饰者模式、工厂模式、单件模式、命令模式、适配器模式、外观模式推荐系统实战:完成20%TOOLSmongoexport,使用-h-d-c-f-q--csv-o等参数的用法
Hadoop集群
间
那只媛
·
2020-07-04 16:05
hadoop 集群搭建部署
本次
hadoop集群
部署,利用vmware安装linux系统,并在linux上进行
hadoop集群
部署测试。
gallop_liu
·
2020-07-04 16:36
hadoop
mac+virtualbox+centos6.5
hadoop集群
安装准备
1、网络规划主机192.168.56.1cdh1192.168.56.101内存5G硬盘20Gcdh2192.168.56.102内存3G硬盘20Gcdh3192.168.56.103内存3G硬盘20G2、操作系统安装centos6.564位操作系统安装过程略,选择最小安装,主机名分别命名为cdh1、cdh2、cdh33、网络配置1)设置virtualbox网络设置,增加NAT网络,设置选择默认2
feifeilyj
·
2020-07-04 15:42
Hadoop Invalid byte 1 of 1-byte UTF-8 sequence
在hadoop编程的时候出现了下面的问题(使用myeclipse调用
hadoop集群
的方式):14/03/0311:19:31WARNutil.NativeCodeLoader:Unabletoloadnative-hadooplibraryforyourplatform
fansy1990
·
2020-07-04 15:19
hadoop
exception
Hadoop新手快速入门经典视频教程
视频下载地址:http://t.cn/EIOA6Pn第一天hadoop的基本概念伪分布式
hadoop集群
安装hdfsmapreduce演示01-hadoop职位需求状况.avi02-hadoop课程安排
dskjh231
·
2020-07-04 15:40
hadoop 2.7.1 高可用安装部署
hadoop集群
规划目标:创建2个NameNode,做高可用,一个NameNode挂掉,另一个能够启动;一个运行Yarn,3台DataNode,3台Zookeeper集群,做高可用。
dlwvvx1943
·
2020-07-04 14:51
01_
Hadoop集群
搭建
1.什么是hadoophadoop中有3个核心模块:HDFS(分布式文件系统):将文件分布式存储在多台服务器上MAPREDUCE(分布式运算编程框架):多台服务器并行运算YARN(分布式资源调度平台):帮用户调度大量的MAPREDUCE程序,合理分配资源2.HDFS整体运作机制HDFS(分布式文件系统):一个HDFS系统,是由一个运行namenode的服务器和若干运行datanode的服务器组成h
会摄影的程序员
·
2020-07-04 14:46
Mac下CentOS虚拟机装
Hadoop集群
、zookeeper集群、HBase集群
开工前的资源准备1、电脑安装VMwareFusion,并安装centos72、下载需要的工具包jdk-8u161-linux-x64.tar.gzhadoop-2.7.4.tar.gzzookeeper-3.4.9.tar.gzhbase-1.2.6-bin.tar.gz一、虚拟机配置联网3台虚拟机都安装完毕处于原始状态,这个时候虚拟机还是处于不可联网的状态,需要配置虚拟机处于可以联网,配置方式如
Sean-Xiao
·
2020-07-04 14:50
Hadoop
ntp时钟同步服务
如果是为了解决
hadoop集群
的时针偏差问题,配置ntp服务时,务必先关闭chd的相关服务。
czy_6837
·
2020-07-04 14:01
在
hadoop集群
上的集成Hive
本文章的各项配置均参考cloudera官网,如有版本变化,导致配置无效,出错,请参考cloudera官网文档。cloudera官网:https://www.cloudera.com输入网址加载成功,导航条拉到最底部。查看日志文件的命令,防止配置时出错,有些同学连错误都找不到,却讲文档有错,好伤心!//查看日志目录ls/etc/logcat相应的日志内容//第一步,配置Metastore数据库为hi
老子跑的动
·
2020-07-04 13:48
大数据
Hive
hadoop集群
间数据迁移工具
通过在一台可以访问两边
hadoop集群
的中转机上部署HdfsDataExchanger就可以实现
chouzhan9798
·
2020-07-04 13:57
Vagrant与VirtualBox搭建
hadoop集群
----第一篇
Vagrant与VirtualBox安装指南(1)安装vagrant_2.2.1_x86_64.msi注:vagrant安装后,把vagrant的安装路径添加到环境变量中去,类比java_home的配置(2)安装VirtualBox-5.2.22-126460-Win.exe(3)在任何一个硬盘下创建一个目录为vag目录:(4)把centos-7.0-x86_64.box文件拷贝到vag目录下面(
ShaoLinDai
·
2020-07-04 13:24
大数据基础
在linux下使用shell脚本自动化完成
hadoop集群
搭建
学习hadoop时,发现如果在linux下搭建集群,一个一个的去配置,会感觉很累。所以写了一个自动话搭建集群的shell脚本我使用的文件:jdk-7u75-linux-x64.gz;hadoop.tar.gz;以及一个解压hadoop后,需要配置的文件的tar包1.tar实现思路:首先只配置主节点的环境变量和域名映射(/etc/profile和/etc/hosts)然后看下面shell脚本:#!/
chengguixian0057
·
2020-07-04 13:43
Fusion Insight
FusionInsight在
Hadoop集群
上又封装了一层,类似于开源的CDH,HDP等大数据平台。
bingoabin
·
2020-07-04 12:14
大数据
hadoop
使用docker安装分布式hadoop(阿里hadoop镜像)
前面使用了docker自带的镜像安装,那么这篇使用阿里镜像搭建
hadoop集群
,也参考了网上部分播客,但是多多少少有问题,我这篇播客是全部经过实践测试成功跑起来的。
苏米糖
·
2020-07-04 12:30
运维
centos7安装配置
Hadoop集群
1、下载Hadoop以及JAVA本文用的是hadoop-3.2.0下载地址:http://mirrors.hust.edu.cn/apache/hadoop/common/hadoop-3.2.0/hadoop-3.2.0.tar.gz本文用的是JAVA1.81下载地址:https://www.oracle.com/technetwork/java/javase/downloads/jdk8-do
苏米糖
·
2020-07-04 12:30
Hadoop
02.
hadoop集群
搭建之免密登录
1.配置每个节点的hostsvi/etc/hosts192.168.136.16master1192.168.136.17master2192.168.136.18node1192.168.136.19node22.每个节点生成公钥私钥[
[email protected]
]$ssh-keygen-trsaGeneratingpublic/privatersakeypair.Enterfilein
bigdata_li
·
2020-07-04 12:24
hadoop
hadoop集群
启动机架感知
hadoop集群
的机架感知功能是提高
hadoop集群
网络性能的重要参数,配置hadoop机架感知功能的步骤如下:1)修改core-site.xml文件,添加以下配置项:topology.script.file.name
azhao_dn
·
2020-07-04 11:10
hadoop
机架感知
在CentOS6.4搭建
hadoop集群
的实践笔记
伪分布集群的搭建请看下面两个链接Ubuntu上搭建hadoop伪分布式配置请看这里CentOS上搭建hadoop伪分布式配置请看这里说是集群,实际上只有一个master和一个slave,为了不让CPU烧熟桌子本搭建基于Hadoop2,可适合任何Hadoop2.x.y版本安装CentOS6.4,两台一台做Master,一台做Slave1首先虚拟机上搭两个CentOS,可参考自在Windows使用Vi
阿坨
·
2020-07-04 11:21
Hadoop
windows下eclipse连接远程
hadoop集群
的开发配置
1,百度下载eclipse插件hadoop-eclipse-plugin-2.7.3.jar,放入eclipse安装目录下的plugins下,重启eclipse2,配置hadoop在windows下的安装目录windows-->preference-->HadoopMap/Reduce3,windows-->showview-->others-->Map/ReduceLocation,配置hado
言蹊
·
2020-07-04 11:25
大数据
hadoop
关于centos6.5下的saltstack安装
最近头让我先研究下saltstack,这一下让我感觉到挑战了,这不是运维方面的东西吗,刚好最近在研究hadoop,我觉得学学也好,方便以后对
hadoop集群
管理方面自动化会有点帮助吧。。。
a382991530
·
2020-07-04 10:36
centos
自动化
运维
saltstack
上一页
53
54
55
56
57
58
59
60
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他