E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Hadoop3
大数据hadoop学习【9】-----通过JAVA语言编程,实现对Hbase数据库表及数据的相关操作
大数据hadoop学习【9】-----通过JAVA语言编程,实现对Hbase数据库表及数据的相关操作目录一、Hbase数据库的运行1、运行SSH2、运行
hadoop3
、运行Hbase二、eclipse整体
陈一月的编程岁月
·
2020-06-25 23:03
大数据基础Hadoop
在Windows系统上对hfds中的文件进行操作
其实hdfs也是可以部署在Windows系统上的,但是考虑到稳定性一般通常是部署在linux系统上,同时由于hadoop2和
hadoop3
的版本不同,导致其自身的功能上有些不同,其中hadoop2无法直接在页面上进行对文件的创建和删除等操作
一个人_
·
2020-06-25 15:05
Hadoop3.1.2 使用java连接 HDFS踩得坑
Hadoop3.1.2使用java连接HDFS踩得坑
hadoop3
中DistributedFileSystem类找不到错误按照hadoop2的示例,运行错误如下:org.apache.hadoop.fs.UnsupportedFileSystemException
TomcatLikeYou
·
2020-06-25 12:39
大数据
hadoop
黑猴子的家:sample 随机抽样
Codevalsamplerdd=sc.makeRDD(Array("spark1","spark2","spark3","spark4","spark5","hadoop1","hadoop2","
hadoop3
黑猴子的家
·
2020-06-25 04:23
Spark
Hadoop分布式搭建
1.环境准备准备三台centos7虚拟机,设置静态IP(192.168.1.103,192.168.1.104,192.168.1.105)主机名称分别用
hadoop3
,hadoop4,hadoop5命名三台机器安装好
盲流子开发
·
2020-06-24 20:09
hadoop
Windows10下Eclipse搭建
Hadoop3
开发环境
见上一博文)eclipse-jee-oxygen-2-win32-x86_64.zip(采用其他精简版的eclipse可能会出问题)jdk1.8(请保证jdk位数跟计算机位数一致)在Windows上解压
Hadoop3
junior19
·
2020-06-23 23:23
Hadoop
Kerberos安装及与Hadoop搭配提高安全性
选择hadoop1,hadoop2,
hadoop3
组成分布式的KDC。hadoop1作为Master机
huyuleizj
·
2020-06-23 16:28
hadoop
Linux下搭建Hadoop集群(Centos7.0)
总体步骤基本步骤1)安装JDK,配置JDK环境变量2)安装Hadoop,配置Hadoop环境变量,配置
Hadoop3
)组织并在集群中分发文件注意:如果使用克隆方案,克隆后需修改主机名及IP,修改方法
Solaede
·
2020-06-22 05:43
Linux
大数据Hadoop2.x与Hadoop3.x相比较有哪些变化
Hadoop3
版本中添加了哪些新功能,
Hadoop3
中兼容的Hadoop2程序,Hadoop2和
Hadoop3
有什么区别?
honesty_zhang
·
2020-06-21 20:26
大数据
hadoop
<转载>HDFS伪分布式及全分布式的搭建
新建一个虚拟机hadoop1为主站,分别克隆名为hadoop2、
hadoop3
、hadoo
有七段变化
·
2020-04-11 13:17
大数据环境部署(二)
releases.htmld66ac126ba1fa824a6e1487355e26f83.png2解压tar-zxvfhadoop-2.6.5.tar.gz-C/opt/wsqt/coremvhadoop-2.6.5/
hadoop3
梧上擎天
·
2020-03-29 17:04
Hadoop3-伪分布式模式安装
今天无意间看到
Hadoop3
去年年底就release了,今天就准备装个环境看看。
kongxx
·
2020-03-23 20:56
CDH5到CDH6都更新了些什么
CDH6是基于
Hadoop3
同时包含大量其他组件的大版本更新的发布版本,许多用户考虑到未来CDH的版本主要是基于CDH6,而CDH5会慢慢的停止更新,所以考
ClouderaHadoop
·
2020-03-10 11:01
Cloudera
Hadoop
CDH
CDH5到CDH6都更新了些什么
CDH6是基于
Hadoop3
同时包含大量其他组件的大版本更新的发布版本,许多用户考虑到未来CDH的版本主要是基于CDH6,而CDH5会慢慢的停止更新,所以考
ClouderaHadoop
·
2020-03-10 11:46
Cloudera
Hadoop
CDH
hadoop3
自学入门笔记(3)-java 操作hdfs
1.core-site.xmlfs.defaultFShdfs://192.168.3.61:9820hadoop.tmp.dir/opt/hadoopdata2.pom.xml4.0.0com.qmkjhdfsclienttest0.1hdfsclienttesthttp://www.example.comUTF-81.71.7junitjunit4.11testorg.apache.hadoo
有理想的coder
·
2020-02-23 21:00
hadoop3
自学入门笔记(2)—— HDFS分布式搭建
一些介绍Hadoop2和
Hadoop3
的端口区别Hadoop3HDFS集群架构我的集群规划nameiprole61192.168.3.61namenode,datanode62192.168.3.62datanode63192.168.3.63secondnamenode64192.168.3.64datanode1
有理想的coder
·
2020-02-23 21:00
技术相关进程详解
hadoop3
大组件hdfs:存贮数据NameNode管理元数据SencondaryNameNode整合NameNode产生的日志文件DataNode存贮数据mr(mapreduce):分布式计算yarn
xiaobaix
·
2020-02-17 01:48
hadoop3
自学入门笔记(1)——虚拟机安装和网络配置
前言年过30惶惶不安,又逢疫情,还是不断学习,强化自己的能力。hadoop的视频和书籍在15年的时候就看过,但是一直没动手实践过,要知道技术不经过实战,一点提升也没有。因此下定决心边学边做,希望能有所收获。软件版本介绍virtualbox6.1centos7hadoop-3.2.1jdk-8u241-linux-x64xshellxftp虚拟机配置规划nameiprole61192.168.3.6
有理想的coder
·
2020-02-16 23:00
hadoop3
自学入门笔记(1)——虚拟机安装和网络配置
前言年过30惶惶不安,又逢疫情,还是不断学习,强化自己的能力。hadoop的视频和书籍在15年的时候就看过,但是一直没动手实践过,要知道技术不经过实战,一点提升也没有。因此下定决心边学边做,希望能有所收获。软件版本介绍virtualbox6.1centos7hadoop-3.2.1jdk-8u241-linux-x64xshellxftp虚拟机配置规划nameiprole61192.168.3.6
有理想的coder
·
2020-02-16 23:00
使用Ambari搭建HDP版本
Hadoop3
集群
一、官方安装文档Ambari安装文档HDP集群安装文档二、搭建yum源参考网上教程,安装httpd,把下面安装包压后放到/var/www/html目录下。重启httpd。访问http://127.0.0.1:80,看是否正常。#下载ambari安装包和repo文件wgethttp://public-repo-1.hortonworks.com/ambari/centos7/2.x/updates/
蓝胖子
·
2020-01-05 17:37
大数据
ambari
hadoop
集群
apache
CentOS7安装Hadoop集群
zookeeper集群并启动参考CentOS7安装Zookeeper集群我这里准备了三台服务器,一台主机名为hadoop1(做NameNode),一台主机名为hadoop2(做DataNode),一台主机名为
hadoop3
sphsyv
·
2019-12-27 19:57
Hadoop学习之路(1)腾讯云搭建
Hadoop3
集群
1主机名和IP配置1.1主机名1.首先使用root用户名和root密码分别登录三台服务器2.分别在三台虚拟机上执行命令:hostnamectlset-hostnamenode1hostnamectlset-hostnamenode2hostnamectlset-hostnamenode33.分别在三台服务器上执行logout1.2IP设置systemctlrestartnetwork2配置免密登录
victor19901114
·
2019-12-20 16:27
大数据
Hadoop集群搭建
0593-CDH5与CDH6对比
CDH6是基于
Hadoop3
同时包含大量其他组件的大版本更新的发布版本,许多用户考虑到未来CDH的版本主要是基于C6,而CDH5会慢慢的停止更新,所以考虑新搭集群使用CDH6,或者想把已有的CDH5集群升级到
Hadoop_SC
·
2019-11-08 22:05
Hadoop实操
CentOS7安装Hadoop集群
zookeeper集群并启动参考CentOS7安装Zookeeper集群我这里准备了三台服务器,一台主机名为hadoop1(做NameNode),一台主机名为hadoop2(做DataNode),一台主机名为
hadoop3
互联网编程
·
2019-11-02 20:41
集群搭建Hadoop 环境为CentOS7/JDK1.8
这边单机部署采用的是
hadoop3
这边我们回归到hadoop2.7去搭集群,其实都一样。1.准备本次要求准备三台服务器,这边演示使用VMware开了三个环境。192.168.20.3Master192
AceCream佳
·
2019-10-30 14:39
Mac部署
hadoop3
(伪分布式)
环境信息操作系统:macOSMojave10.14.6JDK:1.8.0_211(安装位置:/Library/Java/JavaVirtualMachines/jdk1.8.0_211.jdk/Contents/Home)hadoop:3.2.1开通ssh在"系统偏好设置"->"共享",设置如下:免密码登录执行以下命令创建秘钥:ssh-keygen-trsa-P''-f~/.ssh/id_rsa一
程序员欣宸
·
2019-10-23 19:25
云计算
Linux CentOS集群( ssh远程登录)(三)
在第三台机器上登录到第二台机器上细节:首次远程登录会询问yes/no,以后可能就不会了方式二:使用ssh基于密匙实现免密码登录(掌握)第一步:ssh-keygen-trsa在hadoop1和hadoop2和
hadoop3
小Huya
·
2019-10-23 11:38
Linux
CentOS集群
Mac部署
hadoop3
(伪分布式)
环境信息操作系统:macOSMojave10.14.6JDK:1.8.0_211(安装位置:/Library/Java/JavaVirtualMachines/jdk1.8.0_211.jdk/Contents/Home)hadoop:3.2.1开通ssh在"系统偏好设置"->"共享",设置如下:免密码登录执行以下命令创建秘钥:ssh-keygen-trsa-P''-f~/.ssh/id_rsa一
zq2599
·
2019-10-22 15:00
Mac部署
hadoop3
(伪分布式)
环境信息操作系统:macOSMojave10.14.6JDK:1.8.0_211(安装位置:/Library/Java/JavaVirtualMachines/jdk1.8.0_211.jdk/Contents/Home)hadoop:3.2.1开通ssh在"系统偏好设置"->“共享”,设置如下:免密码登录执行以下命令创建秘钥:ssh-keygen-trsa-P''-f~/.ssh/id_rsa一
程序员欣宸
·
2019-10-13 21:00
hadoop
伪分布式
大数据实战
HDFS编程实践
HDFS编程实践一、实验环境二、在Windows上解压
Hadoop3
三、HadoopLinux服务器设置四、在Eclipse上安装Hadoop插件五、WordCount编程六、HDFS基础编程七、应用程序的部署一
miles_ye
·
2019-10-10 13:18
云计算
【大数据报错】更改主机名导致hadoop启动失败
hadoop的datanode启动失败:c7_h3:ssh:Couldnotresolvehostnamec7_h3:Nameorservicenotknown场景:于CentOS7系统下安装伪分布式
hadoop3
debimeng
·
2019-09-21 08:20
大数据报错
Yarn&TimeLine&JHS Web UI中显示的最大任务数配置
YarnRMWebUI中保存的最大的运行完成(completed)的任务数yarn.resourcemanager.max-completed-applicationshadoop2中默认值为10000,
hadoop3
看得出的就是
·
2019-09-15 10:45
YARN
大数据学习笔记——基于 Linux CentOS 7 的 Hadoop 3.1.2 环境搭建(四)
sshlocalhost下载\上传\解压移动mv~/software/hadoop-3.1.2.tar.gz~/解压tar-xzvf~/hadoop-3.1.2.tar.gz目录改名mv~/hadoop-3.1.2~/
hadoop3
孤儿院-院长
·
2019-09-02 08:50
大数据学习笔记
Pods应用NFS存储
Volumes选择NFS服务器:条件:1.k8s集群,目前为(hadoop1,hadoop2,
hadoop3
)2.另起一台服务器做专门的NFS服务器3.NFS需要在K8S的各个节点安装部属:1.NFS-Node
k-free
·
2019-07-11 15:00
hadoop3
版本的兼容性简单调研
hadoop3
版本的兼容性简单调研目录:1.与其他组件的兼容性版本2.与hadoop2版本的客户端兼容性一.与其他组件的兼容性版本目前依赖hadoop的常用组件有spark、hive、hbase等.目前只调研
风筝Lee
·
2019-07-08 15:02
大数据
hadoop ha 高可用搭建
该ha搭建是在hadoop全分布式基础上搭建,关于hadoop全分布式搭建可以参考另一篇
hadoop3
分布式环境基础搭建。
ACanswer
·
2019-06-25 16:55
大数据
hadoop3
分布式环境基础搭建
本篇问
hadoop3
最基础搭建。
ACanswer
·
2019-06-23 16:19
大数据
hadoop2.7.7安装和集群(适用hadoop3.1.2和docker容器)
准备hadoop2(master),
Hadoop3
,hadoop4,三台机器vi/etc/profile.d/hadoop.shexportJAVA_HOME=/usr/local/src/jdk1.8.0
海畅智慧
·
2019-06-03 00:00
hadoop
docker
【@deprecated】
Hadoop3
,IDEA远程访问集群进行调试,Scala+Java混合开发
文章目录一、
Hadoop3
部分变化1-1、擦除编码1-2、
Hadoop3
端口号的改变1-3、支持2个以上的NameNode1-4、内部数据节点平衡器二、IDEA远程访问控制集群2-1创建Maven项目,
haixwang
·
2019-04-24 18:16
Hadoop
Spark
Hbase...
Hadoop3.2.0使用详解
1.概述
Hadoop3
已经发布很久了,迭代集成的一些新特性也是很有用的。截止本篇博客书写为止,Hadoop发布了3.2.0。
哥不是小萝莉
·
2019-04-23 00:00
hadoop 完全分布式部署(linux) 超详细版
新建一个虚拟机hadoop1为主站,分别克隆两个名为hadoop2和
hadoop3
的从站。
Henry_Lin_Wind
·
2019-04-20 14:34
hadoop
Hadoop3
全分布式安装
准备工作:4台节点服务器1.1.1JDK安装&配置好参考JDK安装文章1.1.24个节点服务器配置相互免密登录参考配置免密登录文章下载Hadoop下载地址开发环境Linux平台:Centos6.5JDK版本:1.8(jdk-8u201-linux-x64【下载地址】)Hadoop3.1.2下载地址1.解压安装包到/opt目录下/usr下是你安装系统是所安装的软件的安装目录;/opt则是按完系统后你
陈平寨黄山赵子龙
·
2019-04-08 10:01
Hadoop
Hadoop3
伪分布式安装
准备工作:4台节点服务器1.1.1JDK安装&配置好参考JDK安装文章1.1.24个节点服务器配置相互免密登录参考配置免密登录文章下载Hadoop下载地址开发环境Linux平台:Centos6.5JDK版本:1.8(jdk-8u201-linux-x64【下载地址】)Hadoop3.1.2下载地址1.解压安装包到/opt目录下/usr下是你安装系统是所安装的软件的安装目录;/opt则是按完系统后你
陈平寨黄山赵子龙
·
2019-04-04 11:48
Hadoop
单机搭建
Hadoop3
环境为CentOS7/JDK1.8
在一切开始之前给用户建议设置一下权限,减少后面权限引发的问题visudo找到rootALL=(ALL)ALL在这一行下添加一条比如:hadoopALL=(ALL)ALL保存之后,注销一下用户,再登录回来。1.虚拟机CentOS设置静态ip主要有三点:1.设置成NAT模式通过虚拟网络编辑器→NAT模式→NAT设置,看一下网关号,比如192.168.21.2子网IP设置一下192.168.21.0前两
AceCream佳
·
2019-03-07 17:49
hadoop3
问题大杂烩
1.网页ui上传文件失败网页中查看文件夹/在文件夹内上传文件出现错误Permissiondenied:user=dr.who,access=READ_EXECUTEinode="/tmp"https://blog.csdn.net/King_818/article/details/64998693修改那个文件夹的权限增加本地环境变量修改本地用户账号修改hdfs配置core-site.xml,添加d
不存在的里皮
·
2019-03-04 16:21
虚拟机克隆,并设置新的ip,配置hostname 配合hostname hosts
克隆新的虚拟机选中某个虚拟机-à右键à管理à克隆选择下一步选择下一步点击完成6.2修改主机名[root@hadoop3~]#vim/etc/sysconfig/network将文件中的HOSTNAME改成
hadoop3
这个脑子不好使的
·
2019-02-13 11:42
Mac os Eclipse中连接docker搭建的hadoop集群
现有环境docker中安装了4个container一个namenode(hadoop0)三个datanode(hadoop1,hadoop2,
hadoop3
)运行进程eclipse中连接安装eclipse
Crystal__jingjing
·
2019-01-20 16:18
大数据
Mac os Eclipse中连接docker搭建的hadoop集群
现有环境docker中安装了4个container一个namenode(hadoop0)三个datanode(hadoop1,hadoop2,
hadoop3
)运行进程eclipse中连接安装eclipse
Crystal__jingjing
·
2019-01-20 16:18
大数据
大数据时代的趋势
1、数据处理变得更加快速,数据也变得更加易于使用2、大数据不再只是
Hadoop3
、相关组织将利用数据湖(DataLake)来实现价值4、成熟的架
duozhishidai
·
2019-01-02 16:39
大数据
集群服务器之间免密登录
假设现在集群是3台服务器hadoop1,hadoop2,
hadoop3
首先保证主机名、hosts、防火墙正确设置1、配置每个节点本身公钥和免密(其实第二行只在hadoop1上执行即可,其余节点最后会发送
wzy_zju
·
2018-12-26 15:22
AI
上一页
1
2
3
4
5
6
7
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他