E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hadoop安装
《Hadoop系列》Docker安装Hadoop
文章目录Docker安装Hadoop1安装docker1.1添加docker到yum源1.2安装docker2安装Hadoop2.1使用docker自带的
hadoop安装
2.2免密操作2.2.1master
DATA数据猿
·
2024-08-31 12:16
Hadoop
Docker
docker
hadoop
【笔记】HDFS基础笔记
启动hadoop命令(未配环境变量):进入
hadoop安装
目录输入.
哇咔咔哇咔
·
2024-03-20 04:12
Hadoop
hdfs
笔记
hadoop
大数据
ubuntu
macos安装local模式spark
文章目录配置说明安装
hadoop安装
Spark测试安装成功配置说明Scala-3.18+Spark-3.5.0Hadoop-3.3.6安装hadoop从这里下载相应版本的hadoop下载后解压,配置系统环境变量
SparklingTheo
·
2024-02-09 08:52
大数据-linux
macos
spark
大数据
Hadoop搭建(完全分布式)
bigdata-masterbigdata-slave1bigdata-salve2NameNodeNodeManagerNodeManagerSecondaryNameNodeDataNodeDataNodeResourceManagerNodeManagerDataNode目录一、jdk安装:二、
hadoop
莫噶
·
2024-02-08 04:14
搭建
分布式
hadoop
大数据
现成
Hadoop安装
和配置,图文手把手交你
为了可以更加快速的可以使用Hadoop,便写了这篇文章,想尝试自己配置一下的可以参考从零开始配置Hadoop,图文手把手教你,定位错误资源1.两台已经配置好的hadoop2.xshell+Vmware链接:https://pan.baidu.com/s/1oX35G8CVCOzVqmtjdwrfzQ?pwd=3biz提取码:3biz--来自百度网盘超级会员V4的分享两台虚拟机用户名和密码均为roo
叫我小唐就好了
·
2024-02-08 03:56
一些好玩的事
hadoop
大数据
分布式
课程设计
运维
CentOS7搭建Hadoop集群
集群环境搭建(3台)-CSDN博客2、配置虚拟机之间免密登录,参考:CentOS7集群配置免密登录-CSDN博客3、虚拟机分别安装jdk,参考:CentOS7集群安装JDK1.8-CSDN博客4、下载
Hadoop
在下区区俗物
·
2024-02-07 12:57
Hadoop集群安装部署
hadoop
eclipse
java
linux安装hadoop详细步骤(伪分布式)
一.准备好hdk和
hadoop安装
文件,上传到linux二.安装jdk,我之前博客有专门写过安装jdk步骤,这里就不重复了,有需要的小伙伴可以去翻翻之前的三.安装hadoop1.解压hadooptar-zxvfhadoop
红烧柯基
·
2024-02-06 08:28
linux
hadoop
linux
Hadoop环境搭建
2.2VM网络设置2.3安装CentOS7系统2.4master主机进行网络配置2.5同步时间2.6Xshell6的安装与使用2.7关闭防火墙2.8设置主机名2.9hosts设置2.10安装JDK2.11
Hadoop
业里村牛欢喜
·
2024-02-02 07:24
hadoop
大数据
hdfs
解决There are 0 datanode(s) running and no node(s) are excluded in this operation.
出现上述问题可能是格式化两次hadoop,导致没有datanode解决方法1:重启linux,再使用start-dfs.sh和start-yarn.sh重启一下hadoop解决办法2:找到
hadoop安装
目录下
有一束阳光叫温暖
·
2024-01-31 23:56
IDEA中Hadoop的环境配置
没有配置HadoopHome:在Windows下解压一份
Hadoop安装
包Hadoop使用log4j进行日志输出,明显没有配置log4j再次运行,显示了作业的运行情况
hhhhhhhhhhhnb
·
2024-01-31 12:36
intellij-idea
java
intellij
idea
hadoop
linux
WARNING: HADOOP_SECURE_DN_USER has been replaced by HDFS_DATANODE_SECURE_USER. Using value of HADOOP
HADOOP_SECURE_DN_USERhasbeenreplacedbyHDFS_DATANODE_SECURE_USER.UsingvalueofHADOOP_SECURE_DN_USER.原因是
Hadoop
W_yhhh
·
2024-01-31 08:44
hadoop
hdfs
大数据
大数据[1] -- 安装hadoop
文章目录
Hadoop安装
以及配置一、安装1.安装SSH,设置SSH无密码登录2.安装jdk3.安装Hadoop二、配置三、其他配置四、出现的问题五参考文章
Hadoop安装
以及配置一、安装1.安装SSH,
天下一般
·
2024-01-31 08:06
环境的配置与软件的使用
操作系统
大数据
linux
Hadoop搭建集群中输入hdfs namenode -format格式化节点时,提示:hdfs command not found 解决办法
/sbin方法2:进入/etc/profile文件中添加hadoop的安装路径sudovim/etc/profile添加:exportHADOOP_HOME=本机的
hadoop安装
路径exportPATH
drhrht
·
2024-01-31 08:05
java
java
后端
Hadoop中hdfs-default.xml的位置
在
hadoop安装
包中hadoop-2.7.2\share\hadoop\hdfs\hadoop-hdfs-2.7.jar里面
BugEveryday
·
2024-01-31 08:31
Hadoop
hadoop
搭建vmware虚拟化平台的基础配置,以及Hadoop平台的搭建
vmwareworkstationscentos.isohadoop3.3.0mobaxterm/xshell/pietty/winscpjdk的tar包第一步:安装centos操作系统第二步:克隆虚拟机(也可以在
hadoop
rootwiki
·
2024-01-30 13:18
云计算与大数据技术学习专栏
hadoop
big
data
大数据
hadoop安装
遇到的一些障碍
一.start-dfs.sh(开启不成功)原因:1.dadoop文件所属者与执行时登陆者不一致(权限不足)报错:WARNING:HADOOP_SECURE_DN_USERhasbeenreplacedbyHDFS_DATANODE_SECURE_USER.UsingvalueofHADOOP_SECURE_DN_USER.Startingnamenodeson[centos7]centos7:Pe
GetIdea
·
2024-01-26 18:30
基于CentOS7 Hadoop-2.7.2伪分布式部署
1、基本环境Linux版本:CentOS7.0JDK版本:jdk-7u79-linux-x64.tar.gzHadoop版本:hadoop-2.7.2.tar.gzjdk以及
Hadoop安装
在/usr目录下
程序员小H
·
2024-01-25 07:23
部署Hadoop集群
在node1节点执行,以root身份1:在VMware虚拟机集群上部署HDFS集群1)准备好
hadoop安装
包;目前最新3.3.4;了解:2)上传解压hadoop①:上传hadoop到node1节点;②
%HelloWorld%
·
2024-01-24 13:27
java
开发语言
Hadoop安装
配置HBase
1、文件准备http://archive.apache.org/dist/hbase/1.3.1/下载hbase-1.3.1-bin.tar.gz并上传到虚拟机/root目录下。2、安装切换目录[root@hadoop00~]#cd/usr/local新建文件夹[root@hadoop00local]#mkdirhbase解压文件[root@hadoop00local]#tarzxvf/root/
m0_69595107
·
2024-01-24 06:10
Hadoop
hadoop
hbase
大数据
分布式
centos
Linux修改hadoop配置文件及启动hadoop集群详细步骤
目录一、配置Hadoop环境1.查看Hadoop解压位置2.配置环境变量3.编辑环境变量4.重启环境变量5.查看Hadoop版本,查看成功就表示
Hadoop安装
成功了二、修改配置文件1.检查三台虚拟机:
CatalinaCatherine
·
2024-01-21 05:45
Linux
linux
hadoop
运维
hadoop dfs web页面访问增加鉴权
生成密码//
hadoop安装
目录下创建secret目录,存放密码mkdir-p/home/test/hadoop-3.2.2/secret//创建密码文件touchhadoop-http-auth-s
花菜回锅肉
·
2024-01-19 21:10
大数据
数据仓库
hadoop
前端
大数据
dfs
记录学习Spark+Kafka构建实时分析Dashboard案例中遇到的问题(一)安装
目录推荐环境系统和软件安装安装Ubuntu分辨率问题虚拟机桥接模式连不上网
Hadoop安装
Ubuntu16.04下用aria2下载百度网盘大文件其他在安装hadoop时遇到的问题hadoop用法小结单机模式伪分布式
白令屿
·
2024-01-16 13:53
大数据处理
spark
kafka
python
大数据
Hadoop/Spark安装
单机安装
Hadoop安装
Javasudoapt-getinstalldefault-jdkjava-version2.设置Hadoop用户和组sudoaddgrouphadoopsudoadduser-
周倜吉
·
2024-01-13 03:40
Hadoop安装
遇到的一些问题
image.pngimage.png解决选择CentOs.vmx无反应问题:image.png打开之后,选择Poweron之后,选择Imovedit:第一次点mved,以后点copiedroot登陆,密码:hadoop修改时间,选择时区打开一个终端查看ip查看主机名、防火墙状态在桌面中打开的终端,以root权限运行,否则一些文件没有修改权限
博弈史密斯
·
2024-01-11 07:30
YARN 配置文件 capacity-scheduler.xml 参数解读
capacity-scheduler.xml文件中配置了yarn资源调度器运行中的各项参数,位于
hadoop安装
目录/hadoop-2.7.2/etc/hadoop目录下。打开后可以看到默认配置。
我很ruo
·
2024-01-10 08:49
hadoop
大数据
《数据采集与预处理环境》实验环境安装
文章目录1.安装Python及第三方库2.jupyternotebook安装3.jdk安装4.MySQL安装1.在根目录下创建文件my.ini2.初始化3.安装服务4.启动服务5.登录6.配置环境变量5.
hadoop
活下去.
·
2024-01-06 14:10
python
mysql
hadoop
1.大数据概述
目录概述hadoophadoop模块hadoop发行版apache社区版本CDP(CDH+HDP)其它云产商框架选择
hadoop安装
结束概述先了解几个常用的网站apache官网hadoop官网hadoopgithubhttps
流月up
·
2024-01-05 23:00
大数据
hadoop
大数据
发行版
模块
【2023】hadoop基础介绍
操作HDFS分布式文件存储NameNode元数据数据读写流程YARN和MapReduceMapReduce:分布式计算YARN:资源管控调度YARN架构提交任务到**YARN中运行**Hadoop组成
hadoop
方渐鸿
·
2024-01-02 03:26
数据分析
hadoop
大数据
分布式
python
Linux
Hadoop安装
Hadoop下载地址:http://archive.cloudera.com/cdh5/cdh/5/hadoop-2.6.0-cdh5.7.0.tar.gz
神游御风
·
2024-01-01 14:08
VitulBox中Ubuntu虚拟机安装JAVA环境——备赛笔记——2024全国职业院校技能大赛“大数据应用开发”赛项
提示:以下操作是在虚拟机hadoop用户下操作的,并为安装java环境作准备一、更新APT为了确保
Hadoop安装
过程顺利进行,建议用hadoop用户登录Linux系统后打开一个终端,执行下面命令更新APT
Stitch .
·
2023-12-31 20:41
我的大学笔记
Linux
ubuntu
java
笔记
大数据
linux
【大数据入门核心技术-Hadoop】(六)Hadoop3.2.1高可用集群搭建
Clustermode(集群模式)二、准备工作1、先完成zk高可用搭建2、/etc/hosts增加内容3、各台服务器分别创建目录4、关闭防火墙和禁用swap交换分区5、三台机器间免密6、安装jdk7、下载好
hadoop
forest_long
·
2023-12-30 18:49
大数据技术入门到21天通关
hadoop
大数据
hdfs
zookeeper
hive
Hadoop开发环境搭建
文章目录第1关:配置开发环境-JavaJDK的配置第2关:配置开发环境-
Hadoop安装
与伪分布式集群搭建hadoop-env.sh配置yarn-env.sh配置core-site.xml配置hdfs-site.xml
柔雾
·
2023-12-30 09:42
hadoop
大数据
分布式
Hadoop安装
笔记2单机/伪分布式配置_Hadoop3.1.3——备赛笔记——2024全国职业院校技能大赛“大数据应用开发”赛项——任务2:离线数据处理
紧接着上一篇博客:
Hadoop安装
笔记1:
Hadoop安装
笔记1单机/伪分布式配置_Hadoop3.1.3——备赛笔记——2024全国职业院校技能大赛“大数据应用开发”赛项——任务2:离线数据处理-CSDN
Stitch .
·
2023-12-29 02:00
我的大学笔记
Hadoop
linux
hadoop
jvm
Hadoop安装
笔记_单机/伪分布式配置_Hadoop3.1.3——备赛笔记——2024全国职业院校技能大赛“大数据应用开发”赛项——任务2:离线数据处理
将下发的ds_db01.sql数据库文件放置mysql中12、编写Scala代码,使用Spark将MySQL的ds_db01库中表user_info的全量数据抽取到Hive的ods库中表user_info。字段名称、类型不变,同时添加静态分区,分区字段为etl_date,类型为String,且值为当前日期的前一天日期(分区字段格式为yyyyMMdd)。使用hivecli执行showpartitio
Stitch .
·
2023-12-28 12:32
我的大学笔记
Hadoop
分布式
大数据
hadoop
笔记
10.
hadoop安装
(全分布式安装)
全分布式首先必须有jdk安装,这里不再概述,参考4首先如果有不同就修改注意要改为disabled关闭防火墙iptable首先要免秘钥主节点要分发秘钥51020303540
文茶君
·
2023-12-26 20:43
WARNING: HADOOP_SECURE_DN_USER has been replaced by HDFS_DATANODE_SECURE_USER.
HADOOP_SECURE_DN_USERhasbeenreplacedbyHDFS_DATANODE_SECURE_USER.UsingvalueofHADOOP_SECURE_DN_USER.原因是
Hadoop
玖玖1704
·
2023-12-24 12:59
hadoop
hdfs
大数据
在自己电脑配置cdh 版 hadoop 提交mr job客户端
image.png1.首先下载与我们cdhhadoop集群对应的
hadoop安装
文件hadoop-2.6.0-cdh5.14.2.tar.gz链接:https://pan.baidu.com/s/1iHm5M-gGZRWLKbzVjbYJmA
Helen_Cat
·
2023-12-23 04:51
Linux环境安装Hadoop
(1)下载
Hadoop安装
包并上传下载
Hadoop安装
包到本地,并导入到Linux服务器的/opt/software路径下(2)解压安装包解压安装文件并放到/opt/module下面[root@hadoop100
程序员储物箱
·
2023-12-21 21:55
linux
hadoop
运维
Hadoop集群的搭建(全网最详细,看了就会)
Hadoop安装
包链接:https://pan.baidu.com/s/12R1q8ygEnosP9pVbX5rvxg提取码:LZ
叶落长街
·
2023-12-21 08:49
hadoop
大数据
分布式
hadoop集群搭建之HA模式
1.Hadoop环境变量相关配置1.在node01上创建
hadoop安装
路径:mkdir/opt/bigdata2.解压hadoop软件包tarxfhadoop-2.6.5.tar.gzmvhadoop
新鲜氧气
·
2023-12-20 05:27
hadoop
java
大数据
hadoop集群二之
hadoop安装
上一篇我们已经准备好三台虚拟机,计划一主两从搭建hadoop集群。没安装的可以参考一下。虚拟机安装传送门:mac搭建hadoop集群之虚拟机安装集群规划主机角色node1NNDNRMNMnode2SNNDNNMnode3DNNM集群配置hadoop3.3安装包下载更改主机名分别将三台虚拟机分别更改为node1、node2、node3。vim/etc/hostname新增host映射vim/etc/
皮皮虾不皮呀
·
2023-12-19 00:29
大数据
hadoop
hadoop安装
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录1.linux下新建文件夹2.安装jdk3.安装hadoop1.linux下新建文件夹1、在/opt目录下创建software文件夹,用于存放压缩包2、在/opt目录下创建module文件夹,用于安装目录2.安装jdk1、解压(1)解压到到/opt/module目录下[chenjixia@hadoop102software]$
汤·橘子
·
2023-12-19 00:29
dadoop集群搭建
hadoop
linux
大数据
学习笔记Hadoop(七)—— Hadoop集群的安装与部署(4)—— 配置Hadoop集群
四、配置Hadoop集群Hadoop集群总体规划Hadoop集群安装采用下面步骤:在Master节点:上传并解压
Hadoop安装
包。
别呀
·
2023-12-19 00:58
hadoop
big
data
spark
怎么下载
hadoop安装
包,并在eclipse上引入hadoop外部依赖jar包
有时候在eclipse上运行项目,需要引用的Hadoop的jar包,这里总结了一个很有用的小技巧(如果已经有所需jar包,要看怎么使用,直接跳到博客最后面看)首先需要下载Hadoop的安装包这里我直接分享一个官网hadoop的一个版本的下载链接:http://us.mirrors.quenda.co/apache/hadoop/common/hadoop-3.1.3/hadoop-3.1.3.ta
我欲乘风归去...
·
2023-12-19 00:28
大数据
hadoop
Hadoop学习(二)自己编译
Hadoop安装
包
CentOS-6.7编译hadoop-2.6.5(只需输入命令即可)目录1、阅读编译文档2、准备编译环境3、安装gcc4、安装gcc-c++5、安装make6、安装maven(必须)7、安装jdk(必须)8、安装ant(重要)9、安装findbugs(可选,最好装)10、安装cmake(重要)11、安装protobuf(重要)12、安装Snappy13、编译hadoop1、阅读编译文档(1)准备一
匿名啊啊啊
·
2023-12-19 00:58
HDFS
Hadoop的安装
安装前准备创建一台虚拟机创建过程不再展示,可以看之前的文章关闭防火墙,设置开机自动关闭修改主机名修改hosts文件设置免密登录执行ssh-keygen执行操作ssh-copy-idroot@hadoop01—在这输入密码
Hadoop
m0_67392409
·
2023-12-19 00:57
java
hadoop
大数据
hdfs
java
开发语言
Hadoop 3.2.0 安装---安装Hadoop
1.下载最新的
Hadoop安装
包https://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-3.2.0/hadoop-3.2.0.tar.gz2
m0_67401228
·
2023-12-19 00:57
java
java
后端
实验一、Hadoop 安装与配置管理
hadoop安装
与配置目标:掌握
Hadoop安装
过程原理Linux环境准备:伪分布式模式的安装和配置步骤:一、准备与配置安装环境:安装虚拟机和linux二、安装jdk三、安装hadoop四、HDFS系统初体验五
Lilianac
·
2023-12-19 00:57
Hadoop
hadoop
linux
hadoop安装
包解压之后的操作
Hadoop解压完成之后配置流程修改hadoop-env.sh和yarn-env.sh进入hadoop-3.2.4/etc/hadoop/修改这两个文件增加:JAVA_HOME={java的路径}修改配置文件core-site.xml和hdfs-site.xml进入hadoop-3.2.4/etc/hadoop/修改这两个文件增加://这是core-site.xmlhadoop.tmp.dir/d
冲鸭嘟嘟可
·
2023-12-19 00:55
hadoop
大数据
分布式
SLF4J: Class path contains multiple SLF4J bindings.
问题截图问题原因这里就是由于hbase安装路径下的一个文件和
hadoop安装
路径下的文件起冲突了解决办法我的路径:这个一定要看自己电脑上的路径/usr/local/hbase/lib/client-facing-thirdparty
To Shine
·
2023-12-18 14:56
hadoop
hadoop
hbase
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他