E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hadoop集群安装
Zookeeper集群搭建(3台)
准备工作1、提前安装好
hadoop
102、
hadoop
103、
hadoop
104三台机器,参照:CentOS7集群环境搭建(3台)-CSDN博客2、提前下载好Zookeeper安装包并上传到/opt/software
在下区区俗物
·
2024-02-08 21:35
zookeeper
linux
分布式
Hadoop
集群所有进程查看脚本
/bin/bashforiin
hadoop
102
hadoop
103
hadoop
104doecho---------$i----------ssh$i"$*"done2、赋予文件运行权限chmod+xxcall.sh3
在下区区俗物
·
2024-02-08 21:04
hadoop
大数据
linux
并发编程中一种经典的分而治之的思想!!
有点像
Hadoop
中的MapReduce。ForkJoin是由JDK1.7之后提供的多线程并发处理框架。ForkJoin框架的基本思想是分而治之。什么是分而治之?
冰河团队
·
2024-02-08 19:06
k8s1.20 搭建-抛弃docker使用containerd
-1.21高可用集群搭建》文章目录前言:1.环境准备1.1关闭无用服务1.2环境和网络1.3依赖安装1.4系统优化2.安装Containerd2.1安装2.2修改配置文件2.3启动2.4测试3.k8s
集群安装
玄德公笔记
·
2024-02-08 19:00
#
02-k8s集群安装
k8s
kubernetes
容器
运维
k8s集群安装
docker load -i 导入后 看不到镜像
dockerload-i导入后看不到镜像[root@centos8~]#dockerimagesREPOSITORYTAGIMAGEIDCREATEDSIZEcsctbb.com/
hadoop
3.3.0084faab5baec7hoursago1.68GBcentos8.1.1911470671670cac14monthsago237MBkubeguide
吕楚王
·
2024-02-08 19:29
Docker
大数据从何学起?大数据脑图+学习路线清晰的告诉你!
【大数据开发学习资料领取方式】:加入大数据技术学习交流扣扣群458345782,点击加入群聊,私信管理员即可免费领取第一阶段linux+搜索+
hadoop
体系Linux基础→sh
yoku酱
·
2024-02-08 18:16
Hadoop
深度运维:Apache集群原地升级Ambari-HDP
作者介绍冯武,目前在瓜子从事大数据集群运维管理,主要负责
Hadoop
、Ansible、Ambari、ClouderaManager等技术栈的维护调优工作。
Summer_1981
·
2024-02-08 18:42
7.0 MapReduce编程实例教程
注意:MapReduce依赖
Hadoop
的库,但由于本教程使用的
Hadoop
运行环境
二当家的素材网
·
2024-02-08 18:11
Hadoop
教程
mapreduce
eclipse
大数据
Zookeeper的详细介绍及使用场景
Zookeeper是什么Zookeeper分布式服务框架是Apache
Hadoop
的一个子项目,它主要是用来解决分布式应用中经常遇到的一些数据管理问题,如:统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等
Zal哥哥
·
2024-02-08 15:11
深入理解Spark的前世今生
Spark,是一种通用的大数据计算框架,正如传统大数据技术
Hadoop
的MapReduce、Hive引擎,以及Storm流式实时计算引擎等。
闲云野鹤~~~
·
2024-02-08 14:01
Spark
配置集群时间同步
配置集群时间同步:1.时间服务器配置(必须root用户)检查ntp是否安装[root@
hadoop
102桌面]#rpm-qa|grepntpntp-4.2.6p5-10.el6.centos.x86_64fontpackages-filesystem
sixleaves
·
2024-02-08 14:49
SQL在云计算中的新角色:重新定义数据分析
文章目录1.云计算与数据分析的融合2.SQL在云计算中的新角色3.分布式SQL查询引擎4.SQL-on-
Hadoop
解决方案5.SQL与其他数据分析工具的集成6.实时数据分析与SQL7.SQL在云数据仓库中的角色
程序边界
·
2024-02-08 13:01
sql
云计算
数据分析
No.2大数据入门 | 环境搭建:jdk1.8安装及环境配置
上一篇文章我们安装了虚拟机以及linux操作系统,接下来就要安装在操作系统上运作的大数据核心
hadoop
分布式系统基础架构!
滚滚红尘_8133
·
2024-02-08 11:43
Hadoop
多次格式化后如何解决
产生原因我们在配置
hadoop
中的hdfs时,会设置元数据的存储位置,如图所示要想解决此问题,先停止所有启动的服务stop-all.sh然后删除上图画出来的配置文件,这里三台机器都要删,最后进入
hadoop
(((φ(◎ロ◎;)φ)))牵丝戏安
·
2024-02-08 11:50
笔记
Hadoop
云计算
hadoop
hdfs
CentOS 7搭建
Hadoop
伪分布模式
配置文件:链接:https://pan.baidu.com/s/1rYvnxbyqXOG1DjI63dxbAw提取码:6e1l复制这段内容后打开百度网盘手机App,操作更方便哦1.1修改IP地址在虚拟机的命令行中输入下面的命令,修改网卡的配置文件vi/etc/sysconfig/network-scripts/ifcfg-ens33配置以下信息TYPE=Ethernet#类型为以太网BOOTPRO
clevercondy
·
2024-02-08 09:52
hadoop
linux
centos
【项目实战】Flink+InfluxDB+Grafana实现对YARN集群队列资源进行画像
快速入门1.Flink架构2.Flink应用场景3.FlinkVSSpark4.实时计算技术选型第二章:Flink项目构建与测试1.快速构建Flink项目2.第一个Flink应用案例3.Flink单节点
集群安装
与测试
大数据研习社
·
2024-02-08 08:56
Flink
flink
Flink实时计算
可视化监控
InfluxDB
2018-07-14
复制/etc/skel目录为/home/tuser1改权限2、编辑/etc/group文件,添加组
hadoop
。
啊鑫007
·
2024-02-08 08:56
Hadoop
生态漏洞修复记录
Hadoop
常用端口介绍HDFSNameNode50070dfs.namenode.http-addresshttp服务的端口50470dfs.namenode.https-addresshttps服务的端口
不会吐丝的蜘蛛侠。
·
2024-02-08 08:30
hadoop
大数据
分布式
Hadoop
2.7配置
core-site.xmlfs.defaultFShdfs://bigdata/ha.zookeeper.quorum192.168.56.70:2181,192.168.56.71:2181,192.168.56.72:2181-->
hadoop
.tmp.dir
不会吐丝的蜘蛛侠。
·
2024-02-08 08:59
Hadoop
hadoop
大数据
hdfs
hive2.3.2配置(带kerberos)
hive-env.shexport
HADOOP
_HEAPSIZE=2048export
HADOOP
_CLIENT_OPTS="-Xmx2g-Xms2g-Djava.net.preferIPv4Stack
不会吐丝的蜘蛛侠。
·
2024-02-08 08:59
Hadoop
hive
hadoop
大数据
高性能hbase配置
hbase-env.shexport
HADOOP
_HOME=/export/
hadoop
export
HADOOP
_CONF_DIR=/export/common/
hadoop
/confexportJAVA_HOME
不会吐丝的蜘蛛侠。
·
2024-02-08 08:59
Hadoop
hbase
数据库
大数据
HDFS执行balance报错:hdfs balance java.io.IOException: Another Balancer is running.. Exiting
现象:1、大数据
Hadoop
集群,HDFS扩容后,为了使各节点数据均衡,执行balance操作。2、启动hdfsbalance时,一直出现其他的balance在执行中,其实并没有执行。
不会吐丝的蜘蛛侠。
·
2024-02-08 08:29
Hadoop
hdfs
hadoop
java
大数据问题:
Hadoop
的web页面无法访问logs
HTTPERROR403Problemaccessing/logs/.Reason:Useryarnisunauthorizedtoaccessthispage.PoweredbyJetty://分析:1、有的说是权限问题,但是并没有用yarn用户启动
Hadoop
不会吐丝的蜘蛛侠。
·
2024-02-08 08:28
Hadoop
hadoop
hadoop
调优-hdfs配置优化
dfs.permissions.enabledtruedfs.namenode.handler.count90dfs.ha.automatic-failover.enabledtrue其它优化:dfs.hosts/export/
hadoop
不会吐丝的蜘蛛侠。
·
2024-02-08 08:28
Hadoop
hadoop
hdfs
big
data
spark运行失败The directory item limit of /spark_dir/spark_eventLogs is exceeded: limit=1048576 items=104
报错:org.apache.
hadoop
.ipc.RemoteException(org.apache.
hadoop
.hdfs.protocol.FSLimitException$MaxDirectoryItemsExceededException
不会吐丝的蜘蛛侠。
·
2024-02-08 08:58
Hadoop
spark
hadoop
hdfs
grafana+prometheus+hiveserver2(jmx_exporter+metrics)
文件开启metricshive.server2.metrics.enabledtruehive.service.metrics.codahale.reporter.classesorg.apache.
hadoop
.hive.common.metrics.metrics2
不会吐丝的蜘蛛侠。
·
2024-02-08 08:24
hive
Hadoop
grafana
prometheus
hive监控
jmx_exporter
hive_metrics
hadoop
学习笔记
下载安装伪分布式:1.国内源下载地址:https://mirrors.tuna.tsinghua.edu.cn/apache/
hadoop
/common/Indexof/apache/
hadoop
/commonhttps
草琳情
·
2024-02-08 08:54
hadoop
学习
笔记
flink on yarn
Per-JobCluster模式flinkrunflinkrunapplication-tyarn-application配置任务退出时保留Checkpoint从外部checkpoint恢复应用资料使用安装完
hadoop
3.3.4
枪枪枪
·
2024-02-08 07:46
flink
大数据
hadoop
Mac 安装多版本 protoc / protobuf
)brew安装brewinstallprotobuf#查看安装目录$whichprotoc/opt/homebrew/bin/protoc#2)配置环境变量vim~/.zshrc#protoc(for
hadoop
大数据王小皮
·
2024-02-08 07:26
操作配置
macos
sqoop导入数据到hdfs
Sqoop是apache旗下的一款”
Hadoop
和关系数据库之间传输数据”的工具导入数据:将MySQL,Oracle导入数据到
Hadoop
的HDFS、HIVE、HBASE等数据存储系统导出数据:从
Hadoop
鲲鹏猿
·
2024-02-08 06:40
hdfs
sqoop
hadoop
Hadoop
之环境配置
1.安装环境ubuntu2.安装jdk3.安装
Hadoop
1.在安装ubuntu时需要注意安装ubuntu创建用户,等待时间比较长,大家需要有点耐心。
鲲鹏猿
·
2024-02-08 06:39
big
data
数据库
数据库架构
数据采集工具Sqoop、Datax、Flume、Canal
libcpmysql-connector-java-5.1.10.jar/sqoop-install-path/lib重命名文件并配置文件mvsqoop-env-template.shsqoop-env.sh#添加环境变量export
HADOOP
_COMMON_HOME
yue-verdure
·
2024-02-08 06:08
大数据
sqoop
flume
大数据
阿里云
大数据系列—数据迁移(Sqoop,Flume,DataX)对比学习(stage3)
个人大数据技术栈:DataX,Sqoop,
Hadoop
,Hive,Spark,Flink,Hbase,Kafka,Kettle,Azkaban,Airflow,Tableau…个人在学习领域:Python
道-闇影
·
2024-02-08 06:07
big
data
大数据
sqoop
flume
Zookeeper搭建集群步骤
[
hadoop
@note1~]$cat/etc/hosts127.0.0.1localhostlocalhost.localdomainlocalhost4localhost4.localdomain4
qq_22019789
·
2024-02-08 06:37
zookeeper
java
MapReduce的类型与格式
MapReduce的类型
Hadoop
的MapReduce中,map函数和reduce函数遵循如下格式:map:(k1,v1)--->list(k2,v2)combiner:(k2,list(v2))--
Vechace
·
2024-02-08 05:31
Spark安装(Yarn模式)
一、解压链接:https://pan.baidu.com/s/1O8u1SEuLOQv2Yietea_Uxg提取码:mb4htar-zxvf/opt/software/spark-3.0.3-bin-
hadoop
3.2
莫噶
·
2024-02-08 04:44
搭建
spark
大数据
分布式
Hadoop
搭建(完全分布式)
bigdata-masterbigdata-slave1bigdata-salve2NameNodeNodeManagerNodeManagerSecondaryNameNodeDataNodeDataNodeResourceManagerNodeManagerDataNode目录一、jdk安装:二、
hadoop
莫噶
·
2024-02-08 04:14
搭建
分布式
hadoop
大数据
现成
Hadoop
安装和配置,图文手把手交你
为了可以更加快速的可以使用
Hadoop
,便写了这篇文章,想尝试自己配置一下的可以参考从零开始配置
Hadoop
,图文手把手教你,定位错误资源1.两台已经配置好的
hadoop
2.xshell+Vmware链接
叫我小唐就好了
·
2024-02-08 03:56
一些好玩的事
hadoop
大数据
分布式
课程设计
运维
Spark Standalone 集群配置
ApacheMesos-一个通用的集群管理器,也可以运行
Hadoop
MapReduce和服务应用程序。(已弃用)
Hadoop
YARN-Hado
董可伦
·
2024-02-07 23:01
Spark
spark
大数据
分布式
Hadoop
系统应用之Zookeeper分布式集群部署
一、Zoopkeeper安装包下载安装【Zookeeper版本型号为3.4.10】1.下载Zookeeper安装包(地址)https://archive.apache.org/dist/zookeeper/zookeeper-3.4.10/2.上传安装包(SecureCRT&FX)通过软件FX将安装包上传到linux系统的/export/software/目录下3.解压Zookeeper安装包执行
-牧心-
·
2024-02-07 22:31
分布式
hadoop
java-zookeeper
Hadoop
| 集群配置(一)使用Shell脚本解决完全分布式集群节点之间的文件传输问题 | scp命令 | rsync命令
文章目录参考资料一、前言二、rsync远程同步工具三、使用shell编写分发脚本四、总结参考资料视频链接Linuxscp命令一、前言在
Hadoop
完全分布式集群环境下,里面的各个节点都是通过SSH免密登陆连接的
「已注销」
·
2024-02-07 21:20
#
大数据原理与应用
hadoop
分布式
linux
【
hadoop
】集群搭建之部署mysql并远程访问(连接)
的roo账号密码并连接mysql(四)更改默认密码并创建testdb数据库(五)将mysqljdbc驱动引入ider中的java项目里(六)通过jdbc连接(访问)mysql(使用ider)(七)创建
hadoop
db_lcz_2014
·
2024-02-07 18:32
hadoop
mysql
大数据
学习大数据需要掌握哪些知识?
而且不论是学习
hadoop
,还
大数据学习01
·
2024-02-07 15:16
CentOS7
集群安装
JDK1.8
准备工作1、提前安装三台虚拟机,可以参考:https://mp.csdn.net/mp_blog/creation/editor/1360101082、三台虚拟机分别配置免密登录,参考:https://blog.csdn.net/LSW_JAVADP/article/details/121757927安装JDK一、官网下载对应JDK自己用的:链接:https://pan.baidu.com/s/1
在下区区俗物
·
2024-02-07 12:30
Hadoop集群安装部署
java
linux
大数据
CentOS7集群配置免密登录
准备工作提前开启三台虚拟机
hadoop
102、
hadoop
103,
hadoop
104,关于三台虚拟机的安装可以参考:https://mp.csdn.net/mp_blog/creation/editor
在下区区俗物
·
2024-02-07 12:00
Hadoop集群安装部署
linux
运维
大数据
CentOS7搭建
Hadoop
集群
准备工作1、准备三台虚拟机,参考:CentOS7集群环境搭建(3台)-CSDN博客2、配置虚拟机之间免密登录,参考:CentOS7集群配置免密登录-CSDN博客3、虚拟机分别安装jdk,参考:CentOS7
集群安装
在下区区俗物
·
2024-02-07 12:57
Hadoop集群安装部署
hadoop
eclipse
java
请问半吊子 C++选手该如何深入学习 C++?
java是典型的后台语言,能和netty、
hadoop
、hbase-、elastics
枪哥玩转嵌入式
·
2024-02-07 11:21
51单片机
智能小车
嵌入式
单片机
51单片机
单例模式
hadoop
集群搭建踩坑实录
由于不可控以及不可知的原因我搭建的
hadoop
集群突然显示虚拟机出现了问题导致某一个DataNode数据丢失并且无法通过Xshell远程访问其他的DataNode主机和虚拟机无法互相ping通网上能找的解决办法基本都找了依然无法解决因此我能想到的是只能删除虚拟机重新克隆一台机器然而还是无法通过远程连接无奈之下我重启电脑发现又可以通过
温文尔雅的流氓
·
2024-02-07 10:39
Hadoop
Hadoop
分布式计算实验踩坑实录及小结
目录
Hadoop
分布式计算实验踩坑实录及小结踩坑实录
Hadoop
学习
Hadoop
简介HDFSSomeconceptsMapReduce主要配置文件集群搭建来源与引用
Hadoop
分布式计算实验踩坑实录及小结踩坑实录单机
小童同学_
·
2024-02-07 10:08
HIT
hadoop
分布式
ubuntu
java
kyuubi 接入starrocks | doris
kyuubi接入starrocks一、环境
Hadoop
集群组件版本
Hadoop
3.1.1spark3.Xzookeeper3.XHive3.Xkyuubi版本1.7.1starrocks2.X 已将kyuubi
甜甜的巧克力阿
·
2024-02-07 09:48
大数据相关
大数据
kyuubi
starrocks
doris
上一页
3
4
5
6
7
8
9
10
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他