E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
研磨hadoop
「大数据集群的搭建和使用」背景知识:大数据
Hadoop
生态圈介绍
目录一、
Hadoop
简介二、
Hadoop
的运行模式1.单机模式2.伪分布式模式3.完全分布式模式三、
Hadoop
生态圈组件1.HDFS2.MapReduce3.YARN4.Hive5.Pig6.HBase7
优秀的Athena在休息
·
2023-10-10 02:14
大数据集群的搭建和使用
大数据
hadoop
分布式
大数据生态系统(
Hadoop
)的安装部署
大数据生态系统(
Hadoop
)的安装部署安装
hadoop
的准备阶段(在每个节点)1、安装JDK1.82、远程ssh无密码登录(主到从)ssh-keygenssh-copy-idip/主机名3、防火墙关闭
码上见真章
·
2023-10-10 02:44
hadoop
Apache
Hadoop
生态部署-
hadoop
单机安装
目录查看服务架构图-服务分布、版本信息1:安装包下载2:配置环境变量3:服务配置(1)core-site.xml(2)配置
hadoop
-env.sh(3)HDFS配置文件hdfs-site.xml(4)
iwester
·
2023-10-10 02:12
Hadoop生态
hadoop
apache
大数据
大数据技术之
Hadoop
第1章
Hadoop
概述1.1
Hadoop
是什么1.2
Hadoop
发展历史(了解)1.3
Hadoop
三大发行版本(了解)
Hadoop
三大发行版本:Apache、Cloudera、Hortonworks。
骚戴
·
2023-10-10 02:41
大数据
hadoop
大数据
hdfs
《黑马程序员》大数据集群(
Hadoop
生态)安装部署——图文讲解
大数据集群(
Hadoop
生态)安装部署简介1)
Hadoop
是一个由Apache基金会所开发的分布式系统基础架构。2)主要解决,海量数据的存储和海量数据的分析计算问题。
懒羊羊夸夸~
·
2023-10-10 02:41
hadoop
分布式
Python+大数据-
Hadoop
生态-
hadoop
(二)--Apache
Hadoop
Python+大数据-
Hadoop
生态-
hadoop
(二)–Apache
Hadoop
今日课程学习目标了解
Hadoop
发展历史、生态圈掌握
Hadoop
集群架构、角色掌握
Hadoop
集群分布式安装部署掌握JobHistoryServer
呆猛的呆呆小哥
·
2023-10-10 02:10
python+大数据
hadoop
大数据
apache
大数据系统架构-
Hadoop
生态系统
Hadoop
是较早用于处理大数据集合的分布式存储计算基础架构,通过
Hadoop
,用户可以在不了解分布式底层细节的情况下,开发分布式程序,充分利用集群的为例执行告诉运算和存储。
小成小成小成
·
2023-10-10 02:08
大数据
hadoop
大数据
系统架构
【大数据】
Hadoop
生态系统及其组件
Hadoop
生态系统及其组件1.
Hadoop
生态系统的组成2.
Hadoop
生态系统简介2.1HDFS2.2MapReduce2.3YARN2.4Hive2.5Pig2.6HBase2.7HCatalog2.8Avro2.9Thrift2.10Drill2.11Mahout2.12Sqoop2.13Flume2.14Ambari2.15Zookeeper2.16Oozie1
G皮T
·
2023-10-10 02:36
#
Hadoop
hadoop
big
data
大数据
hdfs
hive
mapreduce
yarn
大数据集群(
Hadoop
生态)安装部署
目录1.简介2.前置要求3.
Hadoop
集群角色4.角色和节点分配5.调整虚拟机内存6.Zookeeper集群部署7.
Hadoop
集群部署7.1下载
Hadoop
安装包、解压、配置软链接7.2修改配置文件
时光の尘
·
2023-10-10 02:33
Linux学习
大数据
hadoop
分布式
《伯罗奔尼撒战争史》与《战国策》札记(二十四)
先让孔子看自己的牙齿原先何等坚固,又说六十岁就光了,是因为互相
研磨
的结果。如今富挚有才能,可是您跟他关系很不
刘子曰_b08e
·
2023-10-10 02:59
MacBook Pro18 安装
hadoop
2.7.7版本和eclipse插件安装
(话外)这几天,刚刚入手一台macbookpro18,心情非常激动,虽然已经对linux系统很熟悉,但是刚开始几天用mac还是不习惯,就赶紧的安装完的
hadoop
来跑实验。
秃顶高富帅
·
2023-10-09 22:19
hadoop安装
Mac
Hadoop
eclipse插件安装
使用mapreduce用贝叶斯分类器训练
继上一篇配置好
hadoop
和eclipse环境之后。我开始做我的实验。实验内容:通过贝叶斯公式对文件分类到某个文件夹中。
秃顶高富帅
·
2023-10-09 22:19
hadoop安装
hadoop
mapreduce
bayes
大数据—— Spark Core 知识点整理
1.Spark和
Hadoop
相比有什么优势运行速度快:Spark拥有DAG执行引擎,支持在内存中对数据进行迭代计算。
Vicky_Tang
·
2023-10-09 21:34
Spark
技术栈
spark
big
data
大数据
phoenix启动报错:Error: org.apache.
hadoop
.hbase.DoNotRetryIOException: Unable to load configured region s
phoenix启动报错:Error:org.apache.
hadoop
.hbase.DoNotRetryIOException:Unabletoloadconfiguredregionsplitpolicy
Better~Me
·
2023-10-09 18:10
大数据
大数据
使用windows脚本同时开启多个虚拟机
问题描述:学
hadoop
时每次启动虚拟机、关闭虚拟机都会让我额外花费一些时间,所以想写个脚本实现同时一键开启和关闭多台虚拟机。需求:通过命令行传入参数“start"、"stop"执行脚本。
一叶尘枫
·
2023-10-09 17:47
windows
大数据
hadoop
开机启动
hadoop
集群(虚拟机)
一、背景在学习
hadoop
的时候,在本地通过VMware搭建了一个
hadoop
集群,但是由于每天电脑都需要重启,所以虚拟每天都会被关掉,所以想要写一个脚本一键启动虚拟机+
hadoop
集群二、实现方案一1
believe-xin
·
2023-10-09 17:16
Hadoop
vmware
linux
hadoop
Spark源码解析之读取文件
原理读文件分区源码/***Physicalplannodeforscanningdatafrom
Hadoop
FsRelations.
Woten我特牛
·
2023-10-09 15:31
大数据
Spark
spark
大数据
Spark原理
Spark介绍Spark是一种与
Hadoop
相似的开源集群计算环境,但是两者之间还存在一些不同之处,这些有用的不同之处使Spark在某些工作负载方面表现得更加优越,换句话说,Spark启用了内存分布数据集
Popcorn丶30
·
2023-10-09 14:29
spark
【Linux】Linux无法免密登录的原因
项目场景:linux中配
hadoop
设置免密登录。问题描述免密登录设置的步骤完全正确,但是依旧用ssh主机名连接电脑时,仍然需要密码。
(YSY_YSY)
·
2023-10-09 13:52
#
Linux
linux
运维
服务器
【Linux】免密登录
hadoop
完全分布式的集群的搭建,涉及到集群中各个机器之间的互访,因为
Hadoop
集群中各个机器间会相互地通过ssh访问,每次访问都输入密码是不现实的,所以要配置各个机器间的ssh是无密码登录的。
bkdl047
·
2023-10-09 13:19
Linux
linux
免密登录
第三章 Linux挂载—
Hadoop
一、find搜索命令搜索命令1、命令:find2、搜索功能是非常消耗系统资源(内存、CPU、磁盘IO)3、文件名搜索:-》选项:-name-》#find/-nameinit-》*星号代表通配符,匹配任意字符-》#find/etc/-nameinit-》#find/etc/-nameinit*-》?问号代表通配符,匹配单个字符-》#find/etc/-nameinit???-》选项:-iname,不
565420164146
·
2023-10-09 12:41
Apache HBase™参考指南 - 官方翻译——Apache HBase配置
3.配置文件ApacheHBase使用与Apache
Hadoop
相同的配置系统。所有配置文件都位于conf/目录中,需要为集群上的每个节点保持同步。HBase配置文件说明备份大师默认情
王木头
·
2023-10-09 08:54
hbase
hbase
大数据
机器翻译
2020-02-24小刘科研笔记之几种常见的
研磨
抛光液的优劣势分析
研磨
抛光是半导体加工过程中的一项重要工艺,主要应用于半导体表面进行加工,
研磨
液、抛光液是影响半导体表面质量的重要因素。
小刘学光电
·
2023-10-09 08:23
Hadoop
-学习笔记-黑马程序员
2022最新黑马程序员大数据
Hadoop
入门视频教程,最适合零基础自学的大数据
Hadoop
教程_哔哩哔哩_bilibili资料链接:https://pan.baidu.com/s/11au8SBZGE-iUaWBGbg
暗河、
·
2023-10-09 05:41
大数据
hadoop
学习
分布式
阶段项目总结
可以满足用户对网络舆情的检测和热点的追踪项目价值实现了从互联网上采集海量的数据,基于这个海量的数据,以及用户定制的主题,进行数据分析提供了热点发现,数据走势技术栈数据端:离线部分数据仓库的构建离线统计分析实时统计分析技术栈scala/javamaven
hadoop
hdfsyarnhive
The_Boy_le
·
2023-10-09 05:32
hadoop
zookeeper
redis
spark
kafka
高性能消息中间件Kafka实战
Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协调的分布式消息系统,它的最大的特性就是可以实时的处理大量数据以满足各种需求场景:比如基于
hadoop
小强同志
·
2023-10-09 05:40
kafka
kafka
分布式
big
data
Flink+Doris 实时数仓
架构图如下可以看到Doris的数仓架构十分简洁,不依赖
Hadoop
生态组件,构建及运维成本较低。
不二人生
·
2023-10-09 04:42
#
Doris
flink
大数据
hdfs数据丢失数据块block missing问题排查解决
告警内容:NameNodeBlocksHealth:TotalBlocks:[13352317],MissingBlocks:[1]开始时间:2023-10-0208:05:12持续时间:8小时44分钟
hadoop
ZhaoYingChao88
·
2023-10-09 03:58
Hadoop
hdfs
hadoop
大数据
hdfs shell的基本操作以及hdfsWeb查看文件
在安装好
hadoop
集群并成功的启动了hdfs之后,我们就可以利用hdfs对文件进行操作了,一下是对文件的一些基本操作hdfs基本操作1、查询命令
hadoop
dfs-ls/查询/目录下的所有文件和文件夹
音乐与咖啡Bean
·
2023-10-09 02:06
Hadoop
面试题之yarn
1、简单介绍yarn?yarn是一个资源管理、任务调度的框架。主要包含三个模块:resourceManger、nodeManger、ApplicationMater。2、简单介绍三个组件的作用?RM:负责所有资源的监控、分配和管理AM:负责每一个具体应用程序的调度和协调--applicationmaster。用户提交的每个应用程序均包含一个AM,它可以运行在RM以外的机器上。NM:负责每一个节点的
becooner
·
2023-10-09 02:17
假期周进度总结(八)
本周通过慕课网中林子雨所讲课程进行
Hadoop
学习网址如下:https://www.icourse163.org/course/XMU-1002335004每天4.5个小时左右,暂时没有遇到问题转载于:
相太阳
·
2023-10-09 00:14
大数据
hadoop
环境搭建———
Hadoop
安装教程_伪分布式配置_CentOS6.4/
Hadoop
2.6.0【转载搬运】
本
Hadoop
教程由厦门大学数据库实验室出品,转载请注明。本教程适合于在CentOS
JYeontu
·
2023-10-09 00:09
hadoop
伪分布
大数据
hadoop环境配置
hdfs
搭建
hadoop
以下内容为参考慕课中厦门大学林子雨“大数据技术原理与应用”课程中提供的教程(链接:http://dblab.xmu.edu.cn/blog/install-
hadoop
/),以及自己在安装配置过程中遇到的一些问题百度到的方法
ab3916207
·
2023-10-09 00:09
开发工具
运维
java
Hadoop
安装和使用详解
本文主要参考林子雨老师的教程,以下是参考源:视频慕课:2.3.2
Hadoop
的安装与使用详解_哔哩哔哩_bilibili本文希望通过部署
Hadoop
为主线,对
Hadoop
的框架组成、各部分协同工作的原理
Sharkkkie
·
2023-10-09 00:38
大数据
hadoop
linux
ubuntu
Hadoop
(林子雨慕课课程)
文章目录2.
Hadoop
2.1
Hadoop
简介2.2
Hadoop
版本演变2.3
Hadoop
项目结构2.4
Hadoop
集群的部署和使用2.
Hadoop
2.1
Hadoop
简介
Hadoop
可以支持多种编程语言
几窗花鸢
·
2023-10-09 00:05
大数据应用
hadoop
hadoop
大数据
分布式
Flink日志相关
日志位置Flink-on-yarn模式的job日志输出路径是:$
HADOOP
_HOME/logs/userlogs///以上$
HADOOP
_HOME/logs/userlogs是yarn容器的默认日志路径
Best_Scenery
·
2023-10-08 22:13
Doris对接hive数据源以及Doris版本滚动升级实操
droptabletmp_txzl_as2;CREATETABLE`tmp_txzl_as2`(`signalid`string,`day_id`string,`cnts`int)ROWFORMATSERDE'org.apache.
hadoop
.hive.serde2
WLY@WLY
·
2023-10-08 22:27
Doris
hive
hadoop
big
data
测试mysql与greenplum实时同步
测试mysql与greenplum实时同步一.测试服务器环境准备1.集群服务器ip及主机名192.168.10.225artemis.
hadoop
.com192.168.10.226uranus.
hadoop
.com192.168.10.227ares.
hadoop
.com192.168.10.228bird.
hadoop
.com192.168.10.229lover.
hadoop
.com
李春田
·
2023-10-08 21:03
Spark完全分布式集群搭建
环境准备服务器集群我用的CentOS-6.6版本的4个虚拟机,主机名为
hadoop
01、
hadoop
02、
hadoop
03、
hadoop
04,另外我会使用
hadoop
用户搭建集群(生产环境中root用户不是可以任意使用的
piziyang12138
·
2023-10-08 20:20
Hbase 概念扫盲
首先,它大部分的时候,依赖于
Hadoop
的分布式存储方案HDFS,HDFS的设计初衷就是为了方便水平扩展。Hbase依赖于它,将物理数据落户HDFS。
送过快递的码农
·
2023-10-08 19:01
大数据学习十:
hadoop
更换权限及JPS--process information unavailable
1、修改
hadoop
权限#cd/opt/software/
hadoop
-2.8.1/sbin#./stop-dfs.sh#./stop-yarn.sh#cd../..
RacyFu
·
2023-10-08 18:46
kafka安装部署+kafka-eagle+集成SpringBoot
.创建存放kafka消息的目录4、修改配置文件5.分发kafka安装目录6.编写kafka集群操作脚本7.启动kafka集群8.测试1.在bin目录下创建主题2.查看主题列表3.启动控制台生产者4.在
hadoop
103
HuiHui跃水
·
2023-10-08 18:14
kafka
spring
boot
java
分布式
Springboot整合Kafka
首先,创造一个topic:order:kafka-topics.sh--bootstrap-server
hadoop
101
大灰煜
·
2023-10-08 18:12
后端开发
spring
boot
kafka
java
清湘笔意
装裱图用宣纸、毛笔、
研磨
。谢谢观赏,祝君平安。
半樵
·
2023-10-08 16:19
Hadoop
2.x安全:
hadoop
集群之kerberos认证(一、原理+安装配置)
问题或建议,请公众号留言;如果您觉得“大数据开发运维架构”对你有帮助,欢迎转发朋友圈从微信公众号拷贝过来,格式有些错乱,建议直接去公众号阅读一、为什么启用Kerberos安全认证大家都知道,
Hadoop
1.0.0
大数据开发运维架构
·
2023-10-08 15:16
clickhouse 入门介绍和预演
简称CK,与
Hadoop
,Spark相比,ClickHouse很轻量级,由俄罗斯第一大搜索引擎Yandex于2016年6月15日开源,开发语言为C++。这对保守俄罗斯人来说是个特大事。
biwenjun999
·
2023-10-08 14:47
大数据
煮一杯咖啡需要学好这些物理与化学
温度,水中含有的微量化学成分,咖啡豆
研磨
后的粒度分布,水与咖啡豆的比例,时间,也许最重要的是生咖啡的质量,这些变量在
科学人
·
2023-10-08 14:16
【茶屿】关于茶的一些知识
关于茶的小知识1、绿茶磨碎了不是抹茶有许多人对于抹茶的概念就是,通过将绿茶
研磨
之后形成的茶粉就是抹茶。如你是这么想的那就大错特错了。其实抹茶是用遮阳茶为原料,据说越绿其价值就越
北_50ca
·
2023-10-08 13:08
大数据软件项目的数据清洗
以下是一些常见的数据清洗工具和库,可以与大数据框架(如
Hadoop
、Spark等)结合使用,希望对大家有所帮助。北京木奇移动技术有限公司,专业的软件外包开发公司,欢迎交流合作。
defdsdddev
·
2023-10-08 12:14
大数据
Hadoop
核心组件
Hadoop
的三大核心组件分别是:HDFS(
Hadoop
DistributeFileSystem):
hadoop
的数据存储工具。
HZHZHZ
·
2023-10-08 10:16
上一页
85
86
87
88
89
90
91
92
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他