E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Linux安装Hadoop
Hadoop
3.x基础(1)
来源:B站尚硅谷这里写目录标题大数据概论大数据概念大数据特点(4V)大数据应用场景
Hadoop
概述
Hadoop
是什么
Hadoop
发展历史(了解)
Hadoop
三大发行版本(了解)
Hadoop
优势(4高)
Hadoop
魅美
·
2024-01-30 07:22
大数据基础
大数据
hadoop
数据写入HBase(scala)
packagesourceimportorg.apache.
hadoop
.hbase.
莫噶
·
2024-01-30 07:51
HBase
hbase
数据库
大数据
Hadoop
-MapReduce-YarnChild启动篇
一、源码下载下面是
hadoop
官方源码下载地址,我下载的是
hadoop
-3.2.4,那就一起来看下吧Indexof/dist/
hadoop
/core二、上下文在上一篇中已经将到:MRAppMaster的启动
隔着天花板看星星
·
2024-01-30 07:21
hadoop
mapreduce
大数据
linux安装
ps软件教程,如何在Linux上安装Adobe Photoshop | MOS86
尽管存在许多AdobePhotoshop替代产品,但Photoshop仍然处于图像编辑软件的最前沿。尽管多年来Adobe的超强大软件在Linux上不可用,但现在很容易安装。立即解锁“基本Linux命令备忘单”!这将使您注册我们的新闻通讯让我们学习如何在Linux上安装Photoshop!Linux是Windows和Mac的不可思议的替代品,具有多种风格。同样,您会发现在GIMP到Inkscape上
冯国添
·
2024-01-30 06:22
linux安装ps软件教程
Hadoop
与Spark横向比较【大数据扫盲】
大数据场景下的数据库有很多种,每种数据库根据其数据模型、查询语言、一致性模型和分布式架构等特性,都有其特定的使用场景。以下是一些常见的大数据数据库:NoSQL数据库:这类数据库通常用于处理大规模、非结构化的数据。它们通常提供简单的查询语言,并强调水平扩展和高可用性。例如:-键值存储:如Redis,AmazonDynamoDB-列式存储:如ApacheCassandra,HBase-文档数据库:如M
super_journey
·
2024-01-30 06:51
大数据
hadoop
spark
如何使用Docker安装Spug并实现远程访问本地运维管理界面
文章目录前言1.Docker安装Spug2.本地访问测试3.
Linux安装
cpolar4.配置Spug公网访问地址5.公网远程访问Spug管理界面6.固定Spug公网地址前言Spug面向中小型企业设计的轻量级无
江城开朗的豌豆
·
2024-01-30 03:54
网络知识
网络穿透
运维
docker
容器
hadoop
必记知识点(1)
1.
Hadoop
是什么,解决什么问题?
Hadoop
是一个由Apache基金会所开发的分布式系统基础架构。它可以让使用者在普通的硬件上搭建起一个强大的计算集群。
运维仙人
·
2024-01-30 02:40
hadoop
大数据
分布式
hadoop
必记知识点(2)
6.
hadoop
集群计算的时候,什么是集群的主要瓶颈?展开说一下,生产遇到了什么问题?在
Hadoop
集群进行计算时,可能会遇到多个瓶颈,但最主要的通常包括网络带宽、存储以及CPU处理能力。
运维仙人
·
2024-01-30 02:39
hadoop
大数据
分布式
hadoop
必记知识点(3)
在这里插入图片描述
Hadoop
的Combiner的作用
Hadoop
的Combiner是一个在map任务执行完之后、在数据被发送到reduce任务之前执行的函数。
运维仙人
·
2024-01-30 02:09
hadoop
大数据
分布式
幻兽帕鲁Linux私服搭建备份迁移指南
说明:不只是幻兽帕鲁,后续大家想自己搭私服玩别的Steam游戏,大部分内容都可以做一个参考
Linux安装
steamcmdLinux开服步骤游戏配置修改Youtobe视频教程配置选择下面部署步骤基于腾讯云
猩猩之火可以疗源
·
2024-01-30 02:36
游戏
腾讯云
linux
运维
MongoDB介绍及安装
文章目录MongoDB介绍什么是MongoDBMongoDB技术优势MongoDB应用场景MongoDB快速开始
linux安装
MongoDB启动MongoDBServer关闭MongoDB服务Mongoshell
野心与梦
·
2024-01-30 02:17
MongoDB专栏
mongodb
数据库
大数据 -
Hadoop
系列《三》- MapReduce(分布式计算引擎)概述
上一篇文章:大数据-
Hadoop
系列《三》-HDFS(分布式文件系统)概述-CSDN博客目录12.1针对MapReduce的设计构思1.如何对付大数据处理场景2.构建抽象编程模型3.统一架构、隐藏底层细节
王哪跑nn
·
2024-01-29 23:31
大数据
hadoop
大数据
hadoop
hdfs
gradle简单入门
version=8.5&format=all
Linux安装
官网文档:https:
org0610
·
2024-01-29 20:23
gradle
代理
Linux安装
Influxdb
Linux安装
Influxdb1、安装步骤1.1、安装Influxdb步骤1.2、Influxdb默认安装路径1.3、命令行操作Influxdb,建库,建用户1.3.1进入influxdb命令行1.3.2
北漂IT民工_程序员_ZG
·
2024-01-29 20:52
linux
运维
服务器
时序数据库
浅析大数据的技术生态圈(
Hadoop
,hive,spark)
大数据本身是个很宽泛的概念,
Hadoop
生态圈(或者泛生态圈)基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗瓢盆,各有各的用处,互相之间又有重合。
Rysinal
·
2024-01-29 19:11
hadoop
大数据
hadoop
spark
生态圈
浅析大数据汇总
传统的数据库技术已经无法满足对这些海量数据的存储和处理需求,因此出现了分布式存储和计算技术,如
Hadoop
、HBase等。
shinelord明
·
2024-01-29 19:10
大数据
开源
Linux安装
Python GUI库 wxPython
参考https://www.cnblogs.com/gaowengang/p/10847075.htmlhttps://extras.wxpython.org/wxPython4/extras/linux/gtk3/ubuntu-18.04/https://blog.csdn.net/android_lover2014/article/details/72888401?ops_request_mi
米酒真香
·
2024-01-29 18:13
阿里云服务器2024年2核16G、4核32G、8核64G配置最新收费标准及活动价格
2核16G、8核64G、4核32G配置的云服务器处理器与内存比为1:8,这种配比的云服务器一般适用于数据分析与挖掘,
Hadoop
、Spark集群和数据库,缓存等内存密集型场景,因此,多为企业级用户选择,
qq_3304559116
·
2024-01-29 18:17
阿里云
阿里云
服务器
云计算
全面解析基于
Hadoop
模型的数据分析平台框架
本文主要讲解以下两个方面:♦
Hadoop
MapReduce与Hive技术研究♦数据分析平台框架设计与环境配置
Hadoop
MapReduce与Hive技术研究一、
Hadoop
框架工作机制
Hadoop
框架定义
丨程序之道丨
·
2024-01-29 17:04
【Docker篇】
Linux安装
Docker、docker安装mysql、redis、rabbitmq
1.
Linux安装
docker官方帮助文档:InstallDockerEngineonCentOS|DockerDocs1.1安装命令#1.卸载之前的dockersudoyumremovedocker\
光久li
·
2024-01-29 17:14
Docker
笔记
docker
java
mysql
rabbitmq
linux安装
nginx
一、准备安装包安装包放置在服务器/usr/local目录下。1、提前官网下载nginxnews2、在线下载压缩包到/usr/local目录中wgethttp://nginx.org/download/nginx-1.15.9.tar.gz3、下载完之后查看,并解压tar-zxvfnginx-1.15.9.tar.gz4、在当前目录,即usr/local下创建文件夹nginx文件夹,当作安装地址mk
Jastep
·
2024-01-29 15:31
操作记录
linux
nginx
服务器
运维
nginx部署前端(vue)项目及配置修改
目录一、前端应用打包二、部署前端应用1、上传前端文件夹2、修改nginx配置文件3、重启nginx三、查看效果nginx安装参考:
linux安装
nginx-CSDN博客一、前端应用打包打包命令npmrunbuild
Jastep
·
2024-01-29 15:56
操作记录
前端
运维
linux
如何使用Docker部署WBO白板并实现公网地址远程访问
白板并实现公网地址远程访问的文章,如果有什么需要改进的地方还请大佬指出⛺️作者简介:大家好,我是青衿☁️博客首页:CSDN主页放风讲故事每日一句:努力一点,优秀一点文章目录前言1.部署WBO白板2.本地访问WBO白板3.
Linux
放风讲故事
·
2024-01-29 11:17
docker
容器
运维
【若泽大数据第一天】--在vmware workstation上安装CentOS6.5系统
一、下载并安装vmwareworkstationpro12二、下载CentOS6.5镜像文件三、创建虚拟机并命名为
hadoop
0011、在VM12中选择创建新虚拟机2、自定义高级3、默认下一步4、选择稍后安装操作系统
naroutofan
·
2024-01-29 11:25
Elasticsearch集群部署及Head插件安装
由于ES比较吃内存,所以每台服务器的配置要求为:CPU:2核内存:2G我的三个节点分别是
Hadoop
Node01、
Hadoop
Node02、
Hadoop
Node03,以下操作全部基于
Hadoop
Node01
景鹏虎晓
·
2024-01-29 11:54
elasticsearch
es
spark快速入门java_Spark 快速入门
既然本教程中我们不使用HDFS,你可以随便下载一个适配任何
Hadoop
的版本的Spark。
陈兰香
·
2024-01-29 11:54
spark快速入门java
基于大数据平台的kylin安装部署手册
目录一.单例Kylin部署1.环境准备1.1软件要求1.2硬件要求1.3
Hadoop
环境1.4安装前环境检查1.4.1开启时钟同步1.4.2安装net-tools1.4.3检查hbase是否可用1.4.4
猿来孺词
·
2024-01-29 10:26
部署安装
大数据
kylin
分布式
数据仓库
数据分析
MR和Spark的比较
二、
hadoop
和spark的shuffle相同和差异?三、Spark与
Hadoop
差异一、Spark为什么比MR快?
猿来孺词
·
2024-01-29 10:55
mr
spark
大数据
分布式
hadoop
Elk运维-Elastic7.6.1集群安装部署
集群安装结果说明实例配置安装软件安装账号
hadoop
12C4G磁盘:50G云服务器elasticsearchkibanard
hadoop
22C4G磁盘:50G云服务器elasticsearchrd
hadoop
32C4G
消逝的bug
·
2024-01-29 10:11
运维
elk
数据库
Hadoop
学习之路(七) MapReduce框架Partitioner分区
Partitioner分区的作用是什么?在进行MapReduce计算时,有时候需要把最终输出数据分到不同的文件中,比如按照省份划分的话,需要把同一省份的数据放到一个文件中;按照性别划分的话,需要把同一性别的数据放到一个文件中。我们知道最终的输出数据是来自于Reducer任务。那么如果要得到多个文件,意味着有相同数量的Reducer任务在运行。Reducer任务的数据来自于Mapper任务,也就是M
shine_rainbow
·
2024-01-29 10:26
Linux安装
python并配置环境变量
一、环境说明可以在Python官网中找到版本信息我这里是python3.10版本,以centOS7做示范二、开始安装我们先要安装一个获取网络资源的工具,然后把源码下载到服务器中1yuminfo|grepwget1||yuminstallwge#相当于迅雷,通过链接来下载资源2wgethttps://www.python.org/ftp/python/3.10.6/Python-3.10.6.tgz
你小子在看什么……
·
2024-01-29 08:53
python
开发语言
HDFS
HDFS入门1.1.HDFS介绍HDFS是
Hadoop
DistributeFileSystem的简称,意为:
Hadoop
分布式文件系统。是
Hadoop
核心组件之一,作为最底层的分布式存储服务而存在。
VincentLeon
·
2024-01-29 08:44
Hadoop
, HIve, Spark关系简述
大数据∈数据管理系统的范畴数据管理系统:数据怎么存?数据怎么算?单机数据管理时代下,数据处理的任务:IO密集型;数据存不下?HDFS用于存放多机器的数据并提供相关Api接口。HDFS中引入了一个模块:MapReduce(基于磁盘计算)。MapReduce:提供了一个任务并行的框架,通过它的Api抽象让用户把这个并行程序分成两个阶段,即Map阶段(分工),Reduce阶段(汇总)。Hive:在Had
小白兔奶糖ovo
·
2024-01-29 07:22
hadoop
hive
spark
【极数系列】docker环境搭建Flink1.18版本(04)
文章目录引言01
Linux安装
Docker1.安装yum-utils软件包2.安装docker3.启动docker4.设置docker自启动5.配置Docker使用systemd作为默认Cgroup驱动
浅夏的猫
·
2024-01-29 06:11
Flink
docker
flink
容器
记一次Flink自带jar包与第三方jar包依赖冲突解决
flink版本1.14.5
hadoop
2.6.0为了实现flink读取hive数据写入第三方的数据库,写入数据库需要调用数据库的SDK,当前SDK依赖的protobuf-java-3.11.0.jar,
一枚小刺猬
·
2024-01-29 06:10
flink
flink
jar
hadoop
Hadoop
面试题及参考答案
目录1、什么是
Hadoop
及其组件2、
Hadoop
的守护进程3、
Hadoop
的YARN/HDFS/MapReduce分别包含哪些组件,每个组件的职能是什么?
zuolixiangfisher
·
2024-01-29 06:02
Hadoop
hadoop
hdfs
大数据
hadoop
面试题
0.思维导图1.HDFS1.HDFS的架构♥♥ HDFS主要包括三个部分,namenode,datanode以及secondarynamenode。这里主要讲一下他们的作用:namenode主要负责存储数据的元数据信息,不存储实际的数据块,而datanode就是存储实际的数据块,secondarynamenode主要是定期合并FsImage和edits文件(这里可以进行扩展,讲一下为什么有他们的
韩顺平的小迷弟
·
2024-01-29 06:27
大数据面试题
hadoop
大数据
分布式
大数据之
Hadoop
-MapReduce(1)
第1章MapReduce概述1.1MapReduce定义MapReduce是一个分布式运算程序的编程框架,是用户开发“基于
Hadoop
的数据分析应用”的核心框架。
jackyan163
·
2024-01-29 04:18
Hive初体验
首先,确保启动了Metastore服务{runjar就是metastore;
hadoop
要先启动}可以执行:bin/hive进入到HiveShell环境中,可以直接执行SQL的语句;·创建表(hive里面的字符串就是
%HelloWorld%
·
2024-01-29 03:09
hive
hadoop
数据仓库
[m1pro ] ssh: connect to host localhost port 22: Connection refused
在学习
Hadoop
的时候,使用sshlocalhost遇到以下问题原因:本地没有打开远程登录解决办法:打开远程登录成功结果
程序员三木
·
2024-01-29 03:33
大后端
ssh
服务器
数据库
Linux安装
jenkins
1.下载jenkinsrpm包Indexof/jenkins/redhat/|清华大学开源软件镜像站|TsinghuaOpenSourceMirror2.安装rpm-ivhjenkins-2.436-1.1.noarch.rpm安装后查看Jenkins服务配置文件。systemctlstatusjenkins3.修改Jenkins服务配置文件,jdk要根据提示的版本配置对应的jdk版本。vim/u
今朝花落悲颜色
·
2024-01-29 02:25
linux
jenkins
运维
spark shuffle
这个就是spark和
hadoop
的主要区别,基于内存进行运算。
流砂月歌
·
2024-01-29 01:13
Spark运行原理
无论是性能,还是方案的统一性,对比传统的
Hadoop
,优势都非常明显。
hellozhxy
·
2024-01-28 23:41
spark
spark
数仓治理-小文件治理
希望对大家有所帮助https://mp.weixin.qq.com/s/HDxAGhGIPvXF38wPiXZ7xg[离线计算-Spark|Hive]HDFS小文件处理-腾讯云开发者社区-腾讯云HDFS小文件过多会对
hadoop
爱吃辣条byte
·
2024-01-28 23:40
数据治理
大数据
数据仓库
开源运维平台Spug本地docker部署结合内网穿透实现远程访问
文章目录前言1.Docker安装Spug2.本地访问测试3.
Linux安装
cpolar4.配置Spug公网访问地址5.公网远程访问Spug管理界面6.固定Spug公网地址前言Spug面向中小型企业设计的轻量级无
徐徐同学
·
2024-01-28 22:17
运维
开源
docker
2021-08-10 HDFS Web报错Couldn‘t preview the file.
添加配置信息dfs.webhdfs.enabledtrue第二步:配置浏览器所在系统的hosts文件windows:在C:\Windows\System32\drivers\etc\hosts末尾增加内容(
Hadoop
学习是一种信仰_zdy
·
2024-01-28 21:28
大数据
hadoop
大数据
hdfs
HDFS文件系统的根目录和用户主目录解析
HDFS文件系统的根目录是/,用户主目录是/user/[
hadoop
用户名]根据上面的截图,所有的文件都放在根目录及其子目录下。
问君何能尔?心远地自偏
·
2024-01-28 21:57
大数据
Name node is in safe mode
相信
hadoop
用户经常为安全模式头痛,但是又是难以避免的。安全模式开启通常是由于hdfs文件系统数据完整性缺失造成。所以核心就是想办法让hdfs文件系统数据变得完整,相对没有损坏。
大数据东哥(Aidon)
·
2024-01-28 21:27
大数据
hadoop
safemode
safemode
hadoop
safe
mode
Name
node
is
in
safe
记一次HDFS Web报错Couldn‘t preview the file. NetworkError: Failed to execute ‘send‘ on ‘XMLHttpRequest‘
tpreviewthefile.NetworkError:Failedtoexecute‘send’on‘XMLHttpRequest’:Failedtoload‘http://slave1:9864/webhdfs/v1/Hello
Hadoop
.txt
一花一世界~
·
2024-01-28 21:55
Linux-Centos
x.x
Hadoop
大数据
hadoop
hdfs
大数据
经验分享
centos
Java技术栈 ——
Hadoop
入门(二)
Java技术栈——
Hadoop
入门(二)一、用MapReduce对统计单词个数1.1项目流程1.2可能遇到的问题1.3代码勘误1.4总结一、用MapReduce对统计单词个数1.1项目流程(1)上传jar
键盘国治理专家
·
2024-01-28 21:51
Java技术栈
java
hadoop
开发语言
上一页
12
13
14
15
16
17
18
19
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他