hdfs集群搭建

Flink快速入门

分而治之批处理流处理-微信运动、信用卡月度账单、国家季度GDP增速MPI-节点间数据通信-c和pythonMR-2004谷歌提出的编程范式-hadoop/storm/spark/flinkHadoop-MR、HDFS
WaiSaa·2023-12-05 21:30

Hadoop 概述

文章目录Hadoop概述Hadoop是什么Hadoop主要发展历程Hadoop优势Hadoop组成Hadoop1.x、2.x、3.x区别HDFS概述YARN概述MapReduce架构概述HDFS、YARN
撕得失败的标签·2023-12-05 19:59

【完整记录】使用kubeadm部署kubernetes集群踩坑记录及解决方案

文章目录搭建集群过程中遇到的问题及解决方案1.现有网上的kubernetes集群搭建教程中的kubeadm配置文件版本过老导致出现以下报错：2.kubeadminit过程中pull镜像超时3.kubeadminit
wangs_·2023-12-05 19:56

Centos7+Redis6.0.5集群搭建（哨兵）

Centos7+Redis6.0.5集群搭建（哨兵）我们已经介绍了Redis的主从复制，想必大家对redis已经有一个概念了，那么问题来了，如果redis主从复制的master服务器挂掉了，那么整体redis
石头-豆豆·2023-12-05 14:41

Linux Redis集群搭建和设置Redis集群密码

服务器列表：192.168.1.13192.168.1.14192.168.1.15192.168.1.16192.168.1.17192.168.1.18开放Redis6379端口和总线端口16379firewall-cmd--zone=public--add-port=6379/tcp--permanentfirewall-cmd--zone=public--add-port=16379/tc
Meta39·2023-12-05 14:10

Redis 集群搭建 哨兵模式搭建

文章目录Redisversion6.0.5集群搭建下载文件环境安装解压编译配置文件启动关闭密码设置Redisversion6.0.5集群搭建下载文件下载命令url可找官网复制wgethttp://download.redis.io
一码归一码@·2023-12-05 14:40

Apache Sqoop使用

Hadoop生态系统包括：HDFS、Hive、Hbase等RDBMS体系包括：MySQL、Oracle、DB2等Sqoop可以理
高过蓝天的云·2023-12-05 10:41

Hadoop大数据集群搭建（超详细）

使用了几个学期的实验手册，应该没有啥大问题了，现在分享给大家，希望对你学习hadoop有用实验环境：Vmwareworkstation+CentOS7+Hadoop3.1.3目录第一步：安装虚拟机第二步：虚拟机克隆第三步：网络配置第四步：ssh服务配置第五步：安装JDK第六步：安装Hadoop第七步：Hadoop集群配置第八步：格式化文件系统第九步：启动和关闭hadoop集群第十步：通过UI界面查
小飞飞V5·2023-12-05 08:49

大数据Hadoop集群的启动

1启动准备工作1.1配置操作系统的环境变量1.2创建Hadoop数据目录1.3格式化文件系统1.4启动和关闭Hadoop1.5验证Hadoop是否成功启动1.6hadoop-daemon.sh的使用2HDFS
赵广陆·2023-12-05 08:13

Hadoop

Hadoop生态系统是Apache基金会开发的分布式系统基础架构，它包括多个组件，如HDFS、MapReduce、Hive、HBase、Zookeeper等，这些组件可以相互兼容，组成了一个独立的应用体系
编织幻境的妖·2023-12-05 08:41

7-HDFS的文件管理

单选题题目1：下列哪个属性是hdfs-site.xml中的配置？
阿伊同学·2023-12-05 06:06

Hadoop之YARN详解

Hadoop是一个开源的分布式计算框架，它的核心是HDFS和MapReduce。然而，随着Hadoop的发展，它的计算框架也在不断地演进。
蓝胖子的宝贝·2023-12-05 06:33

Hadoop

Hadoop的基本架构包括以下几个核心组件：HDFS（HadoopDistributedFileSystem）：它是一个高度容错性的分布式文件系统，能提供高吞吐量的数据访问，非常适合大规模数据集
编织幻境的妖·2023-12-05 06:31

Hadoop的介绍与安装

Hadoop是由java语言编写的，在分布式服务器集群上存储海量数据并运行分布式分析应用的开源框架，其核心部件是HDFS与MapReduce。
憨憨小白·2023-12-05 06:30

二百一十、Hive——Flume采集的JSON数据文件写入Hive的ODS层表后字段的数据残缺

一、目的在用Flume把Kafka的数据采集写入Hive的ODS层表的HDFS文件路径后，发现HDFS文件中没问题，但是ODS层表中字段的数据却有问题，字段中的JSON数据不全二、Hive处理JSON数据方式
天地风雷水火山泽·2023-12-05 06:19

大数据技术学习笔记（四）—— HDFS

目录1HDFS概述1.1HDFS背景与定义1.2HDFS优缺点1.3HDFS组成架构1.4HDFS文件块大小2HDFS的shell操作2.1上传2.2下载2.3HDFS直接操作3HDFS的客户端操作3.1Windows
夏木夕·2023-12-05 05:18

03-05-01 lua脚本

根据这些功能，可以实现的使用场景Nginx+lua读取redis：实现分布式session，秒杀限流等Nginx+lua读取HDFS：实现图片读取带来的问题基本命令安装启动一个nginx容器，进入执行命令
nan得糊涂·2023-12-05 05:30

CDH6下线DataNode节点

CDH6下线DataNode节点1.版本说明2.找到HDFS的实例3.解除授权4.重启集群5.注意事项1.版本说明我这里使用的是CDH6,更高版本请参考https://www.dandelioncloud.cn
真香IT·2023-12-05 04:01

一个大数据架构师应该掌握的技能

APP分析平台mixpanelgrowingIO神策诸葛IO2.技术选型1）CDH2）HDP+HDF3）MAPR4）Transwarp3.平台架构1）HDPCore(平台核心也是Hadoopcore)HDFS
潘永青·2023-12-05 02:13

HDFS和本地文件系统文件互导

初步了解一下情况，后续根据给出案例一、从本地文件系统到HDFS使用hdfs自带的命令命令：hdfsdfs-copyFromLocalinputPathoutputPathinputPath：本地文件目录的路径
Blank_9c4f·2023-12-05 01:07

HDFS运维问题

转自吐血整理|HDFS运维问题大全https://zhuanlan.zhihu.com/p/1704789651这次我吐血整理了一些在维护hdfs工作中遇到的问题，有的是血的教训，有的是花了不少功夫定位
专职掏大粪·2023-12-04 23:50

sqoop导入导出工具的使用以及通过java代码连接linux，远程执行shell命令

1、sqoop是apache开源提供的一个数据导入导出的工具，从关系型数据库导入到hdfs，或者从hdfs导出到关系型数据库等等导入数据：MySQL，Oracle导入数据到Hadoop的HDFS、HIVE
喵喵秀拌酱·2023-12-04 21:20

大数据的技术栈-逐步完善

目录1.hadoopa.HDFS分布式文件系统b.Yarn集群资源管理器c.MapReducesql引擎d.Impalasql引擎e.工具概观2.数据仓库知识a.Hive数据库1)HiveSql2)数据库结构
刘文钊1·2023-12-04 20:12

clickhouse + chproxy 集群搭建

《clickhouse+chproxy集群搭建》----集群规划集群架构其中Distribute是指创建分布式表的机器，在此文章中是将Distrihttps://www.jianshu.com/p/9498fedcfee7
架构师联盟·2023-12-04 18:55

大数据基础设施搭建 - 数据装载

文章目录一、概述二、数据装载（HDFS->Hive）2.1创建Hive表2.1.1业务全量表建表语句2.1.2业务增量表建表语句2.1.3流量增量表建表语句2.2数据装载2.2.1初始化装载省份和地区表
m0_46218511·2023-12-04 17:50

分布式集群架构方案

保护知识产权，本文参考了如下博客文章pxc集群搭建https://www.jianshu.com/p/eae6b12c1cd5haproxy负载均衡https://blog.csdn.net/qq_2110831
樵夫有桥·2023-12-04 16:33

头歌大数据作业二：搭建Hadoop环境及HDFS

课外作业二：搭建Hadoop环境及HDFS作业详情内容阿里云-云起实验室-《搭建Hadoop环境》-Hadoop-2.10.1伪分布式：1.截图本实验ECS的公网IP地址，并添加彩色框标注，如下图所示：
别叫哥喜羊羊·2023-12-04 15:42

（图文详细）云计算与大数据实训作业答案（之篇三HDFS和MapReduce实训 ）

HDFS和MapReduce实训第1关：WordCount词频统计第2关：HDFS文件读写第3关：倒排索引第4关：网页排序——PageRank算法HDFS和MapReduce实训Hadoop是一个由Apache
Sunny蔬菜小柠·2023-12-04 15:11

大数据生态圈及分布式文件系统HDFS实践-part1

Hadoop入门第一章大数据概述1.1大数据概念“人类正在从IT时代走向DT时代”。大数据（BigData）：指的是传统数据处理应用软件不足以处理（存储和计算）它们的大而复杂的数据集。主要解决，海量数据的存储和海量数据的运算问题。1.2大数据特征容量大，种类多，速度快，价值高1、容量（Volume）：数据的大小决定所考虑的数据的价值和潜在的信息微博，5亿用户，每天上亿条微博朋友圈，10亿用户，每天
落叶飘雪2014·2023-12-04 15:40

大数据实训笔记3：hdfs

HDFS（HadoopDistributedFileSystem）是一个文件系统，用于存储文件，通过目录树来定位文件。它是分布式的，由很多服务器联合起来实现其功能，集群中的服务器有各自的角色。
Roslin_v·2023-12-04 15:39

Java操作Hdfs(分布式文件系统)完成文件上传、下载和删除

Java操作Hdfs(分布式文件系统)文件上传实现创建Maven项目，项目命名Hadoop_hdfs导入pom.xml依赖4.0.0hadoophadoop0.0.1-SNAPSHOThadoop_learnorg.apache.hadoophadoop-client3.2.0
菜鸟小党·2023-12-04 15:39

HDFS分布文件系统（1）Shell操作

/article/details/127170478文章目录一、三种Shell命令方式二、FileSystemShell文档三、常用Shell命令四、实例练习1、创建目录2、查看目录3、上传本地文件到HDFS4
Kox2021·2023-12-04 15:09

HDFS和MapReduce综合实训：构建大数据处理应用

摘要：本文将介绍如何使用Hadoop分布式文件系统（HDFS）和MapReduce框架来构建大数据处理应用。
IbtnLisp·2023-12-04 15:09

【头歌实训】分布式文件系统 HDFS

文章目录第1关：HDFS的基本操作任务描述相关知识HDFS的设计分布式文件系统NameNode与DataNodeHDFS的常用命令编程要求测试说明答案代码第2关：HDFS-JAVA接口之读取文件任务描述相关知识
撕得失败的标签·2023-12-04 15:08

HADOOP：：Fsimage和Edits解析

curent目录中产生如下文件fsimage_0000000000000000000fsimage_0000000000000000000.md5seen_txidVERSION(1)Fsimage文件:HDFS
星星失眠️·2023-12-04 09:15

Presto基础学习--学习笔记

1，Presto背景2011年，FaceBook的数据仓库存储在少量大型hadoop/hdfs集群，在这之前，FaceBook的科学家和分析师一直靠hive进行数据分析，但hive使用MR作为底层计算框架
祈愿lucky·2023-12-04 09:21

redis集群玩法全过程笔记（redis7+版本）

集群之分片redis集群之哈希取余分区算法redis集群之一致性哈希算法redis集群之哈希槽分区算法redis集群之为什么哈希槽数是16384redis集群之分片不保证一致性redis集群之三主三从集群搭建
肥学·2023-12-04 09:00

深入理解 Kafka 集群搭建与管理

ApacheKafka作为分布式流处理平台的核心，其集群搭建与管理是确保高可用性和高性能的关键。
晓之以理的喵~~·2023-12-04 07:42

【大数据】区分 hdfs dfs -ls 与 hdfs dfs -ls /

区分hdfsdfs-ls与hdfsdfs-ls/1.hdfsdfs-lshdfsdfs-ls表示HDFS中的当前用户目录，即/user/用户名。
G皮T·2023-12-04 07:19

带你涨姿势，Hbase 概念原理扫盲 ！

Hbase是一个高可靠性（存储在hdfs上，有副本机制），高性能，面向列，
码农小光·2023-12-04 07:06

阅读 Flink 源码前必会的知识 - 命令行解析库 Apache Commons Cli

一、介绍一下ApacheCommonsCli，有一个感官的认识我们在使用一些开源项目时，会敲一些命令，有简单的，比如hadoopversion；有复杂的，比如flinkrun…，hdfsdfs-ls，等等
KK架构·2023-12-04 06:22

flink-connector-mysql-cdc_2.0.2

ververica.github.io/flink-cdc-connectors/master/content/connectors/mysql-cdc.html1、测试步骤：1）开启MySQLBinlog并重启MySQL2）启动HDFS
ykqidev·2023-12-04 06:49

Hadoop——分布式存储HDFS

HDFS集群环境部署VMware虚拟机中部署一、https://hadoop.apache.org中下载安装包二、环境分配三、上传、解压确认服务器创建、固定IP、防火墙关闭、Hadoop用户创建、SSH
A尘埃·2023-12-04 06:13

大数据技术合集（持续更新）

0.大数据技术演变史（来自通信院）1.起源：Google的三驾马车1.1GFS1.2BigTable1.3MapReduce2.开源大数据文件、对象、块存储2.1分布式文件系统：HDFS、Ceph、GlusterFS
amuseme_lu·2023-12-04 05:39

docker配置redis主从、哨兵集群

docker配置redis主从、哨兵集群搭建redis主从准备工作在/usr/local/software/redis/文件夹下建立如下的文件夹、文件root@localhostredis]#mkdir-p6379
DecemberZero2·2023-12-04 05:23

九、hdfs中Namenode元数据处理

1、元数据的由来在hdfs文件系统中，用户的每一次操作，都会对文件系统产生响应的影响，那么谁来记录这些影响呢？
弦之森·2023-12-04 05:37

八、hdfs文件系统副本块数量的配置

1、配置方式2、实际操作演示（1）在Hadoop用户的根目录下创建text.txt文件（2）上传文件hadoop@node1:~$hdfsdfs-lshdfs://node1:8020/Found4itemsdrwxr-xr-x-hadoopsupergroup02023
弦之森·2023-12-04 05:05

04数据平台Flume

Flume功能Flume主要作用，就是实时读取服务器本地磁盘数据，将数据写入到HDFS。Flume是Cloudera提供的高可用，高可靠性，分布式的海量日志采集、聚合和传输的系统工具。
kk_io·2023-12-04 04:20

LeetCode刷题 -- DFS

深度优先搜索算法，depth-first-searchDFS，是一种用于遍历或者搜索树、图的算法，这个算法会尽可能深的去搜索树的分支。
材料小菜鸟·2023-12-04 04:02

大数据基础设施搭建 - 业务数据同步策略

文章目录一、全量同步1.1梳理需要全量同步的业务表1.2Sqoop:MySQLToHDFS1.2.1开发脚本1.2.2授予脚本执行权限1.2.3执行脚本1.2.4定时调度二、增量同步2.1梳理需要增量同步的业务表
m0_46218511·2023-12-03 16:42
上一页 23 24 25 26 27 28 29 30 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他