hdfs

从零开始了解大数据(三)：HDFS分布式文件系统篇

目录前言一、HDFS分布式文件系统基础1.数据与元数据2.分布式存储系统的核心属性3.HDFS的设计目标4.HDFS的重要特性二、HDFSShell操作1.HDFSShell命令行简介2.HDFSShell
橘子-青衫·2023-12-19 13:23

【Hadoop】HDFS的体系架构

整体上说HDFS框架结构一HDFS框架结构二（HDFSHighAvailability）整体上说HDFS采用Master/Slave架构。
不怕娜·2023-12-19 11:29

Hadoop学习(3)-mapreduce快速入门加yarn的安装

mapreduce是一个运算框架，让多台机器进行并行进行运算，他把所有的计算都分为两个阶段，一个是map阶段，一个是reduce阶段map阶段：读取hdfs中的文件，分给多个机器上的maptask，分文件的时候是按照文件的大小分的比如每个
weixin_30323961·2023-12-19 10:05

大数据入门二（YARN部署）

1.入门HDFS存储MapReduce计算SparkFlinkYarn资源作业调度伪分布式部署要求环境配置文件参数文件ssh无密码启动jps命令[hadoop@hadoop002~]$jps28288NameNodeNN27120Jps28410DataNodeDN28575SecondaryNameNodeSNN1
倾白首·2023-12-19 10:04

MapReduce 基础实战

测试说明输入文件在你每次点击评测的时候，平台会为你创建，无需你自己创建，只需要启动HDFS，编写java代码即可。输入文件的数据格式如下：张三12李四13张三89李
柔雾·2023-12-19 10:28

Spark简介

1.Spark基本概念Spark是一种基于内存计算的大数据并行计算框架，最早是由加州大学伯克利分校开发，现已经成为Apche顶级开源项目，其作为MapReduce的替代方案，兼容HDFS、Hive等分布式存储层
Mrsimple_4f84·2023-12-19 09:18

伪集群配置

编辑core-site配置core-site配置hdfs-site将以下的文件配置进去启动一下hadoop产生tmp文件产生这个叫namenode的文件并格式化回到~目录再配置以下信息配置以下信息重启文件再重新格式化配置
kkoneone11·2023-12-19 09:42

学习笔记Hadoop（七）—— Hadoop集群的安装与部署（4）—— 配置Hadoop集群

在Master节点：执行HDFS格式化操作。4.1、上传并解压Hadoop安装包(这里我已经用Xsh
别呀·2023-12-19 00:58

实验一、Hadoop 安装与配置管理

hadoop安装与配置目标：掌握Hadoop安装过程原理Linux环境准备：伪分布式模式的安装和配置步骤：一、准备与配置安装环境：安装虚拟机和linux二、安装jdk三、安装hadoop四、HDFS系统初体验五
Lilianac·2023-12-19 00:57

hadoop安装包解压之后的操作

hadoop-env.sh和yarn-env.sh进入hadoop-3.2.4/etc/hadoop/修改这两个文件增加：JAVA_HOME={java的路径}修改配置文件core-site.xml和hdfs-site.xml
冲鸭嘟嘟可·2023-12-19 00:55

【基础知识】大数据组件HDFS简述

HDFS是经典的Master和Slave架构，每一个HDFS集群包括一个NameNode和多个DataNode。NameNode管理所有文件的元数据信息，并且负责与客户端交互。
偏振万花筒·2023-12-18 22:06

Hadoop升级和回滚

在任何有实际意义的HDSF系统上，丢失数据是不被允许的，更不用说重新搭建启动HDFS了。HDFS允许管理员退回到之前的Hadoop版本，并将集群的状态回滚到升级之前。
Summer_1981·2023-12-18 22:43

大数据技术11：Hadoop 原理与运行机制

前言：HDFS（HadoopDistributedFileSystem）是Hadoop下的分布式文件系统，具有高容错、高吞吐量等特性，可以部署在低成本的硬件上。
Java架构何哥·2023-12-18 21:56

hdfs文件复制方法

hdfs文件复制，并拷贝修复数据--1、复制表结构createtablet1liket2;--2、复制文件数据hadoopdistcp-update-skipcrccheck-m300hdfs://ns1
菜鸟冲锋号·2023-12-18 20:54

SpringBoot集成分布式对象存储(分布式文件)MinIO

你可以把它和FastDFS、HDFS作为类比，但它比其它都更简单，极简是MinIO的设计初衷之一，而且他的性能很好。
小虎哥的技术博客·2023-12-18 19:11

Hadoop Single Node Cluster的安装

安装位置设置SSH无密码登录安装hadoop下载安装设置hadoop环境变量修改hadoop配置设置文件设置core-site.xml设置YARN-site.xml设置mapred-site.xml设置HDFS
艾醒(AiXing-w)·2023-12-18 16:50

3、电商数仓（数仓数据同步策略）

离线数仓同步数据数据通道用户行为数据由Flume从Kafka直接同步到HDFS，由于离线数仓采用Hive的分区表按天统计，所以目标路径要包含一层日期。具体数据流向如下图所示。
tianyi6_6·2023-12-18 14:46

Flink实时电商数仓（一）

常用的存储系统是Hadoop的HDFS文件系统，使用Hive进行数据计算，并将结果导入HDFS。离线数仓最明显的特点是T+1模式，今天只能算昨天的数据，时效性不够优秀。
十七✧ᐦ̤·2023-12-18 14:14

基于hadoop下的spark安装

目录简介安装准备spark安装配置文件配置简介Spark主要⽤于⼤数据的并⾏计算，⽽Hadoop在企业主要⽤于⼤数据的存储（⽐如HDFS、Hive和HBase等），以及资源调度（Yarn）。
necessary653·2023-12-18 14:43

【Hadoop】HDFS设计思想

HDFS设计思想为什么HDFS上的块为什么远远大与传统文件系统？HDFS设计思想首先需要明确HDFS部署在集群之上。
不怕娜·2023-12-18 12:53

Hadoop_HDFS实践 (一)=＞(架构、Shell相关操作、API、NN/2NN工作原理、DataNode工作机制等)

目录Hadoop_HDFS、Hadoop_MapReduce、Hadoop_Yarn实践(一)一、Hadoop_HDFS1、概述、背景、优缺点1.1、概述1.2、架构1.3、优缺点1.4、块大小2、HDFS
常名先生·2023-12-18 09:23

Hadoop_Yarn实践 (三) =＞ (Yarn的基础架构、原理、容量/公平调度器、Tool接口、Yarn常用命令、核心参数)

目录Hadoop_HDFS、Hadoop_MapReduce、Hadoop_Yarn实践(三)一、Hadoop_HDFS二、Hadoop_MapReduce三、Hadoop_Yarn1、Yarn资源调度
常名先生·2023-12-18 09:23

Hadoop_MapReduce实践 (二) =＞ (核心架构、序列化、Inputformat/切片、Shuffile/分区/排序、outputformat、join、ETL、压缩)

目录Hadoop_HDFS、Hadoop_MapReduce、Hadoop_Yarn实践(二)一、Hadoop_HDFS二、Hadoop_MapReduce1、MapReduce概述1.1、MapReduce
常名先生·2023-12-18 09:52

MapReduce工作原理（重点）

3将运行作业所需要的资源文件复制到HDFS上，包括MapReduce程序打包的jar文件、配置文件和客户端计算所得的计算划分信息。这些
Yobhel·2023-12-18 07:24

Ubuntu-报错

NAT模式相互切换后导致两种模式都不能访问互联网（1）具体错误：（2）错误原因：（3）解决方案：（4）问题解决：错误2：Exceptioninthread"main"org.apache.hadoop.hdfs.server.namenode.SafeModeException
春风LiuK·2023-12-18 06:23

【HDFS面试】HDFS面试题&答案

题目HDFS文件写入和读取流程HDFS组成架构介绍下HDFS，说下HDFS优缺点，以及使用场景HDFS作用HDFS的容错机制HDFS的存储机制HDFS的副本机制HDFS的常见数据格式，列式存储格式和行存储格式异同点
话数Science·2023-12-18 06:22

【Hadoop面试】HDFS读写流程

HDFS（HadoopDistributedFileSystem）是GFS的开源实现。
话数Science·2023-12-18 06:16

Datax学习整理

一、简介DataX是阿里巴巴集团内被广泛使用的离线数据同步工具/平台，实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(
耗子背刀PK猫·2023-12-18 02:53

Hadoop （海量数据存储及计算） 基本概念

[1]Hadoop实现了一个分布式文件系统（HadoopDistributedFileSystem），简称HDFS。
ronmy·2023-12-18 02:51

Hive问题

1.Hive基本概念数据仓库工具，底层存储为HDFS,类SQL的查询，转化为mapreduce。执行程序运行在Yarn上2.hive内部表和外部表的区别？
July2333·2023-12-18 02:57

HBase基础知识

HBase是基于HDFS的NOSql数据库，它的数据逻辑存储在Region里，实际物理都存储于hdfs里。
陈超Terry的技术屋·2023-12-17 23:18

分布式文件系统之HDFS

前言一、HDFS简介1.1HDFS产出背景及定义1）HDFS产生背景先给大家介绍一下什么叫HDFS，我们生活在信息爆炸的时代，随着数据量越来越大，在一个操作系统存不下所有的数据，那么就分配到更多的操作系统管理的磁盘中
僖僖cc·2023-12-17 17:41

分布式数据库HBase

因为HBase是在HDFS的基础之上构建的，HDFS是分布式文
僖僖cc·2023-12-17 17:41

从传统型数据库到非关系型数据库

其本质是一个具有数据存储功能的复杂系统软件，数据库最终把数据保存在计算机硬盘，但数据库并不是直接读写数据在硬盘，而是中间隔了一层操作系统，通过文件系统把数据保存为本地文件系统的数据文件；我们讲过Hadoop，分布式文件系统HDFS
僖僖cc·2023-12-17 17:38

高效存储大规模数据的方法与实现

HadoopDistributedFileSystem(HDFS)是一个常用的分布式文件系统，它使用主从架构，
静谧星光c·2023-12-17 11:47

HDFS介绍+Shell操作

看黑马网课记录第二章-wwww操]使用命令操作HDFS文件系统_哔哩哔哩_bilibiliHDFS1.什么是HDFShadoop三大组件之一，负责海量数据的分布式存储2.HDFS架构角色：主节点（领导）
Y蓝田大海·2023-12-17 10:14

2018-06-14

Hadoop:1.官网：http://hadoop.apache.org/2.Hadoop的狭义和褒义认识：狭义：软件(HDFS、MapReduce、Yarn)褒义：以Hadoop为主的生态圈3.Hadoop
hoose·2023-12-17 09:26

服务器新加磁盘进行挂载

Ambair增加hdfs的空间大小可以增加多个目录每台集群服务器都要操作1、查看磁盘列表命令：fdisk-l或者lsblk2、格式化新加的磁盘/dev/vdb命令：mkfs-text4/dev/vdb3
lz_matlab·2023-12-17 09:38

电商数仓项目----笔记三(用户行为数据同步)

离线数仓同步数据对于用户行为数据，由Flume从Kafka直接同步到HDFS，没错，又来一个Flume......按照规划，该Flume需将Kafka中topic_log的数据发往HDFS。
zmx_messi·2023-12-17 08:43

Spark sql 写分区表，设置format报错

，我写的是一个用ymd分区的表，我想设置输出格式format("hive")，然后报错了代码如下ds.write().partitionBy(partitionsStr).option("path",hdfspath
南修子·2023-12-17 07:25

Hadoop，Hive和Spark大数据框架的联系和区别

Hadoop主要包括两个方面，分别是分布式存储框架（HDFS）和分布式计算框架（Mapreduce）。1.1HDFS分布式存储HDFS全称为hadoopdistributedfilesystem。
Weiyaner·2023-12-17 06:00

大数据生态中‘Hadoop’、‘Hive’、‘Spark’、‘Mapreduce’、‘HDFS’、‘Yarn’是什么关系

Hadoop生态中HDFS：处理存储，管理信息的分布式存储、提供接口，让用户感觉集群中的信息
小书生啊·2023-12-17 06:29

[AIGC ~大数据] 深入理解Hadoop、HDFS、Hive和Spark：Java大师的大数据研究之旅

在这个充满机遇和挑战的领域中，我深入研究了Hadoop、HDFS、Hive和Spark等关键技术。本篇博客将从"是什么"、"为什么"和"怎么办"三个角度，系统地介绍这些技术。文章目录是什么？
程序员三木·2023-12-17 06:55

Hadoop

文章目录1、Hadoop是什么2、Hadoop优势3、Hadoop组成（1）HDFS（2）YARN（3）MapReduce架构概述（4）HDFS、YARN、MapReduce三者关系（5）大数据技术生态体系
Gong_yz·2023-12-17 06:39

Spark-Streaming+HDFS+Hive实战

文章目录前言一、简介1.Spark-Streaming简介2.HDFS简介3.Hive简介二、需求说明1.目标：2.数据源：3.数据处理流程：4.HDFS文件保存：5.Hive外部表映射：三、实战示例演练
大数据魔法师·2023-12-17 06:38

【Hive】（三）Hive数据导入，导出，分区

动态分区一、导入数据loaddata1、语法loaddata(local)inpath'文件路径'into|overwritetablestudents;local:表示从本地加载数据，不加local则是从HDFS
cbigchaos·2023-12-17 05:02

hive 增加表字段语录_HIVE常用SQL语句及语法

countint,seqnoint,addressstring)rowformatdelimitedfieldsterminatedby'\t';创建字段中含有数组类型，对象类型的表，并查询特殊字段外部表默认存在HDFS
weixin_39811386·2023-12-17 05:32

hadoop面试题 5 ---有用

host主机名4配置SSH免密码登录5关闭防火墙6安装JDK6解压hadoop安装包7配置hadoop的核心文件hadoop-env.sh，core-site.xml,mapred-site.xml，hdfs-site.xml8
okbin1991·2023-12-17 05:00

【Hive】【Hadoop】工作中常操作的笔记-随时添加

文章目录1、Hive复制一个表:2、字段级操作3、hdfs文件统计1、Hive复制一个表:直接Copy文件createtablenew_tableliketable_name;hdfsdfs-get/apps
cbigchaos·2023-12-17 05:57

hadoop学习大纲

Hadoop集群环境搭建Hadoop集群环境搭建HDFS图说HDFS基本原理hadoop的shell命令操作javaapi操作HDFSHDFS之namenode管理元数据机制MapReduce初识MapReduceintelij
piziyang12138·2023-12-17 00:12
上一页 17 18 19 20 21 22 23 24 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他