数据库运维hdfs云存储

大数据学习｜理解和对比 Apache Hive 和 Apache Iceberg

文章目录数据模型与存储事务支持性能优化使用场景总结数据模型与存储Hive:Hive使用的是传统的关系型数据模型，数据存储在Hadoop分布式文件系统(HDFS)中，通常是以文本格式（如CSV或TSV）或者二进制格式
进击的小白菜·2024-09-04 16:50

三，Hive的分桶详解

Hive分桶通俗点来说就是将表（或者分区，也就是hdfs上的目录而真正的数据是存储在该目录下的文件）中文件分成几个文件去存储。
__元昊__·2024-09-04 04:02

hive学习（五）

inpath'路径'[overwrite]intotable表名[partition(partcol1=val1,…)];特殊说明1）local：标识从本地加载数据到Hive表，若没有local的话从HDFS
2301_79721847·2024-09-03 14:00

hive学习记录

数据存储：Hive处理的数据存储在HDFS（HadoopDistributedFileSystem）上。执行引擎：Hive的
2302_80695227·2024-09-03 12:46

Hadoop 中的大数据技术：调优篇（3）

HDFS—故障排除NameNode故障处理需求NameNode进程崩溃且存储的数据丢失，如何恢复NameNode？
大数据深度洞察·2024-09-03 00:33

GitHub和GitLab的区别

先说一下相同点，二者都是基于web的Git仓库，在很大程度上GitLab是仿照GitHub来做的，它们都提供了分享开源项目的平台，为开发团队提供了存储、分享、发布和合作开发项目的中心化云存储的场所。
阿波次的俄佛歌·2024-09-02 10:39

经验笔记：Hadoop

Hadoop的核心是HadoopDistributedFileSystem(HDFS)和YARN(YetAnotherResourceNegotiator)，这两个组件加上MapReduce编程模型，构成了
漆黑的莫莫·2024-09-02 03:54

Ambari安装部署教程

前言之前尝试过使用Ambri安装HDFS集群，整个搭建的流程应该是记录的比较详细的，重新把资料整理了一下发布到博客，希望可以帮到有需要的人吧。
Aries_Chen_CSDN·2024-09-02 02:50

/hdfs_to_mysql.sh: /bin/bash^M: 坏的解释器: 没有那个文件或目录

/hdfs_to_mysql.sh:/bin/bash^M:坏的解释器:没有那个文件或目录-bash:.
Alienware^·2024-09-01 23:28

大数据毕业设计hadoop+spark+hive微博舆情情感分析 知识图谱微博推荐系统

Selenium自动化Python爬虫工具采集新浪微博评论、热搜、文章等约10万条存入.csv文件作为数据集；（二）使用pandas+numpy或MapReduce对数据进行数据清洗，生成最终的.csv文件并上传到hdfs
qq_79856539·2024-09-01 11:16

Hadoop技术栈

1.2hadoop的功能通常意义上，Hadoop是一个整体，其内部还会细分为三个功能组件，分别是：HDFS组件：HDFS是Hadoop内的
XingChen.·2024-08-31 16:48

小白学习大数据测试之hadoop hdfs和MapReduce小实战

：新建一个文件test.txt，内容为HelloHadoopHelloxiaoqiangHellotestingbangHellohttp://xqtesting.sxl.cn将test.txt上传到hdfs
大数据学习02·2024-08-30 11:39

淘宝88vip在哪领取夸克网盘权益，夸克网盘SVIP超级会员免费领取详解

随着互联网的快速发展，云存储服务逐渐成为我们生活中不可或缺的一部分。夸克网盘作为知名的云存储平台，以其高速稳定的上传下载速度、大容量的存储空间以及丰富的功能特性，赢得了众多用户的青睐。
全网优惠分享君·2024-08-30 09:40

虚拟机安装hadoop，hbase（单机伪集群模式）

就像当初做爬虫一样（虽然很简单），在数据爆发的现在，传统的数据库mysql，oracle显然在处理大数据量级的数据时显得力不从心，所以有些特定的业务需要引进能够处理大数据量的数据库，hadoop提供了分布式文件系统（HDFS
流~星~雨·2024-08-29 21:31

hive中的数据同步到hbase

关于hadoop，hive，hbase这三个技术栈我写了两篇博客简单的分享了我对这三个技术栈的一些看法，在我目前的认知里，hadoop提供hdfs这个组件来存储大数据量的数据（相比于mysql，oracle
流~星~雨·2024-08-29 21:31

HIVE 数据模型

type=hive集群状态管理：http://tdxy-bigdata-03:7180/cmf/home基于HDFS没有专门的数据
HFDYCYY·2024-08-29 19:47

HBase数据迁移实战

1.前期准备1.1确认集群使用的版本源HBase集群（以下称旧集群）和目的HBase集群（以下称新集群）的版本可能并不是一致的，特别是其底层所使用的HDFS版本信息。
网易数帆大数据·2024-08-29 16:25

Hbase离线迁移

假设是hbase集群，那么数据存储在hdfs上。1.关闭2个hbase2.使用distcp将hdfs上的hbase数据迁移到另一个【相同路径】的hdfs上。
我要用代码向我喜欢的女孩表白·2024-08-29 15:22

Hdfs的机架感知与副本放置策略

1.介绍Apachehadoop机架感知Hadoop分布式文件系统(Hdfs)作为ApacheHadoop生态系统的的核心组件之一,通过机架感知和副本放置策略来优化数据的可靠性,可用和性能.Hdfs的机架感知和副本放置策略是其设计的关键组成部分
sheansavage·2024-08-29 01:42

Hive 分区表 & 数据加载

1.Hive表数据的导入方式1.1本地上传至hdfs命令：hdfsdfs-put[文件名][hdfs绝对路径]例如：测试文件test_001.txt内容如下在hdfs绝对路径：/user/hive/warehouse
Wu_Candy·2024-08-28 18:22

SparkStreaming 如何保证消费Kafka的数据不丢失不重复

（1）一个Receiver效率低，需要开启多个线程，手动合并数据再进行处理，并且Receiver方式为确保零数据丢失，需要开启WAL(预写日志)保证数据安全，这将同步保存所有收到的Kafka数据到HDFS
K. Bob·2024-08-28 10:02

flink&paimon开发之一：创建catalog

开发环境IDEAFlink1.17.1Paimon0.5正式本地或HDFS存储参考链接paimonjavaAPIhttps://paimon.apache.org/docs/master/api/flink-api
leichangqing·2024-08-27 16:10

Hive 数据迁移与备份

迁移类型同时迁移表及其数据（使用import和export）分步迁移表和数据迁移表（showcreatetable）迁移数据关联表和数据（msckrepair）迁移步骤将表和数据从Hive导出到HDFS
linzeyu·2024-08-27 13:17

【小垚推荐】盘点4款做笔记的软件，第二款堪称神器。

印象笔记自带云存储功能，免费账户有60M的空间，高级账户有10G的空间。只要你登录了账号，你在这账号上写的笔记会自动同步到你现在使用的电脑上，告别U盘拷文件。对于普通使用者来说，这是一个生活
小垚说球·2024-08-27 10:10

doris跨hdfs集群迁移数据

官网-数据备份步骤一，在dorisA集群执行：CREATEREPOSITORY`repotestall`WITHBROKER`broker_name`ONLOCATION"hdfs://xx.xx.xx.xx
州周·2024-08-27 00:27

Django 后端架构开发：文件云存储，从本地存储到腾讯COS桶集成

⭐Django后端架构开发：文件云存储，从本地存储到腾讯COS桶集成目录☁️文件云存储-项目使用云存储文件云存储-项目中使用本地存储文件云存储-概述和创建项目腾讯COS桶-概述腾讯COS桶-使用文档及PythonSDK
Switch616·2024-08-26 18:39

iCloud Drive使用指南：如何在云端创建和管理文件夹与文件

iCloudDrive是苹果公司提供的一项云存储服务，它允许用户在所有Apple设备上存储文件和文档，并实现无缝同步。通过iCloudDrive，用户可以轻松创建、访问、编辑和共享文件，无论身处何地。
2402_85758349·2024-08-26 05:45

夸克网盘投屏电视观看步骤，夸克网盘影视免费投屏电视方法

夸克网盘作为一款功能强大的云存储工具，不仅提供了便捷的文件存储和分享服务，还为用户提供了丰富的影视资源。而将夸克网盘中的影视内容投屏到电视上观看，更是一种极致的享受。
全网优惠分享君·2024-08-26 03:24

Hadoop入门基础（五）：Hadoop 常用 Shell 命令一网打尽，提升你的大数据技能！

1.2启动和停止Hadoop集群start-dfs.shstart-yarn.shstop-dfs.shstop-yarn.shstart-dfs.sh和stop-dfs.sh分别用于启动和停止HDFS
william.zhang(张)·2024-08-25 15:52

mysql-connector-java与mysql、jdk的对应版本

【腾讯云】腾讯云数据库性能卓越稳定可靠，为您解决数据库运维难题云数据库购买页mysql-connector-java与Mysql对应版本：Connector/JversionDriverTypeJDBCversionMySQLServerversionStatus5.143.0,4.0,4.1,4.25.6
网厓Malico·2024-08-25 12:36

HDFS的编程

一、HDFS原理HDFS（HadoopDistributedFileSystem）是hadoop生态系统的一个重要组成部分，是hadoop中的的存储组件，在整个Hadoop中的地位非同一般，是最基础的一部分
卍king卐然·2024-08-25 07:02

Hadoop 的基本 shell 命令

Hadoop的基本shell命令主要用于与Hadoop分布式文件系统（HDFS）和MapReduce进行交互。
难以触及的高度·2024-08-24 14:22

从零到一建设数据中台 - 关键技术汇总

一、数据中台关键技术汇总语言框架：Java、Maven、SpringBoot数据分布式采集：Flume、Sqoop、kettle数据分布式存储：HadoopHDFS离线批处理计算：MapReduce、Spark
我码玄黄·2024-08-24 12:09

强大的安卓文件传输工具：Android File Transfer for Mac

这为我们提供了极大的便利，不再需要通过电子邮件、云存储或其他复杂的方式来管理我们的文件。除了简单易用之外，Android
平安喜乐616·2024-08-24 04:16

夸克网盘SVIP会员免费3-7天领取入口，最新免费领取教程

随着网络技术的不断发展，云存储已经成为我们生活中不可或缺的一部分。夸克网盘作为领先的云存储服务提供商，一直致力于为用户提供高效、稳定、安全的云存储服务。
全网优惠分享君·2024-08-23 13:54

大数据存储

曾经负责过一款底层存储系统的测试工作，最近看hdfs的文章发现，从架构上真心没啥特别大的区别。
龙哥vw·2024-08-22 02:32

Azkaban各种类型的Job编写

Linuxshell命令行任务gobblin：通用数据采集工具hadoopJava：运行hadoopMR任务java：原生java任务hive：支持执行hiveSQLpig：pig脚本任务spark：spark任务hdfsToTeradata
__元昊__·2024-03-28 21:00

Linux（centos7）部署hive

前提环境：已部署完hadoop(HDFS、MapReduce、YARN)1、安装元数据服务MySQL切换root用户#更新密钥rpm--importhttps://repo.mysql.com/RPM-GPG-KEY-mysqL
灯下夜无眠·2024-03-28 12:44

2024百度网盘不限速方法，下载实测教程分享

随着互联网的快速发展，云存储服务逐渐成为了我们日常生活和工作中不可或缺的一部分。作为国内领先的云存储平台，百度网盘以其便捷的文件存储和分享功能，赢得了广大用户的青睐。
全网优惠分享君·2024-03-26 20:37

关于HDP的20道高级运维面试题

HDP（HortonworksDataPlatform）的主要组件包括Hadoop框架、HDFS、MapReduce、YARN以及Hadoop生态系统中的其他关键工具，如Spark、Flink、Hive
编织幻境的妖·2024-03-26 15:34

夸克网盘不限速下载方法，解除限速步骤

夸克网盘作为一款备受欢迎的云存储工具，其最大的亮点之一便是提供了不限速的下载服务。对于许多用户来说，这无疑是一项极具吸引力的功能。然而，有时由于各种原因，用户可能会遇到下载速度变慢的问题。
全网优惠分享君·2024-03-20 20:18

【笔记】HDFS基础笔记

启动hadoop命令（未配环境变量）：进入hadoop安装目录输入./sbin/start-dfs.sh已配环境变量：start-dfs.sh关闭hadoop命令：stop-dfs.sh启动完成后，可以通过命令jps来判断是否成功启动，若成功启动则会列出如下进程:"NameNode"、"DataNode"和"SecondaryNameNode"三种Shell命令方式：1.hadoopfs2.had
哇咔咔哇咔·2024-03-20 04:12

hive库表占用空间大小的命令

1、查每个hive表占用的空间大小hdfsdfs-du-h/user/hive/warehouse2、按占用空间大小降序排列hdfsdfs-du/user/hive/warehouse/ipms.db|
刀鋒偏冷·2024-03-15 13:13

HDFS

（一）HDFS简介及其基本概念  HDFS（HadoopDistributedFileSystem）是hadoop生态系统的一个重要组成部分，是hadoop中的的存储组件，在整个Hadoop中的地位非同一般
weixin_51987187·2024-03-12 14:32

大数据开发（Hadoop面试真题-卷二）

2、请解释一下HDFS架构中NameNode和DataNode之间是如何通信的？3、请解释一下Hadoop的工作原理及其组成部分？4、HDFS读写流程是什么样子？
Key-Key·2024-03-12 02:15

大数据开发（Hadoop面试真题-卷九）

2、既然HBase底层数据是存储在HDFS上，为什么不直接使用HDFS，而还要用HBase?3、Sparkmapjoin的实现原理？4、Spark的stage如何划分？
Key-Key·2024-03-09 10:06

大数据开源框架技术汇总

目录系统平台（Hadoop、CDH、HDP）监控管理（CM、Hue、Ambari、Dr.Elephant、Ganglia、Zabbix、Eagle）文件系统（HDFS、GPFS、Ceph、Gluster
浪尖聊大数据-浪尖·2024-03-08 20:48

hbase、hive、clickhouse对比

概念架构hbasemaster存储元数据、regionServer实际控制表数据，存储单位是Region，底层数据存储使用HDFShive通过driver将sql分解成mapreduce任务元数据需要单独存储到一个关系型数据库
freshrookie·2024-03-05 16:40

【Hadoop】使用Metorikku框架读取hive数据统计分析写入mysql

一、定义作业文件作业文件该文件将包括输入源、输出目标和要执行的配置文件的位置，具体内容如下metrics:-/user/xrx/qdb.yaml#此位置为hdfs文件系统目录inputs:output:
方大刚233·2024-03-03 06:23

迅雷网盘免费扩容方法，分享5个迅雷网盘超级会员便宜购买渠道

迅雷网盘是一款非常受欢迎的云存储服务，它允许用户上传和存储文件，并与其他人共享。然而，它的默认
全网优惠分享君·2024-02-25 12:47
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他