HDFS王伟珣

游戏案例｜Service Mesh 在欢乐游戏的应用演变和实践

作者陈智伟，腾讯12级后台专家工程师，现负责欢乐游戏工作室公共后台技术研发以及团队管理工作。在微服务分布式架构以及游戏后台运维研发有丰富的经验。
「已注销」·2025-02-09 16:34

大数据笔记（二）：HDFS原理知识

目录HDFS原理知识一、前言二、思考三、理论知识点四、存储模型五、架构设计六、角色功能NameNodeDataNode七、元数据持久化八、安全模式九、HDFS中的SNN十、Block的副本放置策略十一、
Lansonli·2025-02-09 10:50

hive出现内存溢出_hive问题处理

内存溢出Client端内存溢出Client端发生内存溢出执行下面的看是很简单的一条sql语句：hive>selectcount(1)fromtest_tb_1_1;QueryID=hdfs_20180802104347
话食科普·2025-02-08 07:29

Hive之数据操作DML

查询语句中创建表并加载数据（AsSelect）创建表时通过Location指定加载数据路径Import数据到指定Hive表中5.2数据导出Insert导出Hadoop命令导出到本地HiveShell命令导出Export导出到HDFS
WHYBIGDATA·2025-02-08 06:55

Spring Boot和Spring Cloud来实现微服务之间的调用

本人详解作者：王文峰，参加过CSDN2020年度博客之星，《Java王大师王天师》公众号：JAVA开发王大师，专注于天道酬勤的Java开发问题中国国学、传统文化和代码爱好者的程序人生，期待你的关注和支持
王大师王文峰·2025-02-08 03:33

MapReduce的代码编写

getInstance()函数设置当前main函数所在的类，设置后运行代码可以找到函数的入口；③设置MapReduce的输入输出路径用于输入数据和输出计算的数据结果；注意若要是输出的路径在集群中已经存在，需要操作HDFS
hjy1821·2025-02-08 02:27

2024-JAVA-大数据-面试汇总_大数据java部门面试(1)

内部表的数据是由Hive自身管理的，外部表的数据是由HDFS管理的；删除内部表会删除元数据和存储的数据；删除外部表只删除元数据不删除存储的数据34,你知道UDF吗？UDF就是H
2401_84141419·2025-02-07 19:15

大数据-267 实时数仓 - ODS Lambda架构 Kappa架构 核心思想

目前已经更新到了：Hadoop（已更完）HDFS（已更完）MapReduce（已更完）Hive（已更完）Flume（已更完）Sqoop（已更完）Zookeeper（已更完）HBase（已更完）Redis
m0_74823336·2025-02-07 16:57

Hbase基础

HBase是基于Google的Bigtable技术实现的，GoogleBigtable利用GFS作为其文件存储系统，HBase利用Hadoop的HDFS作为其文件存储系统；Google运行MapReduce
yandao·2025-02-07 13:38

《集群、权重、时间戳回眸一识》

人物：王浩田时间：2016年9月11日地点：万达二楼玻璃屋主题：memcached分布式存储开篇之言通过演讲者王浩田在讲述的过程中，我发现有几个名词是之前听过但并未了解的新鲜事物，特写此篇来浅析集群、权重
杨晓风-linda·2025-02-07 09:08

# PPT进阶——文字环绕

#作者：21级郭锴#审核：20级王圻铭1.首先，输入一行文字，在文本效果中找到【转换】，接着在【弯曲】中找到【逆时针】，然后调节控点位置，文字就变成了环形。
꧁.雨真吖.꧂·2025-02-07 05:38

labview计算机论文,毕业论文：基于Labview的信号发生器设计

感谢蔡铁锋老师、王文明老师在开题答辩和中期检查中给予我的帮助和指导。感谢孔超然老师，为我们做实验提供了场所和设备。感谢大学四年学校里的老师和同学们，为我提供的学习环境。你们使我懂得了如何去主动地
iiif·2025-02-06 20:11

HIVE常见面试题

1.简述hiveHive‌是一个构建在Hadoop之上的数据仓库工具，主要用于处理和查询存储在HDFS上的大规模数据。
兔子宇航员0301·2025-02-06 18:59

【starrocks学习】之将starrocks表同步到hive

目录方法1：通过HDFS导出数据1.将StarRocks表数据导出到HDFS2.在Hive中创建外部表3.验证数据方法2：使用ApacheSpark同步1.添加StarRocks和Hive的依赖2.使用
chimchim66·2025-02-06 12:52

[python]使用 Pandas 分组和汇总表数据

importpandasaspd#读取工资表数据df=pd.read_excel('输入.xlsx')假设我们的表数据如下所示：姓名基础1基础2其他张三500020001000李四600025001200王五
runepic·2025-02-06 08:20

使用python实现Hadoop中MapReduce

Hadoop包含HDFS(分布式文件系统)、YARN（资源管理器）、MapReduce（编程模型）。
qq_44801116·2025-02-06 06:10

python的dict和set

举个例子，假设要根据一个人的的名字查找对应的对应的数据，如果用list实现，需要两个list：names=['张三','李四','王五']scores=[88,78,89]我们寻找对应的人的成绩，就先要在
Akzeptieren·2025-02-06 06:38

Python的循环

for…in循环假设我们要循环输出一个列表里的元素：names=['张三','李四','王五']fornameinnames:print(name)执行这段代码后，会依次打印names的每一个元素：张三李四王五所以
Akzeptieren·2025-02-06 06:34

【硬刚大数据之面试篇】2021年从零到大数据专家面试篇之ClickHouse篇

本文由【王知无】原创，首发于CSDN博客！本文首发CSDN论坛，未经过官方和本人允许，严禁转载！本文是对《【硬刚大数据之学习路线篇】2021年从零到大数据专家的学习指南(全面升级版)》的面试部分补充。
王知无(import_bigdata)·2025-02-06 04:18

Hadoop1.0和2.0的主要区别

Hadoop1.0指的是版本为ApacheHadoop0.20.x、1.x或者CDH3系列的Hadoop，组件主要由HDFS和MapReduce两个系统组成，HDFS是一个分布式文件存储系统，MapReduce
web_15534274656·2025-02-06 03:43

Hadoop1.0-HDFS介绍

最核心的模块包括HadoopCommon、HDFS与MapReduce。
szjianzr·2025-02-06 03:13

SQL on Hadoop

SQL引擎通常运行在Hadoop系统外部，作为一个桥梁查询HDFS
Lostgreen·2025-02-06 03:42

物联网架构之Hadoop

其核心架构包括以下几个关键组件：1.HadoopDistributedFileSystem(HDFS)HDFS是Hadoop的分布式文件系统，用于存储大数据集。
moluxiangfenglo·2025-02-06 01:54

开源项目推荐：基于Lambda架构的大数据管道

基于Lambda架构的大数据管道big-data-pipeline-lambda-archAfullbigdatapipeline(LambdaArchitecture)withSpark,Kafka,HDFSandCassandra
柳旖岭·2025-02-05 16:53

【知识分享】HDFS基础操作以及修改配置文件命令

HDFS基本操作命令查看文件常用命令命令格式hdfsdfs-lspath--查看文件列表hdfsdfs-ls-Rpath--递归查看文件列表hdfsdfs-dupath--查看path下磁盘情况，单位字节使用示例
星环科技TDH社区版·2025-02-05 09:27

CDH角色迁移和硬盘扩容

1.概述生产CDH集群硬盘不足，HDFSdatanode节点数据不平衡，历史管理角色安装混乱，全部节点需要硬盘扩容。
专注大数据的Lyer·2025-02-05 09:56

Hadoop HDFS 安装详细步骤

Hadoop安装详细步骤安装前分别在master、slave1、slave2三台机器的root用户下的主目录下创建目录bigdata，即执行下面的命令：mkdir~/bigdataHadoop安装包下载检查Hadopp和java版本是否对应，在官网中查hadoop-3.1.3JDK1.8hadoop-2.10.2JDK1.7or1.8hadoop-2.9.2JDK1.7or1.8hadoop-2.
碟中碟山·2025-02-05 07:16

Hadoop框架及HDFS详细概述

文章目录Hadoop概述一、Hadoop1、分布式和集群2、Hadoop框架2.1概述2.2版本更新2.3Hadoop架构详解2.4官方示例2.4.1圆周率练习2.4.2词频统计3、Hadoop的HDFS3.1
搬砖人_li·2025-02-05 07:14

GitHub 开源之旅第三季：Git 进阶-王顶-专题视频课程

讲师介绍王顶更多讲师课程河北经贸大学
wdamtb·2025-02-04 15:17

Hadoop3.2.1安装-单机模式和伪分布式模式

主要包括HDFS和MapReduce两个组件。
花菜回锅肉·2025-02-04 07:13

Spark3.1.2单机安装部署

类似Hadoop，但对Hadoop做了优化，计算任务的中间结果可以存储在内存中，不需要每次都写入HDFS，更适用于需要迭代运算的算法场景中。
花菜回锅肉·2025-02-04 07:43

Python结合pyhdfs模块操作HDFS分布式文件系统

使用python操作hdfs本身并不难，只不过是把对应的shell功能“翻译”成高级语言，我这里选用的是hdfs，下边的实例都是基于hdfs包进行的。
唐僧不爱八戒·2025-02-04 00:50

如何在Java中调用Python

DataX是阿里开源的一个异构数据源离线同步工具，致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。
梦想画家·2025-02-03 17:17

Hive修复分区

通常用于那些已在HDFS中存在，但尚未在Hive元数据中注册的分区。当你在HDFS文件系统中手动添加或删除分区目录，Hive并不会自动识别这些更改。
码农小旋风·2025-02-03 14:27

hive分区和分桶详解

1、分区表分区表实际上就是对应一个HDFS文件系统上的独立的文件夹，该文件夹下是该分区所有的数据文件。Hive中的分区就是分目录，把一个大的数据集根据业务需要分割成小的数据集。
CodeShelby·2025-02-03 14:56

Hive 分区和分桶总结

分区表实际上就是对应一个在HDFS(或者是其他分布式文件系统)文
Stray_Lambs·2025-02-03 14:23

【博学谷学习记录】超强总结，用心分享 | Hive分区表和分桶表

所谓的分区表，指的就是将数据按照表中的某一个字段进行统一归类，并存储在表中的不同的位置，也就是说，一个分区就是一类，这一类的数据对应到hdfs存储上就是对应一个目录。当我们需要进行处
Onzswhite·2025-02-03 14:52

Hive分区和分桶

每个分区对应一个特定值，并映射到HDFS的不同目录。为大幅减少数据量，基本必须要做！常用于经常查询的列，如日期、区域等。
码农小旋风·2025-02-03 14:51

【漏斗图】——4

解锁数据可视化的魔法钥匙——pyecharts实战指南在这个数据为王的时代，每一次点击、每一次交易、每一份报告背后都隐藏着无尽的故事与洞察。
花花 Show Python·2025-02-03 08:37

sqoop导出orc数据至mysql,将Sqoop导入为OrC文件

IsthereanyoptioninsqooptoimportdatafromRDMSandstoreitasORCfileformatinHDFS?
终有尽头·2025-02-02 15:28

sqoop从orc文件到oracle,Sqoop import as OrC file

问题IsthereanyoptioninsqooptoimportdatafromRDMSandstoreitasORCfileformatinHDFS?
余革革·2025-02-02 15:58

java.io.FileNotFoundException: /tmp/log/flume-ng/flume.log (Permission denied)

文章目录问题描述：原因分析：解决方案：问题描述：使用Flume将本地文件监控上传到HDFS上时出现log4j:ERRORsetFile(null,true)callfailed.java.io.FileNotFoundException
海洋 之心·2025-02-02 04:05

HDFS分布式文件系统3-2 shell定期采集数据到HDFS

1、准备工作创建目录：/export/data/logs/log/export/data/logs/toupload2、在/export/data/logs目录下创建upload2HDFS.sh内容如下
诺特兰德·2025-02-02 03:38

Hive 整合 Spark 全教程 （Hive on Spark）

hadoop.proxyuser.luanhao.groups*hadoop.proxyuser.luanhao.groups*2）HDFS配置文件配置hdfs-site.xmldfs.namenode.http-addressBigdata00
字节全栈_rJF·2025-02-02 02:56

HBase Shell基本操作

一、进入HbaseShell客户端先在LinuxShell命令行终端执行start-dfs.sh脚本启动HDFS，再执行start-hbase.sh脚本启动HBase。
wanglingli95·2025-02-01 17:20

专业技术计算机应用能力考试ppt2007,全国专业技术人员计算机应用能力考试系列教材——PowerPoint 2003中文演示文稿...

全国专业技术人员计算机应用能力考试系列教材——PowerPoint2003中文演示文稿语音编辑锁定讨论上传视频全国专业技术人员计算机应用能力考试系列教材——PowerPoint2003中文演示文稿，由机械工业出版社出版，随书所带光盘《天宇考王》
Bloodysteve·2025-02-01 11:33

新本郑氏周易-清-恵栋

初王应麟辑郑元易注一卷，其后人附刻玉海之末，虽残章断句，尚颇见汉学之崖畧。于经籍颇为有功，然皆不着所出之书，又次序先后间与经文不应，亦有遗漏未载者。
幻影之心·2025-02-01 10:20

Hadoop--HA架构详解

一、HA架构工作背景HDFS集群中的nameNode存在单点故障因素。
娘子，出来看上帝·2025-02-01 10:20

Hadoop HA 架构

企业里面,多台机器伪分布式每一个角色都是一个进程HDFS:NNSNNDNYARN:RMNM大数据所有组件,都是主从架构master-slaveHDFS读写请求都是先到NN节点,但是,HBase读写请求不是经过
weixin_30569033·2025-02-01 09:49

hive表指定分区字段搜索_Hive学习-Hive基本操作（建库、建表、分区表、写数据）...

hive简单认识Hive是建立在HDFS之上的数据仓库，所以Hive的数据全部存储在HDFS上。
weixin_39710660·2025-02-01 04:00
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他