E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hdfs扩容
Spark RDD&算子 基本操作
(2)由外部存储系统的数据集创建,包括本地的文件系统,还有所有Hadoop支持的数据集,比如
HDFS
、Cassandra、HBase等。
傍ྂ离ྂ
·
2023-10-23 14:40
Scala
Spark
spark
scala
JavaArrayList源码分析(含
扩容
机制重点问题分析)
JavaArrayList源码分析(含
扩容
机制重点问题分析)List在Collection中充当着一个什么样的身份呢?
Java柱柱
·
2023-10-23 13:01
大数据 Hadoop(三)API操作
第03章HadoopAPI操作
HDFS
操作Maven配置进行haddop
HDFS
相关开发首先需要引入下面两个开发依赖,当然需要根据开发环境中的Hadoop版本选择相关依赖的版本号。
傅二毛
·
2023-10-23 12:16
重装系统显示未找到任何音频输出设备
重装系统显示未找到任何音频输出设备因为数据库实验的要求对电脑进行了
扩容
,换了c盘导致要重装系统,安装完成后电脑小喇叭出现了红色的叉,显示未找到任何音频输出设备,找了很多教程都没有解决,最终的解决方法是:
Handsome Wong
·
2023-10-23 08:32
电脑小问题
电脑硬件
Spark任务中Partition分区与
HDFS
中的Block数据块
hdfs
-block位于存储空间;spark-partition位于计算空间;
hdfs
-block的大小是固定的;spark-partition大小是不固定的;
hdfs
-block是有冗余的、不会轻易丢失
liuzx32
·
2023-10-23 07:32
Redis学习笔记——NoSQL
商品的图片:采用分布式文件系统,如淘宝的TFS、Hadoop的
HDFS
、Google的GFS等。商品的关键字(搜索引擎):淘宝内用ISearch。商品的波段性的热点高频信息:内存数据库
从程序猿到程序员
·
2023-10-23 06:51
Redis
Hadoop
HDFS
分布式文件系统(介绍以及基础操作命令)
二、分布式的基础架构分析三、
HDFS
基础架构1.
HDFS
简介四、
HDFS
集群启停命令1.一键启停脚本2.单进程启停五、
HDFS
基本操作命令1.创建文件夹2.查看指定目录下内容3.上传文件到
HDFS
指定目录下
菜鸟一千零八十六号
·
2023-10-23 05:25
大数据
hadoop
hdfs
大数据
动态顺序表基本操作--头插头删尾插尾删
动态顺序表构建动态顺序表初始化和销毁初始化1.0初始化2.0空间销毁动态表基本操作打印尾插尾删
扩容
头插头删调试运行完整代码SeqList.hSeqList.ctest.c顺序表就是一个数组,有静态的,也有动态的
釉色清风
·
2023-10-23 05:47
数据结构与算法
c语言
算法
Hadoop之
HDFS
目录1.
HDFS
概述1.1
HDFS
产出背景及定义1.2
HDFS
优缺点1.3
HDFS
组成架构1.4
HDFS
文件块大小2.
HDFS
的Shell操作2.1基本语法2.2命令大全2.3常用命令实操2.3.1准备工作
基础不牢,地动山摇...
·
2023-10-23 05:14
大数据
hadoop
hdfs
hadoop01 - 大数据启蒙、初识
HDFS
分治思想:需求:1.我有一万个元素(比如数字或者单词)需要存储?2.如果查找某一个元素,最简单的遍历方式复杂度是多少3.如果我期望复杂度是O(4),怎么处理1.使用链表的方式储存数据使用链表的方式储存数据2.使用遍历的方式寻找X,时间复杂度O(n)3.使用数据分治的思想,把数据放到若干链表中(用分为2500个小链表举例,简单举例,不考虑数据倾斜等其他问题)4.分治的思想很多,比如redis集群,e
Doit_0e7c
·
2023-10-23 05:59
mysql 无法重新启动
用df命令查了下,果然磁盘满了,因为当时分区采用系统默认,不知道为什么不能自动
扩容
!以后在处理这个问题!
搬砖_工程师
·
2023-10-23 02:36
hive初识
是个啥1)hive主要是对mapreduce任务进行简化操作,方便工作人员快速进行数据分析;2)hive是构建在hadoop之上的数据仓库,能够将结构化的数据文件映射成一张表,以HQL作为查询接口,使用
HDFS
紫苓
·
2023-10-23 02:31
一步步练习Hadoop实操之
HDFS
和YARN,内附详细测试步骤与图解!
启动Hadoop启动
HDFS
:start-dfs.sh会提示你是否继续连接等等,都yes即可!
ZiTalk梓言梓语
·
2023-10-23 01:04
大学
hadoop
大数据
yarn
高效存储大规模数据
Hadoop分布式文件系统(
HDFS
)是一个常用的分布式文件系统,它基于大规模集群,并通过数据切割和复制来实现高容错性和可靠性。以下是一个使用
HDFS
存储数据的Python代码示
心之所向,或千或百
·
2023-10-23 01:47
大数据
大数据
HashMap & LinkedHashMap
HashMap根据键的hash值来存储数据底层:JDK1.7底层:数组+链表JDK1.8底层:数组+链表+红黑树当链表长度达到8且数组长度长于64时,就会转换成红黑树(红黑树阈值)如果数组长度小于64,就
扩容
数组其他相关
肇秋贰拾捌
·
2023-10-23 01:45
Java基础
哈希算法
散列表
算法
Hive—学习笔记(一)
的脚本化运行使用方式5、hive的基本语法--建表语法6、hive的基本语法--内部表和外部表.7、hive的基本语法--create建表likeas8、hive的基本语法--数据导入--从本地--从
hdfs
9
weixin_30526593
·
2023-10-22 23:54
大数据
java
json
分布式文件系统介绍与minio介绍与使用(附minio java client 使用)
前后端分离上传视频/上传大文件——前后端分离断点续传&minio分片上传实现文章目录1.分布式文件系统基本概念1.1文件系统1.2分布式文件系统1.3分布式文件系统的产品1.3.1NFS1.3.2GFS1.3.3
HDFS
1.3.4
是谢添啊
·
2023-10-22 21:24
#
java开发实战知识
java
网络
对象存储
linux
go
MinIO分布式专题(第二章、MinIO分布式部署)
本章节我们就讲述以下几个内容:1、MinIO如何进行纠删码部署2、MinIO分布式部署场景实战3、分布式场景
扩容
方案如何落地1、MinIO如何进行纠删码部署上个章节我介绍了下纠删码模式的特点,本节重点介绍下纠删码的部署和使用
风清扬逍遥子
·
2023-10-22 21:53
MinIO专栏
minio
java
impala+kudu整合(1)
第一次接触impala和kudu这两个组件,刚接触的时候感觉好神秘的两个组件,心里一直有个疑问为什么要两个结合着用,不太理解,就像刚接触hive+
hdfs
一样,用了之后才发现kudu确实是一个非常好用的一个实时处理数据的一个数据库
焱行软件科技计算机毕设
·
2023-10-22 20:04
java
【数据结构】顺序表实现通讯录
文章目录一、数据结构设计二、初始化和内存管理初始化动态
扩容
三、基础功能实现:增删改查添加联系人删除联系人修改联系人查找联系人显示通讯录四、文件操作保存至文件从文件读取五、所有代码contact.hcontact.cmain.c
拉普达的城
·
2023-10-22 19:38
数据结构
通讯录
C语言
动态内存开辟实现升级版通讯录
文章目录前言一、存放联系人信息二、通讯录初始化三、增加联系人四、销毁通讯录后记前言所谓动态内存开辟的通讯录,就是我需要多少联系人,就给多少联系人,防止给定一个联系人上限,需要增加联系人无法
扩容
,而联系人没有上限那么多又会造成内存浪费
劲夫学编程
·
2023-10-22 18:04
c语言制作小游戏
动态内存分配
c语言实现简易通讯录
LVM分区
扩容
(以根分区为例)
1.我这里的新磁盘是sdb[root@cct~]#fdisk/dev/sdb2.划分磁盘[root@cct~]#fdisk/dev/sdb欢迎使用fdisk(util-linux2.23.2)。更改将停留在内存中,直到您决定将更改写入磁盘。使用写入命令前请三思。Devicedoesnotcontainarecognizedpartitiontable使用磁盘标识符0xc736e68c创建新的DOS
李狗嗨_d4f7
·
2023-10-22 17:46
ArrayList与顺序表
目录一、顺序表二、ArrayList简介三、ArrayList使用3.1ArrayList的构造3.2ArrayList常见操作3.3ArrayList的遍历3.4ArrayList的
扩容
机制线性表:是
H-yajing
·
2023-10-22 17:57
java
list
java集合&迭代器
(通过动态
扩容
来达到长度可变,集合可以自己设置合理的长度,来减少
扩容
带来的资源浪费)数组中存储的是同一类型的元素,可以存储任意类型数据。集合存储的都是引用数据类型。
xiaogaotongxue__
·
2023-10-22 17:09
java基础
java
开发语言
VMware esxi Ubuntu 根目录
扩容
esxi上增加磁盘空间增加到200GB重启服务器强制重启登录服务器fdis-l看到刚才
扩容
的空间磁盘处理fdisk/dev/sda依次输入n->默认回车->默认回车->w查看磁盘fdisk-l格式化分区
逆行的小电驴
·
2023-10-22 16:33
Java学习笔记(五)——数组、排序和查找
一、数组(一)数组的使用1、使用方式1——动态初始化2、使用方式2——动态初始化3、使用方式3——静态初始化(二)数组使用注意事项和细节(三)数组赋值机制(四)数组拷贝(五)数组反转(六)数组
扩容
(七)
routine1o1oo
·
2023-10-22 15:44
Java
java
数据库
如何设计可以动态
扩容
缩容的分库分表方案?分库分表后全局id生成?mysql读写分离的原理,主从同步延时咋解决?如何设计高可用系统框架,限流熔断降级什么鬼?
Z_acad
·
2023-10-22 13:33
【Cpp】哈希之手撕闭散列/开散列
unordered_map的接口说明底层结构哈希哈希/散列表概念哈希冲突哈希函数哈希函数设计原则:常见哈希函数哈希冲突解决闭散列线性探测二次探测开散列哈希表的代码实现闭散列法/开放定址法大致框架:insert()
扩容
扩容
的传统写法
扩容
的现代写法
ppppppatrick
·
2023-10-22 12:22
哈希算法
数据结构
算法
数据结构数组 Array 手写实现,
扩容
原理
数组数据结构数组(Array)是一种线性表数据结构。它用一组连续的内存空间,来存储一组具有相同类型数据的集合。数组的特点:数组是相同数据类型的元素集合(int不能存放double)数组中各元素的存储是有先后顺序的,它们在内存中按照这个顺序连续存放到一起。内存地址连续。数组获取元素的时间复杂度为O(1)1.一维数组维数组是最常用的数组,其他很多数据结构的变种也都是从一维数组来的。例如HashMap的
PJP__00
·
2023-10-22 11:49
数据结构
算法
java
list
Hadoop3教程(二十九):(生产调优篇)集群
扩容
及缩容(白名单与黑名单)
文章目录(150)添加白名单(151)服役新服务器(152)服务器间数据均衡(153)黑名单退役服务器参考文献这一章还算是比较重要的。(150)添加白名单白名单:在白名单里的主机IP地址,就可以用来存储数据以及互相之间的通信等。一般企业都会配置集群白名单,防止黑客攻击。相应的,集群里也有黑名单,下几节会讲。配置白名单步骤如下,仅做了解,所以直接复制的教程内容:1)在NameNode节点的/opt/
经年藏殊
·
2023-10-22 10:31
大数据技术
大数据
hadoop
Hadoop3教程(三十):(生产调优篇)纠删码
文章目录(155)纠删码原理纠删码原理纠删码相关命令纠删码策略解释(156)纠删码案例实操参考文献(155)纠删码原理纠删码原理默认情况下,一个文件在
HDFS
里会保留3个副本,以此提高数据的可靠性(容灾
经年藏殊
·
2023-10-22 10:31
大数据技术
大数据
hadoop
Hadoop面试题(
HDFS
篇)
1.
HDFS
写流程?以及参与的组件?
Young_IT
·
2023-10-22 10:57
大数据开发
hadoop
hdfs
大数据
【丽洋感恩成长日记 】2021.day11
感恩每天早上和文心老师在巜健康365早课》约会,今天是第34天,腹式呼吸+冥想+感恩练习,在文心老师具有疗愈的天籁之音唤醒中开始美好的一天⋯⋯每天在提升.
扩容
,给自己一份生机,做喜欢做的事,每一天都是满心的欢喜充满喜悦无限感恩
丽洋
·
2023-10-22 10:10
AMD EPYC的模块化和NUMA之路
就我个人而言,今年已经多次在关于数据中心的文章和(线上)分享中提到AMD:“从1月29日开始到2月6日,腾讯会议每天都在进行资源
扩容
,日均
扩容
云主机接近1.5万台,8天总共
扩容
超过10万台云主机,共涉及超百万核的计算资源投入
DTValue
·
2023-10-22 09:00
C++ 协程之协程介绍
以及多线程的对比处理IO密集型任务协程的实现机制协程函数的特点有栈协程无栈协程有栈协程和无栈协程对比产生背景对于后台开发,我们有一个非常重要的问题即使用尽可能少的服务器资源处理海量的请求,除了我们在架构上做多机自动
扩容
外
蓝子娃娃
·
2023-10-22 09:24
C/C++
协程
DataX原理及安装
DataX是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、Oracle、SqlServer、Postgre、
HDFS
、Hive、ADS、HBase、TableStore(OTS)
Rudolf_liu
·
2023-10-22 09:11
Redis数据结构 — Dict
目录Dict结构设计—rehashrehash触发机制Dict
扩容
Dict收缩编辑渐进式rehash哈希表优点在于,它能以O(1)的复杂度快速查询数据。
BSY丶
·
2023-10-22 07:15
Redis
数据结构
redis
数据库
Kafka核心API——Connect API
Confluent平台附带了几个内置connector,可以使用这些connector进行关系数据库或
HDFS
等常用系统到Kafka的数据传输,也是用来构建ETL的一种方案。
端碗吹水
·
2023-10-22 07:31
系统调优几个维度考虑
redis缓存,减少db压力;数据一致性,雪崩、击穿、穿透3、数据库定位慢sql索引优化、最左匹配原则、分库分表、4、MQ,利用mq削峰避免消息堆积,消费者批量消费+集群;整合K8S,当流量非常大的时候,快速
扩容
牛八里昂
·
2023-10-22 05:32
调优
java
数据库
Hadoop3教程(三十三):(生产调优篇)慢磁盘监控与小文件归档
比如说,如果正常在
HDFS
上创建一个目录,只需要1s左右。但是你偶尔发现创建目录时超过了1分钟或者更久,但次数
经年藏殊
·
2023-10-22 05:29
大数据技术
hadoop
大数据
hadoop之
hdfs
详解之一
HDFS
是单台或集群伪分布式部署NameNode简称NNSecondaryNameNode简称SNNDataNode简称DNNN、DN、SNN部署在同一台机器上
hdfs
启动的命令脚本:sbin/start-dfs.sh
仙人掌仙人
·
2023-10-22 05:48
hadoop
零基础
Bigdata
learning
大数据
hdfs基础架构
火爆行情
今天北向资金净流入206亿,这么高的流入仅次于19年11月26日的MSCI
扩容
,但不同的是当时是被动流入,今天是主动流入,性质不一样,今日外资十大成交股如下:光伏白酒继续买买买。。
文道投资
·
2023-10-22 05:00
【数据结构】模拟实现顺序表
ArrayList底层是一段连续的空间,并且可以动态
扩容
,是一个动态类型的顺序表。
努力的小徐
·
2023-10-22 03:12
数据结构
数据结构
java
ArrayList
顺序表
HDFS
命令行操作
二.
HDFS
命令行操作:1.基本语法bin/hadoopfs具体命令2.参数大全bin/hadoopfs[-appendToFile...][-cat[-ignoreCrc]...]
Movle
·
2023-10-22 02:41
【数据结构】实现顺序表和单链表的创建和增删查改等操作
二、线性表的存储结构顺序表1.顺序表的初始化2.顺序表的
扩容
3.顺序表尾插4.顺序表的尾删5.顺序表的头插和头删6.顺序表的销毁单链表1.单链表的初始化2.打印单链表3.链表的尾插4.链表的头插5.单链表的尾删
pppiano
·
2023-10-22 01:43
数据结构
链表
c语言
Hadoop集群主节点迁移
元数据库mysql•zookeeper•freeipaservernamenode迁移先对现有的主从namenode进行一次主备切换a.先重启从节点,再重启主节点,使其完成一次元数据同步;在节点上启用
hdfs
ran
卢说
·
2023-10-22 01:08
大数据
Hadoop
hadoop
大数据
分布式
记一次Hadoop集群数据上传缓慢案例分析
项目场景手上管理的其中一个Hadoop集群,承接着大量的数据流量,一直以来运行平稳,最近突然发现集群有时会出现MR作业运行缓慢,put文件至
HDFS
偶发速度慢的问题,像大数据集群这种问题,有点疑难杂症的味道
卢说
·
2023-10-22 01:37
Hadoop
hadoop
hdfs
Hadoop 系列(七)——
HDFS
Java API
一、简介想要使用
HDFS
API,需要导入依赖hadoop-client。
heibaiying
·
2023-10-22 01:01
初识Hive
其本质是将SQL转换为MapReduce的任务进行运算,底层由
HDFS
来提供数据的存储,Hive可以理解为一个将SQL转换为MapReduce任务的工具,甚至更进一步可以说Hive就是一个MapReduce
康俊1024
·
2023-10-22 01:27
Linux磁盘管理
文章目录磁盘管理vdo卷创建vdo格式化vdo挂载使用验证vdo卷vdo卷
扩容
删除vdo卷lvm卷一、原理二、应用场景和优缺点三、物理卷、卷组和逻辑卷四、部署和使用lvm常用命令部署示例五、vg卷组管理
扩容
卷组缩减卷组卷组数据迁移六
LcWanf
·
2023-10-21 22:05
linux
centos
运维
上一页
64
65
66
67
68
69
70
71
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他