E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
HDFS数据删除
外键约束删除主表数据时,关联表
数据删除
ALTERTABLEsys_user_roleADDCONSTRAINTfk_sys_user_role_sys_user_idFOREIGNKEY(user_id)REFERENCESsys_user(id)ONDELETECASCADEONUPDATERESTRICT;sys_user_role:用户角色表fk_sys_user_role_sys_user_id:约束名称user_id:用户角
Uning
·
2024-02-03 16:24
布隆过滤器的概述和使用
它的优点是空间效率和查询时间都比一般的算法要好,缺点是有一定的误判率(hash冲突导致的)和
数据删除
困难。1.2基本
Ability Liao
·
2024-02-03 16:11
数据结构和算法
布隆过滤器
大数据面试题 ---阿善有用
大数据工程师面试题1.选择题1.1.下面哪个程序负责
HDFS
数据存储。
okbin1991
·
2024-02-03 15:21
大数据
hadoop
hdfs
java
分布式
# 用Sqoop将MySQL的表导入到
HDFS
中,表导入成功,但数据为空,报错:Unknown column ‘????‘ in ‘field list‘
用Sqoop将MySQL的表导入到
HDFS
中,报错:Unknowncolumn‘???’
Quan_Mu
·
2024-02-03 10:24
mysql
etl
sqoop
hdfs
yii2 redis记录用户行为,list列表 重复过滤,新数据保留最前面
);\Yii::$app->redis->lpush($key,json_encode($array,true));\Yii::$app->redis->expire($key,2592000);重复
数据删除
新的数据追加
程序小院
·
2024-02-03 09:17
数据库
redis
list
bootstrap
2024-02-01(Hive)
2.Hive看似处理的是mysql的表,但实际上处理的是
HDFS
中的文本文件。
陈xr
·
2024-02-03 08:53
随记日志
hadoop
hadoop 50070 无法访问问题解决汇总
djt002hadoop]#vi/etc/selinux/config改为:SELINUX=disabled解决办法2:查看你的$HADOOP_HOME/etc/hadoop下的core-site.xml和
hdfs
-site.xml
無法複制
·
2024-02-03 08:13
linux
hadoop
Datax3.0+DataX-Web部署分布式可视化ETL系统
DataX致力于实现包括关系型数据库(MySQL、Oracle等)、
HDFS
、Hive、ODPS、HBase、FTP等各种异构数据源(即不同的数据库)间稳定高效的数据同步功能。
無法複制
·
2024-02-03 08:06
分布式
etl
数据仓库
ClickHouse基于数据分析常用函数
1.2调用函数1.3子查询二、GROUPBY子句(结合WITHROLLUP、CUBE、TOTALS)三、FORM语法3.1表函数3.1.1file3.1.2numbers3.1.3mysql3.1.4
hdfs
懒惰的小白521
·
2024-02-03 08:31
大数据
java
数据分析
clickhouse
sql
Hadoop:学习
HDFS
,看完这篇就够了!
HDFS
(HadoopDistributedFileSystem)是ApacheHadoop生态系统中的分布式文件系统,用于存储和处理大规模数据集。
爱写代码的July
·
2024-02-03 08:09
大数据与云计算
hadoop
学习
hdfs
大数据
云计算
Hadoop:
HDFS
学习巩固——基础习题及编程实战
一
HDFS
选择题1.对
HDFS
通信协议的理解错误的是?
爱写代码的July
·
2024-02-03 08:09
大数据与云计算
hadoop
hdfs
学习
Hadoop生态圈-组件介绍
Hadoop的核心组件是
HDFS
、MapReduce。
苏尔伯特
·
2024-02-03 00:19
手把手教Hadoop环境搭建,学不会你咬我~
目录前置条件配置SSH免密登录Hadoop(
HDFS
)环境搭建Hadoop(YARN)环境搭建1、前置条件Hadoop的运行依赖JDK,需要预先安装,安装步骤见:1.1下载并解压在官网下载所需版本的JDK
程序IT圈
·
2024-02-02 23:11
hadoop
jdk
linux
centos
hdfs
单机搭建hadoop环境(包括
hdfs
、yarn、hive)
单机可以搭建伪分布式hadoop环境,用来测试和开发使用,hadoop包括:
hdfs
服务器yarn服务器,yarn的前提是
hdfs
服务器,在前面两个的基础上,课可以搭建hive服务器,不过hive不属于
howard_shooter
·
2024-02-02 23:39
大数据
hadoop
大数据
分布式
python中numpy二维数组
数据删除
行和列
一、函数np.delete(array,obj,axis)二、函数的意思array:需要处理的矩阵obj:需要处理的位置,比如要删除的第一行或者第一行和第二行axis:如果输入为None:array会先按行展开,然后按照obj,删除第obj-1(从0开始)位置的数,返回一个行矩阵。如果输入为0:按行删除如果输入为1:按列删除importnumpyasnpx=np.array[[1,2,3],[4,
Yu_摆摆
·
2024-02-02 20:31
python
python
numpy
Flink 的架构与组件
Flink支持各种数据源和接口,如Kafka、
HDFS
、TCP流等,并可以将处理结果输出到各种数据接收器,如
HDFS
、Elasticsearch、Kafka等。
禅与计算机程序设计艺术
·
2024-02-02 20:06
flink
架构
大数据
DataX介绍
一、介绍DataX是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、
HDFS
、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。
有人看我吗
·
2024-02-02 18:03
大数据
datax
TiDedup: A New Distributed Deduplication Architecture for Ceph——论文泛读
挑战重复
数据删除
架构中的所有组件,在设计时都应考
妙BOOK言
·
2024-02-02 18:26
论文阅读
论文阅读
ceph
重复数据删除
datax 学习记录
初识DataX是由阿里巴巴研发并开源的一个异构数据源离线同步工具,DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、
HDFS
、Hive、ADS、HBase
咳咳00
·
2024-02-02 17:58
学习
大数据
datax
datax避坑记录
DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、
HDFS
、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS
佛祖保佑永不宕机
·
2024-02-02 17:28
数据库
数据库
Hadoop原理
Hadoop框架分布式文件存储-
HDFS
即Hadoop内提供分布式数据存储的文件系统分布式计算框架-MapReduce即Hadoop内提供的进行分布式计算的组件分布式资源调度-YARN即Hadoop内提供的进行分布式资源调度的组件
我走之後
·
2024-02-02 14:25
hadoop
大数据
分布式
实现Redis亿级存储的方案
在
hdfs
的帮助下离线存储千亿记录并不困难,然而DMP还需要提供毫秒级的实时查询。由于cookie这种id本
skyito88
·
2024-02-02 12:25
编程
php
Hive基本操作
在所有操作前先启动
hdfs
、yarn、historyserver。
明明德撩码
·
2024-02-02 11:19
Hadoop-生产调优(更新中)
第1章
HDFS
-核心参数1.1NameNode内存生产配置1)NameNode内存计算每个文件块大概占用150byte,一台服务器128G内存为例,能存储多少文件块呢?
OnePandas
·
2024-02-02 07:47
Hadoop
hadoop
大数据
分布式
黑猴子的家:API 操作
HDFS
文件夹删除
1、Code->GitHubhttps://github.com/liufengji/hadoop_
hdfs
.git2、Code@TestpublicvoiddeleteAt
HDFS
()throwsException
黑猴子的家
·
2024-02-02 00:29
Redis核心技术与实战【学习笔记】 - 12.Redis删除数据后,为什么内存占用率还是很高?
前言在使用Redis是,经常会遇到一个问题:明明做了
数据删除
,数据量不大,但是使用top命令查看时,发现Redis还是占用了很多内存。
陈建111
·
2024-02-01 17:31
Redis核心技术学习
redis
redis
内存碎片
内存碎片
数据结构与算法——顺序表,进行数据输入、输出、插入、删除、查找、退出等多种操作
目录一、什么是顺序表和顺序存储结构二、顺序表多种操作(代码将依次写)1、结构体和变量初始化2、数据输入3、数据输出4、数据插入5、
数据删除
6、数据查找7、主函数8、总结一、什么是顺序表和顺序存储结构顺序表是线性表的顺序存储表示的简称
追梦少年时
·
2024-02-01 16:45
c++
c语言
开发语言
算法
数据结构
线性回归
链表
大数据开发流程图
它可以将一个关系数据库中数据导入Hadoop的
HDFS
中,也可以将
HDFS
中的数据导入关系型数据库中。Flume:实时数据采集的一个开源框架,它是Cloudera提供的一个高可用
xyzkenan
·
2024-02-01 14:30
大数据开发
大数据
大数据开发流程
大数据之Spark
专为大规模数据处理而设计的快速通用的计算引擎类HadoopMapReduce的通用并行计算框架拥有HadoopMapReduce所具有的优点但不同于MapReduce的是Job中间输出结果可以缓存在内存中,从而不再需要读写
HDFS
进击的-小胖子
·
2024-02-01 12:37
大数据
spark
big
data
scala
大数据
实时大数据
confluent入库hive安全认证问题
测试环境中已经实现,但生产环境中由于平台开启了Kerberos安全认证服务,所以一直报认证失败的日志.5caab36655bd3confluent:confluent将数据导入hive库:先将数据导入到
hdfs
建康_木子
·
2024-02-01 10:08
Hadoop3.x基础(2)-
HDFS
来源:B站尚硅谷目录
HDFS
概述
HDFS
产出背景及定义
HDFS
优缺点
HDFS
组成架构
HDFS
文件块大小(面试重点)
HDFS
的Shell操作(开发重点)基本语法命令大全常用命令实操准备工作上传下载
HDFS
魅美
·
2024-02-01 09:22
大数据基础
大数据
hadoop
报错:ERROR: org.apache.hadoop.hbase.PleaseHoldException: Master is initializing解决方案
hbase4.关闭hbase输入stop-hbase.sh如果未能退出,就使用kill-9进程号强制删除5.重新启动start-hbase.sh此时已经可以正常运行6.如果以上操作还是不成功删除hbase在
hdfs
:)คิดถึง
·
2024-02-01 09:35
错误处理
hbase
关于Hadoop进行namenode格式化时ERROR conf.Configuration: error parsing conf xxx.xml错误的问题
namenode格式化时ERRORconf.Configuration:errorparsingconfxxx.xml错误的问题在配置完core-default.xml,mapred-site.xml,
hdfs
-default
平江路的鱼
·
2024-02-01 09:34
大数据
hadoop
Linux
格式化
错误
大数据
HBase介绍
GFS是GoogleFileSystem,开源实现是
HDFS
(HadoopFileSystem)。MapReduce计算框架的开源实现是HadoopMapReduce。
M.Rambo
·
2024-02-01 06:09
hbase
数据库
大数据
分布式
java
2019/2/20Hbase单节点安装
解压过程即为安装过程解压=》为了让hbase的存放路径指定ns这个组名(防止出先不认识“ns”的错误)[root@zhiyou01~]#cp/usr/hadoop/hadoop-2.7.3/etc/hadoop/
hdfs
-site.xml
阳光正好微风不燥_c509
·
2024-02-01 05:39
Hadoop 大数据技术原理与应用
Hadoop大数据技术原理与应用大数据概述定义特征大量,多样,高速,价值研究意义应用场景医疗,金融,零售Hadoop概述历史优势扩容能力强,成本低,高效率,可靠性,高容错Hadoop生态分布式存储系统(
HDFS
kk8_
·
2024-02-01 04:33
hadoop
大数据
hdfs
大数据高频面试题一:hive和Oracle的区别
Hive和Oracle数据库最大的区别在于存储和计算方面:Hive存储在
hdfs
上(Hadoop分布式文件系统容错性高),Oracle将数保存在本地文件系统中。
半亩书田
·
2024-02-01 02:47
面试题
hive
hadoop
大数据
【C语言】探索数据结构:单链表和双链表
目录链表的概念和结构链表的分类无头单向非循环链表(单链表)的实现定义节点结构单链表的尾部插入单链表的头部插入单链表的尾部删除单链表的头部删除在指定位置插入前数据在指定位置之后插入
数据删除
结点销毁链表完整实现带头双向循环链表的实现定义节点结构创建新节点链表的初始化双向链表的遍历打印双向链表的尾插双向链表的头插完整实现链表和顺序表
P_M_P
·
2024-02-01 01:00
C语言
数据结构
c语言
数据结构
开发语言
Sqoop数据的导入导出
数据导入1、导入数据库表数据到
hdfs
mysql创建表,插入数据,为了使用方便复制了如下mysql>usetestReadingtableinformationforcompletionoftableandcolumnnamesYoucanturnoffthisfeaturetogetaquickerstartupwith-ADatabasechangedmysql
小猪Harry
·
2024-01-31 18:21
HDFS
HA 之 HA 原理
1ZKFC解析HA(HighAvailability)是
HDFS
支持的一个重要特性,可以有效解决ActiveNamenode遇到故障时,将可用的Standby节点变成新的Active状态的问题,使集群能够正常工作
Studying!!!
·
2024-01-31 18:54
中间件
hdfs
hadoop
大数据
HDFS
HA 之 Quorum Journal Manager
1、HA的发展历程1.1Secondarynamenode通过Secondarynamenode作为备节点,然后冷备namenode数据,为Namenode分担部分压力,主要执行Checkpoint工作。在这种架构体系下,Namenode以单点的形式运行,一旦系统集群出现故障,可用性是致命的,目前基本不使用了。1.2QJM在HAUsingQJM方案中,涉及的核心部分包括:ActiveNamenod
Studying!!!
·
2024-01-31 18:24
中间件
hdfs
hadoop
大数据
数据湖技术Iceberg0.12预研文档
Iceberg0.12预研本次预研场景主要为kafka=>flinksql=>iceberg=>hive=>
hdfs
=>trino(presto)本次预研使用组件如下:名称版本描述flink1.12.1
我去探险了
·
2024-01-31 15:36
数据湖技术
hive
kafka
big
data
C语言实现基础数据结构——顺序表
目录顺序表顺序表和数组顺序表的分类静态顺序表动态顺序表静态顺序表和动态顺序表的比较动态顺序表的实现主要实现功能顺序表的初始化顺序表的销毁顺序表的打印顺序表的尾部插入顺序表的头部插入顺序表的尾部删除顺序表的头部删除顺序表的指定位置插入顺序表的指定位置删除顺序表中的数值查找顺序表应用——通讯录主要实现的功能初始化通讯录添加通讯录数据展示通讯录
数据删除
通讯录数据查找通讯录数据修改通讯录数据销毁通讯录数据
EPSDA
·
2024-01-31 14:29
C语言分析数据结构
算法
数据结构
c语言
C语言实现基础数据结构——链表
目录链表链表示意图链表的特点链表的分类单链表链表实现前置须知主要实现功能链表数据的打印(遍历链表)链表的头部插入链表的尾部插入链表的头部删除链表的尾部删除查找链表中的数据在指定位置之前插入数据在指定位置之后插入
数据删除
指定位置的节点销毁链表项目文件双链表主要实现功能双向链表初始化双向链表的打印判断链表是否为空双向链表的尾部插入双向链表的头部插入双向链表的尾部删除双向链表的头部删除双向链表的数据查找
EPSDA
·
2024-01-31 14:29
C语言分析数据结构
数据结构
c语言
链表
Java抽取Hive、
HDFS
元数据信息
maven工程并配置pom.xml文件2.2编写配置文件application.yml2.3编写配置文件application.propertites2.4开发主启动类2.5开发配置类三、测试抽取Hive、
HDFS
m0_46218511
·
2024-01-31 14:06
java
java
hive
hdfs
【Spark系列6】如何做SQL查询优化和执行计划分析
一、查询优化示例1:过滤提前未优化的查询valsalesData=spark.read.parquet("
hdfs
://sales_data.parquet")valresult=salesData.groupBy
周润发的弟弟
·
2024-01-31 08:01
spark
sql
大数据
数据删除
了又被恢复?这几招,让你一劳永逸彻底删除数据
平常的右键删除,并未彻底删除。而只是修改了文件的2个代码,文件实际上是被隐藏了起来,虽然硬盘的空间被释放了,但是真正的数据仍保存在数据区中,并未彻底删除。电脑删除文件的过程就好像图书馆的图书管理,要删除某本书,先删除的是图书管理系统中的信息。但是书架上,这本书还没有被清理。当有新书进入图书管理系统,指定放置到这本书这个位置的时候,这本书才会被拿掉,然后这本书才彻底没有了。电脑上的数据可以被删除,也
偷偷小野猪
·
2024-01-31 08:45
电脑
WARNING: HADOOP_SECURE_DN_USER has been replaced by
HDFS
_DATANODE_SECURE_USER. Using value of HADOOP
Hadoop启动时报错WARNING:HADOOP_SECURE_DN_USERhasbeenreplacedby
HDFS
_DATANODE_SECURE_USER.UsingvalueofHADOOP_SECURE_DN_USER
W_yhhh
·
2024-01-31 08:44
hadoop
hdfs
大数据
hadoop-
hdfs
-site.xml配置文件详解
hadoop:
hdfs
-site.xml配置文件详解
hdfs
-site.xml配置文件j介绍hadoop-
hdfs
相关的配置信息
hdfs
-site.xml配置文件namevaluedescriptionhadoop.
hdfs
.configuration.version1versionofthisconfigurationfiledfs.namenode.logging.levelinfoThelo
许喜朝
·
2024-01-31 08:13
笔记
hdfs
hadoop
关于Hadoop全分布构建no
HDFS
_NAMENODE_USER 错误解决
常常会出现以下错误[root@Hadoopc1hadoop]#start-all.shStartingnamenodeson[192.168.13.245]ERROR:Attemptingtooperateon
hdfs
namenodeasrootERROR
(((φ(◎ロ◎;)φ)))云凡
·
2024-01-31 08:43
笔记
Hadoop
hadoop
hdfs
big
data
上一页
2
3
4
5
6
7
8
9
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他