E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hive源码分析
大数据新视界 --
Hive
数据仓库设计的优化原则(2 - 16 - 4)
亲爱的朋友们,热烈欢迎你们来到青云交的博客!能与你们在此邂逅,我满心欢喜,深感无比荣幸。在这个瞬息万变的时代,我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客,正是这样一个温暖美好的所在。在这里,你们不仅能够收获既富有趣味又极为实用的内容知识,还可以毫无拘束地畅所欲言,尽情分享自己独特的见解。我真诚地期待着你们的到来,愿我们能在这片小小的天地里共同成长,共同进步。本博客的精华专栏:大数
青云交
·
2025-01-19 05:49
大数据新视界
#
Hive
之道
Hive
数据仓库
优化原则
数据分区
存储格式
查询优化
B
树索引
查询性能
大数据
使用 Hadoop 实现大数据的高效存储与查询
大数据技术:涵盖Hadoop(HDFS)、
Hive
、Spark、Fli
王子良.
·
2025-01-18 23:24
经验分享
大数据
hadoop
分布式
QML音视频实时通信
QML音视频实时通信使用AI技术辅助生成QT界面美化视频课程QT性能优化视频课程QT原理与
源码分析
视频课程QTQMLC++扩展开发视频课程免费QT视频课程您可以看免费1000+个QT技术视频免费QT视频课程
QT性能优化QT原理源码QT界面美化
·
2025-01-18 22:44
qt
qt6.3
qt5
QT教程
c++
音视频
QML Web云应用开发
QMLWeb云应用开发使用AI技术辅助生成QT界面美化视频课程QT性能优化视频课程QT原理与
源码分析
视频课程QTQMLC++扩展开发视频课程免费QT视频课程您可以看免费1000+个QT技术视频免费QT视频课程
QT性能优化QT原理源码QT界面美化
·
2025-01-18 22:14
qt
qt6.3
qt5
QT教程
c++
QT硬件接口设计
QT硬件接口设计使用AI技术辅助生成QT界面美化视频课程QT性能优化视频课程QT原理与
源码分析
视频课程QTQMLC++扩展开发视频课程免费QT视频课程您可以看免费1000+个QT技术视频免费QT视频课程
QT性能优化QT原理源码QT界面美化
·
2025-01-18 22:44
qt
qt6.3
qt5
QT教程
c++
【QT教程】QML音视频效果实现 QT音视频
QML音视频效果实现使用AI技术辅助生成QT界面美化视频课程QT性能优化视频课程QT原理与
源码分析
视频课程QTQMLC++扩展开发视频课程免费QT视频课程您可以看免费1000+个QT技术视频免费QT视频课程
QT性能优化QT原理源码QT界面美化
·
2025-01-18 22:43
qt
qt6.3
qt5
c++
QT教程
MediaCrawler 小红书爬虫
源码分析
前言MediaCrawler是最近冲上Github热搜的开源多社交平台爬虫。虽然现在已删库,但还好我眼疾手快,有幸还Fork了一份,乘着周末,简单分析了下小红书平台的相关代码。爬虫难点一般写爬虫,都需要面对以下几个问题如果app/网页需要登录,如何获取登录态(cookie/jwt)大部分app/网页都会对请求参数进行sign,如果有,如何获取sign逻辑绕过其它遇到的反爬措施我将带着这三个问题,阅
·
2025-01-18 22:46
Spark
源码分析
(一) SparkRpc中序列化与反序列化Serializer的抽象类解读 (正在更新中~)别人能写出来的,你也能行!多学习别人的思路,形成自己的思路,高薪工作奔你而来!
后一篇链接在这接上一章请先看解读序列化抽象类第一部分(这是一个链接)目录接上一章请先看解读序列化抽象类第一部分2.Java序列化实现类JavaSerializer(1)JavaSerializationStream类代码实际例子1:序列化(2)JavaDeserializationStream代码实际例子2:反序列化Spark源码下类图在学习过程中,抓住主要问题,请思考问题为什么Kryo序列化更加
小白的大数据历程
·
2025-01-18 22:07
Spark源码解析
开发语言
spark
大数据
分布式
scala
Spark
源码分析
(一) SparkRpc中序列化与反序列化Serializer的抽象类解读 (java序列化部分完结,正在更新RpcEnv部分~)
目录(3)JavaSerializerInstance定义了一个Java序列化实例(1)构造方法参数(2)方法1:serializeStream(3)方法2:deserializeStreamdefaultClassLoader(4)方法3:deserializeStreamloader(5)方法4:serialize(6)方法5:deserializeloader(7)方法6:deseriali
小白的大数据历程
·
2025-01-18 22:37
Spark源码解析
spark
java
python
ORACLE与SQL SERVER的区别
ORACLE与SQLSERVER的区别转载自:https://www.cnblogs.com/chuncn/arc
hive
/2009/01/28/1381262.html体系结构ORACLE的文件体系结构为
nanzhuhe
·
2025-01-18 20:17
文章
笔记
数据库
Oracle
hdfs和
hive
对于小文件的处理方案
一、hdfs如何处理小文件小文件问题的危害小文件问题对HDFS的性能和稳定性产生显著影响,主要包括:占用过多的存储空间:每个小文件都会占用一个独立的Block,导致存储资源的浪费。降低数据处理效率:HDFS是为处理大文件而设计的,小文件会导致大量的Map任务启动,增加处理时间和资源消耗。NameNode内存压力增大:NameNode需要维护所有文件和目录的元数据信息,小文件过多会导致NameNod
二进制_博客
·
2025-01-18 19:35
大数据
hive
创建访问用户_
Hive
权限控制和超级管理员的实现
Hive
权限控制
Hive
权限机制:
Hive
从0.10可以通过元数据控制权限。但是
Hive
的权限控制并不是完全安全的。基本的授权方案的目的是防止用户不小心做了不合适的事情。
weixin_39826089
·
2025-01-18 18:31
hive
创建访问用户
hive
表级权限控制_
Hive
权限管理
最近遇到一个
hive
权限的问题,先简单记录一下,目前自己的理解不一定对,后续根据自己的理解程度更新一、
hive
用户的概念
hive
本身没有创建用户的命令,
hive
的用户就是Linux用户,若当前是用mr用户输入
weixin_39769091
·
2025-01-18 18:01
hive表级权限控制
HIVE
的权限控制和超级管理员的实现
Hive
用户权限管理从remote部署
hive
和mysql元数据表字典看,已经明确
hive
是通过存储在元数据中的信息来管理用户权限。现在重点是
Hive
怎么管理用户权限。
weixin_34364071
·
2025-01-18 18:59
大数据
数据库
java
hive
批量修复分区
/bin/bashset-x#定义
Hive
数据库的名称database_name="edu"#定义要排除的表名exclude_table="tab_name"#使用
Hive
的shell命令获取所有的表名
青云游子
·
2025-01-18 18:25
Hive
hive
数据库
hadoop
Hive
MetaException: Unknown version specified for initialization: 3.1.0(或者其他版本号)
遇到这个问题,也是很难发现的,查阅很多文章,乱七八糟,也可能是遇到的问题不相同吧,我们从以下两个方面去排查吧1.检查你的
hive
-site.xml和
hive
-env.sh,配置对就行,这个网上一大片,注意要正确
一品_人生
·
2025-01-18 18:25
mysql
hive
大数据
hive
表修改字段类型没有级连导致历史分区报错
一:问题背景修改
hive
的分区表时有级连概念,指字段的最新状态,默认只对往后的分区数据生效,而之前的分区保留历史元数据状态。
尘世壹俗人
·
2025-01-18 17:18
大数据Hive技术
hive
hadoop
数据仓库
Hive
查看partition 以及msck 修复分区
#checktable的partition
hive
>showpartitionstable_name;如果是外部表,不小心把表给删除了,可以适用下命令重新关联表和数据[MSCKREPAIRTABLE
dgsdaga3026010
·
2025-01-18 17:48
大数据
集群间
hive
数仓迁移
方式一:(此方法需要建库建表)第一步:建库建表在原集群
hive
上查看迁移表的建表语句及所在库,然后在新集群
hive
上建库建表;showcreatetabletb_name;createdatabasedb_name
one code
·
2025-01-18 17:15
database
HIVE
合并小文件
会产生多个MapTask,然而每个MapTask处理的数据量很少,那么导致MapTask启动时间大于执行时间,整体任务时间消耗较大如何合并小文件:1)在map执行前合并小文件,减少map数:Combine
Hive
InputFormat
难以触及的高度
·
2025-01-18 16:12
hive
hadoop
数据仓库
Hive
中没有超级管理员,如何进行权限控制
Hive
中没有超级管理员,任何用户都可以进行Grant/Revoke操作开发实现自己的权限控制类,确保某个用户为超级用户比如任何用户都可以grant权限给别的用户。
二进制_博客
·
2025-01-18 16:42
大数据
hive
hadoop
数据仓库
【Bluedroid】HFP连接流程
源码分析
(一)
Bluedroid蓝牙HFP(HFP,Hands-FreeProfile)连接流程涵盖多个环节,从前期准备到连接建立、状态管理以及维护与断开,各环节紧密相扣,确保蓝牙免提连接稳定可靠。一、概述1.1.连接前准备用户操作:用户需在Android设备上开启蓝牙功能。同时,目标蓝牙设备(如车载蓝牙)要进入配对模式,Android设备通过搜索发现目标设备并完成配对,此过程可能需用户输入PIN码或确认配对请
byte轻骑兵
·
2025-01-18 15:05
解读
Android
java
C++
Android
百万架构师第二十二课:
源码分析
:Spring
源码分析
:Spring经典面试答疑|JavaGuide
Spring面试解答上半节:面试中需要注意的细节动脑子,面试是一种交流面试的时候,要用心去感受当时面试场景了解自己,自己的长处、自己的短处(巧妙地扬长避短)了解1.公司的业务场景2.你是去面试什么岗位的?Java高级工程师实际工作经验是1年(如实填写)1、请描述SpringIOC的工作原理答:定位加载注册BeanFactoryBeanDefintion...1-3年1+ApplicationCon
·
2025-01-18 13:24
后端
docker-ubuntu-24.04安装openresty1.21.4.3全过程
dockerpullubuntu:latest创建启动容器dockerrun-it--name容器名称-p8082:8082镜像id/bin/bash更换apt-get为阿里云镜像sed-i's@arc
hive
.ubuntu.com
司江龙
·
2025-01-18 12:43
ubuntu
linux
运维
大数据-257 离线数仓 - 数据质量监控 监控方法 Griffin架构
目前已经更新到了:Hadoop(已更完)HDFS(已更完)MapReduce(已更完)
Hive
(已更完)Flume(已更完)Sqoop(已更完)Zookeeper(已更完)HBase(已更完)Redis
武子康
·
2025-01-18 10:29
大数据
离线数仓
大数据
数据仓库
java
后端
hadoop
hive
Rabbitmq
源码分析
,重复消费问题的redis或数据库代码实现
目录底层源码解析自定义唯一id算法MessageProperties类的相关实现自定义消息ID生成器配置和使用Rabbitmq是怎么判断是不是重复消息的呢?通过Redis的幂等性处理消息消费者实现分布式锁实现的重复检测完整的消息处理流程基于数据库实现Mapper接口消息处理服务RabbitMQ消息消费者底层源码解析RabbitMQ判断重复消息主要通过消息的唯一标识(MessageId)和幂等性处理
xweiran
·
2025-01-18 10:26
rabbitmq
分布式
java
架构
jvm
数据结构
后端
架构师反向代理Haproxy+压力测试 - 学习笔记
.Apache的编译安装:yuminstallapr-develapr-util-develpcre-developenssl-develcd/usr/local/src/wgethttp://arc
hive
.apache.org
无影V随风
·
2025-01-18 10:25
学习笔记
linux相关
装饰器模式详解(附代码案例和
源码分析
)
目录装饰器模式的本质装饰器模式和继承结构的对比源码中IO流的继承结构具体装饰器类装饰器的组合应用装饰器链的特点代码案例定义coffee类型coffee的实现类装饰器抽象类装饰器-季节限定装饰器——加牛奶装饰器——加糖生成咖啡的简单工厂咖啡制作服务(动态加功能)装饰器模式的优点装饰器模式的缺点装饰器模式的本质装饰器模式允许向一个现有的对象添加新的功能,同时又不改变其结构。它是一种用于代替继承的技术,
xweiran
·
2025-01-18 08:38
装饰器模式
java
io流
代码案例
Python 爬虫:获取网页数据的 5 种方法
大数据技术:涵盖Hadoop(HDFS)、
Hive
、Spark、Fli
王子良.
·
2025-01-18 07:35
经验分享
python
python
开发语言
爬虫
QT ListView 记录
http://www.cnblogs.com/chenxuelian/arc
hive
/2009/12/22/1629601.html转载于:https://www.cnblogs.com/whisht/
weixin_30872157
·
2025-01-18 07:03
数据库
linux安装卸载软件
(三)归档压缩程序仅归档ar:arc
hive
r。后缀名为.a,.arTar:TapeArc
hive
。通过Tar归档
int8
·
2025-01-18 06:29
linux
linux
运维
服务器
一步到位:购买适合 SEO 的域名全攻略
WebArc
hive
:查看域名以前的用途,判断是否有不良记录或与您的行业冲突。GoogleTransparencyReport:检
·
2025-01-18 05:14
后端
spring-mvc
源码分析
v3.3.0
分析下springboot内嵌tomcat启动流程,即springboot-mvcorg.springframework.bootspring-boot-starter-web3.3.0环境信息Java22SpringBootv3.3.0ApacheTomcat/10.1.24spring-boot-starter-web3.3.0测试项目主要文件结构:@RestControllerpublicc
想花
·
2025-01-18 03:35
spring
mvc
java
2024年最新Python:Page Object设计模式_python page object,BTAJ大厂最新面试题汇集
知识体系:含编程语言、算法、大数据生态圈组件(Mysql、
Hive
、Spark、Flink)、数据仓库、Python、前端等等。网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是
m0_60707708
·
2025-01-17 20:36
程序员
python
设计模式
开发语言
采用海豚调度器+Doris开发数仓保姆级教程(满满是踩坑干货细节,持续更新)
目录一、采用海豚调度器+Doris开发平替CDHHdfs+Yarn+
Hive
+Oozie的理由。
大模型大数据攻城狮
·
2025-01-17 19:56
海豚调度器从入门到精通
doris
海豚调度器
离线数仓
实时数仓
国产代替
信创大数据
flink数仓
【YashanDB知识库】原生mysql驱动配置连接崖山数据库
【问题分类】功能兼容【关键字】YAS-07202、YAS\_MYERROR,不兼容【问题描述】本项目的架构是hadoop+
hive
+yashandb使用崖山数据库,将mysql相关的创建表语句进行初始化同步使用崖山
·
2025-01-17 10:58
数据库
Spring Boot 和微服务:快速入门指南
大数据技术:涵盖Hadoop(HDFS)、
Hive
、Spark、Fli
王子良.
·
2025-01-17 09:56
Java
经验分享
spring
boot
微服务
后端
RK3399 PCIe 中断处理与映射分析(INTx中断机制
源码分析
)
往期内容本文章相关专栏往期内容,PCI/PCIe子系统专栏:嵌入式系统的内存访问和总线通信机制解析、PCI/PCIe引入深入解析非桥PCI设备的访问和配置方法PCI桥设备的访问方法、软件角度讲解PCIe设备的硬件结构深入解析PCIe设备事务层与配置过程PCIe的三种路由方式PCI驱动与AXI总线框架解析(RK3399)深入解析PCIe地址空间与寄存器机制:从地址映射到TLP生成的完整流程PCIe_
憧憬一下
·
2025-01-17 07:09
嵌入式驱动开发
#
PCI/PCIe子系统
嵌入式
linux驱动开发
arm开发
嵌入式硬件
PCI/PCIe
oracle同步数据adg_oracle11g ADG主备切换
protection_mode,protection_level,switchover_statusfromv$database;altersystemswitchlogfile;altersystemarc
hive
logcurrent
weixin_39536630
·
2025-01-17 05:27
Oracle数据库
主备切换
日志实时应用
备库
切换状态
CDP中的
Hive
3之
Hive
Metastore(HMS)
CDP中的
Hive
3之
Hive
Metastore(HMS)1、CDP中的HMS2、HMS表的存储(转换)3、HWC授权1、CDP中的HMSCDP中的
Hive
Metastore(HMS)是一种服务,用于在后端
对许
·
2025-01-17 02:31
#
Hive
#
Spark
hive
cdp
Linux驱动学习--DRM框架介绍及基于DRM框架的HDMI开发
目录一、引言二、DRM框架介绍三、DRM框架的使用四、
源码分析
一、引言Android4开始,hdmi等视频输出框架开始由framebuffer想DRM迁移,今天我们就来简单分析下DRM框架二、DRM框架介绍
文艺小少年
·
2025-01-17 02:57
linux
android
hdmi
驱动程序
drm
Hive
窗口函数与分析函数深度解析:开启大数据分析的新维度
Hive
窗口函数与分析函数深度解析:开启大数据分析的新维度在当今大数据蓬勃发展的时代,
Hive
作为一款强大的数据仓库工具,其窗口函数和分析函数犹如一把把精巧的手术刀,助力数据分析师们精准地剖析海量数据,
自节码
·
2025-01-17 02:25
大数据
hive
数据分析
hadoop
大数据新视界 -- 大数据大厂之
Hive
数据压缩算法对比与选择(下)(20 / 30)
亲爱的朋友们,热烈欢迎你们来到青云交的博客!能与你们在此邂逅,我满心欢喜,深感无比荣幸。在这个瞬息万变的时代,我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客,正是这样一个温暖美好的所在。在这里,你们不仅能够收获既富有趣味又极为实用的内容知识,还可以毫无拘束地畅所欲言,尽情分享自己独特的见解。我真诚地期待着你们的到来,愿我们能在这片小小的天地里共同成长,共同进步。本博客的精华专栏:大数
青云交
·
2025-01-17 01:14
大数据新视界
#
Hive
之道
大数据
Hive
数据压缩
压缩算法对比
选择因素
案例分析
实时数据处理
数据存储优化
sql
大数据新视界 -- 大数据大厂之
Hive
数据安全:权限管理体系的深度解读(上)(15/ 30)
亲爱的朋友们,热烈欢迎你们来到青云交的博客!能与你们在此邂逅,我满心欢喜,深感无比荣幸。在这个瞬息万变的时代,我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客,正是这样一个温暖美好的所在。在这里,你们不仅能够收获既富有趣味又极为实用的内容知识,还可以毫无拘束地畅所欲言,尽情分享自己独特的见解。我真诚地期待着你们的到来,愿我们能在这片小小的天地里共同成长,共同进步。本博客的精华专栏:大数
青云交
·
2025-01-17 01:14
大数据新视界
#
Hive
之道
大数据
Hive
集成
大数据工具
集成模式
优化策略
未来趋势
数据一致性
【YashanDB知识库】
Hive
命令工具insert崖山数据库报错
【问题分类】功能兼容【关键字】spark30041、不兼容【问题描述】本项目的架构是hadoop+
hive
+yashandb使用崖山数据库,初始化所有的原数据表和数据新建表之后,插入数据时候报错,hadoopcode30041
·
2025-01-17 00:46
数据库
大数据新视界 --
Hive
数据仓库设计模式:星型与雪花型架构(2 - 16 - 3)
亲爱的朋友们,热烈欢迎你们来到青云交的博客!能与你们在此邂逅,我满心欢喜,深感无比荣幸。在这个瞬息万变的时代,我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客,正是这样一个温暖美好的所在。在这里,你们不仅能够收获既富有趣味又极为实用的内容知识,还可以毫无拘束地畅所欲言,尽情分享自己独特的见解。我真诚地期待着你们的到来,愿我们能在这片小小的天地里共同成长,共同进步。本博客的精华专栏:大数
青云交
·
2025-01-16 23:03
大数据新视界
#
Hive
之道
Hive
数据仓库
星型架构
雪花型架构
对比分析
大数据应用
Hive
大数据
初学者如何用 Python 写第一个爬虫?
大数据技术:涵盖Hadoop(HDFS)、
Hive
、Spark、Fli
王子良.
·
2025-01-16 23:27
python
经验分享
python
开发语言
爬虫
大数据新视界 -- 大数据大厂之
Hive
数据质量监控:实时监测异常数据(下)(18/ 30)
亲爱的朋友们,热烈欢迎你们来到青云交的博客!能与你们在此邂逅,我满心欢喜,深感无比荣幸。在这个瞬息万变的时代,我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客,正是这样一个温暖美好的所在。在这里,你们不仅能够收获既富有趣味又极为实用的内容知识,还可以毫无拘束地畅所欲言,尽情分享自己独特的见解。我真诚地期待着你们的到来,愿我们能在这片小小的天地里共同成长,共同进步。本博客的精华专栏:大数
青云交
·
2025-01-16 21:10
大数据新视界
#
Hive
之道
Hive
数据质量监控
异常数据监测
阈值设定
统计模型
行业案例
大规模数据处理
误报漏报平衡
大数据新视界 -- 大数据大厂之
Hive
数据质量保障:数据清洗与验证的策略(上)(17/ 30)
亲爱的朋友们,热烈欢迎你们来到青云交的博客!能与你们在此邂逅,我满心欢喜,深感无比荣幸。在这个瞬息万变的时代,我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客,正是这样一个温暖美好的所在。在这里,你们不仅能够收获既富有趣味又极为实用的内容知识,还可以毫无拘束地畅所欲言,尽情分享自己独特的见解。我真诚地期待着你们的到来,愿我们能在这片小小的天地里共同成长,共同进步。本博客的精华专栏:大数
青云交
·
2025-01-16 21:40
大数据新视界
#
Hive
之道
大数据
Hive
数据质量
数据清洗
数据验证
噪声处理
一致性验证
缺失值填补
大数据新视界 --
Hive
查询性能优化:索引技术的巧妙运用(下)(6/ 30)
亲爱的朋友们,热烈欢迎你们来到青云交的博客!能与你们在此邂逅,我满心欢喜,深感无比荣幸。在这个瞬息万变的时代,我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客,正是这样一个温暖美好的所在。在这里,你们不仅能够收获既富有趣味又极为实用的内容知识,还可以毫无拘束地畅所欲言,尽情分享自己独特的见解。我真诚地期待着你们的到来,愿我们能在这片小小的天地里共同成长,共同进步。本博客的精华专栏:大数
青云交
·
2025-01-16 21:10
大数据新视界
#
Hive
之道
大数据
Hive
数据导入
多源数据
数据整合
数据清洗
影视娱乐数据
电商数据
上一页
8
9
10
11
12
13
14
15
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他