E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Hive环境搭建
Hadoop 常用命令
查看指定目录下的文件及文件夹hadoopfs-ls/user/
hive
/warehouse/查看指定目录下的文件及文件夹大小#文件大小(单位Byte)hadoopfs-du/user/
hive
/warehouse
ZenPower
·
2025-01-21 06:59
hadoop
大数据
分布式
MySQL字段约束条件,外键约束条件,表关系
MERGEInnoDBArc
hive
BLACKHOLEblackhole与memory存取数据的特征Blackhole:丢弃写操作,读操作会返回空内容Memory:置于内存的表创建表的完整语法字段类型之整型字段类型之浮点型字段类型之字符类型字段类型之枚举与集合字段类型之日期类型约束条件自增
Yietong309
·
2025-01-21 01:10
MySQL数据库
mysql
数据库
开发语言
Python3
环境搭建
指南
Python3
环境搭建
指南1.引言Python是一种广泛使用的高级编程语言,以其简洁明了的语法和强大的功能而闻名。
lly202406
·
2025-01-21 00:01
开发语言
麒麟系统下载依赖到本地
在麒麟系统中下载依赖到本地,主要有以下几种方法:使用apt命令只下载不安装:在连接互联网的电脑上,使用sudoapt-get-dinstall命令,可以只下载软件包及其依赖到/var/cache/apt/arc
hive
s
乙龙
·
2025-01-20 20:59
linux
kylin
Web三维CAD绘制一个窗户模型
前言本文使用mxcad3d在网页中创建一个简单的三维窗户模型,mxcad3d提供了丰富的三维建模功能和便捷的API,使得创建各种三维模型变得简单方便,最终效果如下图:
环境搭建
和入门首先学习mxcad的基本使用方法
·
2025-01-20 17:18
【论文投稿】Spring Boot 开发全攻略:从入门到精通
目录一、SpringBoot简介与优势二、开发
环境搭建
三、创建SpringBoot项目四、项目结构剖析五、控制器开发六、服务层设计七、数据访问层构建一、SpringBoot简介与优势SpringBoot
小周不想卷
·
2025-01-20 13:11
艾思科蓝学术会议投稿
spring
boot
Oracle11g ADG部署 duplicate方式(超级详细)
前言在我们的工作中经常会遇到给现有的生产
环境搭建
ADG容灾系统的需求,此篇文章详细的教大家Oracle11g版本的ADG部署(duplicate方式)。内容都是工作中总结出来的,还算比较详细。
学无止境的小一
·
2025-01-20 13:10
数据库
服务器
oracle
dba
数据库架构
Apache
Hive
一、Apache
Hive
简介官方网址:https://
hive
.apache.org/TheApache
Hive
™datawarehousesoftwarefacilitatesreading,writing
_从头再来_
·
2025-01-20 10:09
大数据
Python 删除文件与文件夹 - 奇客谷教程
Python教程Python介绍Python开发
环境搭建
Python语法Python变量Python数值类型Python类型转换Python字符串(String)Python运算符Python列表(list
八狐云|酷画册|二维码生成
·
2025-01-20 10:37
python
Python
教程
python
tar命令详解:解压与压缩的技巧
一、tar命令概述tar(tapearc
hive
)是一个用于打包和压缩文件的命令行工具。它可以将多个文件和目录打包成一个文件,也可
wx_tangjinjinwx
·
2025-01-20 06:29
tar
linux
Hadoop 和 Spark 的内存管理机制分析
大数据技术:涵盖Hadoop(HDFS)、
Hive
、Spark、Fli
王子良.
·
2025-01-20 03:27
经验分享
hadoop
spark
大数据
在线格式化XML
http://xmlindent.com/转载于:https://www.cnblogs.com/DotNetNuke/arc
hive
/2010/07/14/1777096.html
weixin_34250709
·
2025-01-19 20:27
jsdom爬虫程序中eBay主页内容爬取的异步处理
二、爬虫程序构建(一)
环境搭建
在开始编写爬虫程序之前,我们需要
小白学大数据
·
2025-01-19 12:49
python
爬虫
大数据
算力平台
环境搭建
实操
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录一、登录账号二、选择算力平台已有镜像或外部导入镜像创建开发环境三、配置环境1.修改算力平台密码2.配置代理(1)进入bashrc配置文件(2)在文本末尾添加(3)重新运行bashrc配置文件3.安装miniconda方法1:离线下载方法2:在线下载4.pip换源5.创建并激活虚拟环境6.安装pytorch7.额外包的安装,都可
罗小黑的师傅
·
2025-01-19 11:43
目标检测
深度学习
人工智能
Hive
小文件合并
作者:振鹭一、参数配置:在Map输入的时候,把小文件合并。--每个Map最大输入大小,决定合并后的文件数setmapred.max.split.size=256000000;--一个节点上split的至少的大小,决定了多个datanode上的文件是否需要合并setmapred.min.split.size.per.node=100000000;--一个交换机下split的至少的大小,决定了多个交换
云掣YUNCHE
·
2025-01-19 09:20
hive
hadoop
数据仓库
hive
小文件合并机制_
hive
小文件的问题弊端以及合并
小文件的弊端1、HDFS中每个文件的元数据信息,包括位置大小分块信息等,都保存在NN内存中,在小文件数较多的情况下,会造成占用大量内存空间,导致NN性能下降;2、在读取小文件多的目录时,MR会产生更多map数,造成GC频繁,浪费集群资源;3、现在大数据平台文件总数超过30亿,单个NS文件数超过4亿的时候,读写性能会急剧下降,影响到所有读写该NS的任务性能;4、如果队列限制最大map数是20000,
做生活的创作者
·
2025-01-19 08:49
hive小文件合并机制
【MongoDB 分片集群架构详解】
为什么要使用分片1.2垂直扩容(ScaleUp)VS水平扩容(ScaleOut)2.分片集群架构2.1核心概念2.1.1数据分片2.1.2配置服务器(configServer)2.1.3查询路由(mongos)3.
环境搭建
从你 全世界 路过
·
2025-01-19 08:48
必备
mongodb
架构
数据库
数仓建模(五)选择数仓技术栈:
Hive
& ClickHouse & 其它
市场上主流数仓技术栈丰富,如
Hive
、ClickHouse、Druid、Greenplum等,对于初学者而言,选择合适的技术栈是一项挑战。
昊昊该干饭了
·
2025-01-19 08:45
数仓建模
大数据
hive
clickhouse
hadoop
Hive
--
Hive
Server2 命令行代码连接、
Hive
常用命令、自定义UDF函数、排序
目录1
Hive
--
Hive
Server2命令行代码连接1.1配置
Hive
Server2WEB参数1.2开启
Hive
Server21.3使用Beeline连接
Hive
Server21.4使用代码查询
Hive
Server21.5
XK&RM
·
2025-01-19 08:13
Hive
hive
hiveserver2
udf
java
Zookeeper 数据迁移实战:基础
环境搭建
与高效迁移方案全览
文章目录一、Zookeeper数据迁移简介二、迁移zookeeper数据基础环境三、利用快照迁移zookeeper数据1、Node1最新的zk快照文件和日志文件2、将被迁移方node2的zookeeper的集群全部stop3、将源node1集群数据和日志拷贝到指定目录下4、验证优先启动拷贝的数据、日志的zookeeper节点,四、利用开源工具zkcopy进行在线同步数据1、下载官方开源工具2、同步
磐基Stack专业服务团队
·
2025-01-19 08:43
Zookeeper
zookeeper
分布式
Hive
数据类型全解析:大数据开发者的实用指南
在大数据处理领域,
Hive
作为一款基于Hadoop的数据仓库工具,被广泛应用于数据的存储、查询和分析。
大鳥
·
2025-01-19 08:42
sql
hive
数据仓库
Apache
Hive
--排序函数解析
在大数据处理与分析中,Apache
Hive
是一个至关重要的数据仓库工具。其丰富的函数库为数据处理提供了诸多便利,排序函数便是其中一类非常实用的工具。
大鳥
·
2025-01-19 06:31
apache
hive
hadoop
大数据新视界 --
Hive
数据仓库设计的优化原则(2 - 16 - 4)
亲爱的朋友们,热烈欢迎你们来到青云交的博客!能与你们在此邂逅,我满心欢喜,深感无比荣幸。在这个瞬息万变的时代,我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客,正是这样一个温暖美好的所在。在这里,你们不仅能够收获既富有趣味又极为实用的内容知识,还可以毫无拘束地畅所欲言,尽情分享自己独特的见解。我真诚地期待着你们的到来,愿我们能在这片小小的天地里共同成长,共同进步。本博客的精华专栏:大数
青云交
·
2025-01-19 05:49
大数据新视界
#
Hive
之道
Hive
数据仓库
优化原则
数据分区
存储格式
查询优化
B
树索引
查询性能
大数据
.NET 学习:从基础到进阶的全面指南
一、认识.NET:基础概念与
环境搭建
了解.NET框架:.NET是一个由微软开
来恩1003
·
2025-01-19 05:13
.NET
.net
学习
最实用的selenium使用指南
selenium使用一
环境搭建
下载seleniumpipinstallselenium下载浏览器驱动(以Edge为例)在设置中找到当前Edge版本号,在[MicrosoftEdgeWebDriver-MicrosoftEdgeDeveloper
程序员小雷
·
2025-01-19 00:31
selenium
测试工具
测试用例
功能测试
python
jmeter
单元测试
使用 Hadoop 实现大数据的高效存储与查询
大数据技术:涵盖Hadoop(HDFS)、
Hive
、Spark、Fli
王子良.
·
2025-01-18 23:24
经验分享
大数据
hadoop
分布式
ORACLE与SQL SERVER的区别
ORACLE与SQLSERVER的区别转载自:https://www.cnblogs.com/chuncn/arc
hive
/2009/01/28/1381262.html体系结构ORACLE的文件体系结构为
nanzhuhe
·
2025-01-18 20:17
文章
笔记
数据库
Oracle
Pytorch 三小时极限入门教程
二、Pytorch基础
环境搭建
安装An
power-辰南
·
2025-01-18 20:43
人工智能
深度学习
pytorch
人工智能
hdfs和
hive
对于小文件的处理方案
一、hdfs如何处理小文件小文件问题的危害小文件问题对HDFS的性能和稳定性产生显著影响,主要包括:占用过多的存储空间:每个小文件都会占用一个独立的Block,导致存储资源的浪费。降低数据处理效率:HDFS是为处理大文件而设计的,小文件会导致大量的Map任务启动,增加处理时间和资源消耗。NameNode内存压力增大:NameNode需要维护所有文件和目录的元数据信息,小文件过多会导致NameNod
二进制_博客
·
2025-01-18 19:35
大数据
hive
创建访问用户_
Hive
权限控制和超级管理员的实现
Hive
权限控制
Hive
权限机制:
Hive
从0.10可以通过元数据控制权限。但是
Hive
的权限控制并不是完全安全的。基本的授权方案的目的是防止用户不小心做了不合适的事情。
weixin_39826089
·
2025-01-18 18:31
hive
创建访问用户
hive
表级权限控制_
Hive
权限管理
最近遇到一个
hive
权限的问题,先简单记录一下,目前自己的理解不一定对,后续根据自己的理解程度更新一、
hive
用户的概念
hive
本身没有创建用户的命令,
hive
的用户就是Linux用户,若当前是用mr用户输入
weixin_39769091
·
2025-01-18 18:01
hive表级权限控制
HIVE
的权限控制和超级管理员的实现
Hive
用户权限管理从remote部署
hive
和mysql元数据表字典看,已经明确
hive
是通过存储在元数据中的信息来管理用户权限。现在重点是
Hive
怎么管理用户权限。
weixin_34364071
·
2025-01-18 18:59
大数据
数据库
java
hive
批量修复分区
/bin/bashset-x#定义
Hive
数据库的名称database_name="edu"#定义要排除的表名exclude_table="tab_name"#使用
Hive
的shell命令获取所有的表名
青云游子
·
2025-01-18 18:25
Hive
hive
数据库
hadoop
Hive
MetaException: Unknown version specified for initialization: 3.1.0(或者其他版本号)
遇到这个问题,也是很难发现的,查阅很多文章,乱七八糟,也可能是遇到的问题不相同吧,我们从以下两个方面去排查吧1.检查你的
hive
-site.xml和
hive
-env.sh,配置对就行,这个网上一大片,注意要正确
一品_人生
·
2025-01-18 18:25
mysql
hive
大数据
C++ 游戏开发
二、开发
环境搭建
先得有个好用的开发工具,推荐用VisualStudio(VS)。去官网(ht
周盛欢
·
2025-01-18 18:25
c++
开发语言
hive
表修改字段类型没有级连导致历史分区报错
一:问题背景修改
hive
的分区表时有级连概念,指字段的最新状态,默认只对往后的分区数据生效,而之前的分区保留历史元数据状态。
尘世壹俗人
·
2025-01-18 17:18
大数据Hive技术
hive
hadoop
数据仓库
Hive
查看partition 以及msck 修复分区
#checktable的partition
hive
>showpartitionstable_name;如果是外部表,不小心把表给删除了,可以适用下命令重新关联表和数据[MSCKREPAIRTABLE
dgsdaga3026010
·
2025-01-18 17:48
大数据
集群间
hive
数仓迁移
方式一:(此方法需要建库建表)第一步:建库建表在原集群
hive
上查看迁移表的建表语句及所在库,然后在新集群
hive
上建库建表;showcreatetabletb_name;createdatabasedb_name
one code
·
2025-01-18 17:15
database
HIVE
合并小文件
会产生多个MapTask,然而每个MapTask处理的数据量很少,那么导致MapTask启动时间大于执行时间,整体任务时间消耗较大如何合并小文件:1)在map执行前合并小文件,减少map数:Combine
Hive
InputFormat
难以触及的高度
·
2025-01-18 16:12
hive
hadoop
数据仓库
Hive
中没有超级管理员,如何进行权限控制
Hive
中没有超级管理员,任何用户都可以进行Grant/Revoke操作开发实现自己的权限控制类,确保某个用户为超级用户比如任何用户都可以grant权限给别的用户。
二进制_博客
·
2025-01-18 16:42
大数据
hive
hadoop
数据仓库
PyTorch机器学习与深度学习技术方法
Python基础知识串讲1、Python
环境搭建
(Python软件下载、安装与版本选择;PyCharm下载、安装;Python之HelloW
Teacher.chenchong
·
2025-01-18 13:17
机器学习
python
开发语言
docker-ubuntu-24.04安装openresty1.21.4.3全过程
dockerpullubuntu:latest创建启动容器dockerrun-it--name容器名称-p8082:8082镜像id/bin/bash更换apt-get为阿里云镜像sed-i's@arc
hive
.ubuntu.com
司江龙
·
2025-01-18 12:43
ubuntu
linux
运维
利用Python爬虫获取阿里巴巴商品详情:代码示例与实践指南
一、准备工作(一)
环境搭建
确保你的Python环境已经安装了以下必要的库:requests:用于发送HTTP请求。BeautifulSoup:用于解析HT
小爬虫程序猿
·
2025-01-18 10:01
API
python
爬虫
开发语言
大数据-257 离线数仓 - 数据质量监控 监控方法 Griffin架构
目前已经更新到了:Hadoop(已更完)HDFS(已更完)MapReduce(已更完)
Hive
(已更完)Flume(已更完)Sqoop(已更完)Zookeeper(已更完)HBase(已更完)Redis
武子康
·
2025-01-18 10:29
大数据
离线数仓
大数据
数据仓库
java
后端
hadoop
hive
Oracle 学习全攻略
一、入门奠基:
环境搭建
与初步认知了解Oracle体系架
来恩1003
·
2025-01-18 10:58
Oracle
oracle
学习
数据库
架构师反向代理Haproxy+压力测试 - 学习笔记
.Apache的编译安装:yuminstallapr-develapr-util-develpcre-developenssl-develcd/usr/local/src/wgethttp://arc
hive
.apache.org
无影V随风
·
2025-01-18 10:25
学习笔记
linux相关
昇腾NPU推理YOLOV10目标检测(C++)
C++
环境搭建
链接:cplusplus/environment/catenation_environmental_guidance_CN.md·Ascend/samples-Gitee.com按照上面的链接
weixin_51923349
·
2025-01-18 10:23
c++
ffmpeg
opencv
Python 爬虫:获取网页数据的 5 种方法
大数据技术:涵盖Hadoop(HDFS)、
Hive
、Spark、Fli
王子良.
·
2025-01-18 07:35
经验分享
python
python
开发语言
爬虫
QT ListView 记录
http://www.cnblogs.com/chenxuelian/arc
hive
/2009/12/22/1629601.html转载于:https://www.cnblogs.com/whisht/
weixin_30872157
·
2025-01-18 07:03
数据库
linux安装卸载软件
(三)归档压缩程序仅归档ar:arc
hive
r。后缀名为.a,.arTar:TapeArc
hive
。通过Tar归档
int8
·
2025-01-18 06:29
linux
linux
运维
服务器
上一页
6
7
8
9
10
11
12
13
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他