hive运维

HiveSQL某天每个直播间最大在线人数

一张表dwd_user_log有如下字段：1）直播间：live_id2）用户:userid3）时间戳:date_stamp4）登陆类型:entry_type(登入in和登出out)求某天每个直播间最大在线人数？selectlive_id,max(total_users)max_total_usersfrom(selectlive_id,userid,date_stamp,sum(ind)over(
sofo2017·2024-03-09 21:51

Hive SQL 开发指南（三）优化及常见异常

在大数据领域，HiveSQL是一种常用的查询语言，用于在Hadoop上进行数据分析和处理。为了确保代码的可读性、维护性和性能，制定一套规范化的HiveSQL开发规范至关重要。
大数据_苡~·2024-03-09 14:13

docker-swarm集群管理命令

当前个人负责的项目基本上后端只有一个人，运维也比较费时费力。就想着搭建一个集群，对比了k8s、k3s和d
chenzfp·2024-03-09 12:39

大数据开发（Hadoop面试真题-卷九）

大数据开发（Hadoop面试真题）1、Hivecount(distinct)有几个reduce，海量数据会有什么问题？
Key-Key·2024-03-09 10:06

网络安全（黑客）—2024自学

1.网络安全是什么网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。
羊村最强沸羊羊·2024-03-09 10:06

MySQL运维实战之备份和恢复（8.6）将数据库恢复到指定时间点

作者：俊达恢复到指定时间点使用全量备份和增量备份文件，都只能将数据库恢复到备份结束的时间。通过binlog，可以将数据库恢复到任意时间点（前提是备份和该时间点之间的binlog都存在）。找到时间点对应的binlog恢复到时间点，首先需要定位该时间点对应的binlog位点（binlog文件和文件内的偏移量）。每个binlog头部都记录了该binlog产生的时间，我们可以使用mysqlbinlog工具
云掣YUNCHE·2024-03-08 21:48

自动化运维工具----Ansible入门详解

1.ansible是新出现的自动化运维工具，基于python开发，集合了从多的运维工具（puppet、chef、func、fabric）的优点，实现了批量系统配置、批量程序部署、批量运行命令等功能。
效好飞·2024-03-08 11:05

RAID磁盘阵列部署和管理

（2）掌握RAID的基础运维。基础准备安装CentOS7操作系统主机，并添加4块20GB硬盘。案例实施创建raid0利用磁盘分区新建2个磁盘分区，每个大小为20GB。
XYong-@·2024-03-07 02:23

Raid磁盘阵列并管理

目录优点：缺点命令创建raid0raid5运维操作RAID（RedundantArrayofIndependentDisks）即独立磁盘冗余阵列，通常简称为磁盘阵列。
mhcwz·2024-03-07 01:22

网络安全（黑客）—2024自学

1.网络安全是什么网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。
德西德西·2024-03-06 21:17

运维系列：docker部署java项目

docker部署java项目docker部署java项目1、首先你需要提前准备好`jar包`或者`war包`，并想办法放入`Linux环境`(或虚拟机)中；2、`java项目`的部署需要用到`Tomcat`或者`Jetty`，`docker`可以直接拉取他俩的镜像，这里以`Tomcat`为例：3、接下来需要创建一个tomcat的容器:4、创建后需要将`war包`或者`jar包`移动到`tomcat
坦笑&&life·2024-03-06 16:09

在Linux中使用docker【下】（常见命令下）

在Linux中使用docker【下】（常见命令下）一、Docker介绍二、在Linux中使用Docker的意义2.1轻量级与资源高效2.2快速部署与版本控制2.3隔离与安全2.4简化运维2.5跨平台兼容
长孤秋落·2024-03-06 10:35

Hive分组排序取topN的sql查询示例

Hive分组排序取topN的sql查询示例要在Hive中实现分组排序并取每组的前N条记录，可以使用ROW_NUMBER()窗口函数结合PARTITIONBY和ORDERBY子句。
公子乂·2024-03-06 08:31

归档模式

1：归档日志文件在线日志——用于崩溃/实例恢复/介质恢复归档日志——用于介质恢复2：确认数据库是否为归档模式archiveloglist;--查看数据归档信息selectlog_modefromv$database
个人精进成长营·2024-03-06 08:12

网络安全（黑客）—2024自学

1.网络安全是什么网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。
羊村最强沸羊羊·2024-03-06 00:21

网络安全（黑客）—2024自学

1.网络安全是什么网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。
羊村最强沸羊羊·2024-03-06 00:21

hbase、hive、clickhouse对比

概念架构hbasemaster存储元数据、regionServer实际控制表数据，存储单位是Region，底层数据存储使用HDFShive通过driver将sql分解成mapreduce任务元数据需要单独存储到一个关系型数据库
freshrookie·2024-03-05 16:40

Mac 离线安装Qt5

1下载QT1.1.打开链接：https://download.qt.io/archive/qt/在这个链接上，可以看到不同版本的QT，我们选择稳定5.9/点开后，选择5.9.8版本，可以看到不同版本的QT
熊明之·2024-03-05 11:33

运维随录实战（5）之centos搭建jenkins

一，搭建jenkins准备下载安装jdk环境-》版本jdk11下载安装maven环境-》版本maven3.8.8git-》版本1.8.3.1yuminstallgitjenkins安装版本：2.414.3下载地址：https://get.jenkins.io/war-stable/2.414.3/jenkins.war注：jenkins版本与jdk版本有一定的对应关系，版本不对应可能导致后面虽然安
Loren_云淡风轻·2024-03-05 10:32

centos服务配置springboot服务开机启动

在做后端服务运维时，经常遇到服务器重启时，需要移动一堆后端服务。服务器故障自动重启时，通常无人通知。把springboot服务的jar包配置开机启动太有必要了，虽然不是很复杂，这里记录一下太有必要了。
GIS开发者·2024-03-04 11:32

如何快速迁移其他云服务器中的网站数据到腾讯云轻量应用服务器中？教你使用宝塔Linux面板迁移网站

使用宝塔Linux面板进行迁移：宝塔Linux面板是一款服务器运维面板，它支持一键部署LAMP、LNMP、集群、监控、网站、FTP、数据库、JAVA等100多项服务器管理功能。因此，使用宝塔L
正宗六脉神剑·2024-03-04 06:25

网络安全（黑客）—2024自学

1.网络安全是什么网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。
德西德西·2024-03-04 04:53

hive--字符串连接函数concat(),concat_ws()

一、字符串连接函数：concat功能：将多个字符串连接成一个字符串语法:concat(stringA,stringB…)返回值:string说明：返回输入字符串连接后的结果，支持任意个输入字符串举例：hive
nuhao_·2024-03-03 17:08

MySQL运维实战之备份和恢复（8.4）xtrabackup恢复全量备份

作者：俊达恢复全量备份大致可以分成以下几步：解压备份文件、prepare备份文件、将数据copy到目标实例相关目录、启动数据库实例。解压文件如果备份时使用了xbstream，需要先解压备份文件。我们备份时使用了–stream=xbstream和gzip压缩，先使用gunzip接解压缩，再使用xbstream将文件提取出来。#gunzipbackup_full.gz#xbstream-x-vprep
云掣YUNCHE·2024-03-03 08:57

【Hadoop】使用Metorikku框架读取hive数据统计分析写入mysql

一、定义作业文件作业文件该文件将包括输入源、输出目标和要执行的配置文件的位置，具体内容如下metrics:-/user/xrx/qdb.yaml#此位置为hdfs文件系统目录inputs:output:jdbc:connectionUrl:"jdbc:mysql://233.233.233.233:3306/sjjc"user:"root"password:"123456"driver:"com.
方大刚233·2024-03-03 06:23

java 企业工程管理系统软件源码 自主研发 工程行业适用

工程项目管理软件（工程项目管理系统）对建设工程项目管理组织建设、项目策划决策、规划设计、施工建设到竣工交付、总结评估、运维运营，全过程、全方位的对项目进行综合管理工程项目各模块及其功能点清单一、系统管理
微服务 spring cloud·2024-03-03 02:48

Linux系统运维9个实用的shell脚本

看到9个shell脚本范例，运维可以根据实际情况进行修改，9个shell脚本如下：1、Dos攻击防范（自动屏蔽攻击IP）#!
知白守黑V·2024-03-02 23:46

Linux运维_Bash脚本_部署安装DocBook-XSL-1.79.1(XSL-Stylesheets)

Linux运维_Bash脚本_部署安装DocBook-XSL-1.79.1(XSL-Stylesheets)Bash(BourneAgainShell)是一个解释器，负责处理Unix系统命令行上的命令。
Mostcow·2024-03-02 23:15

hive join中出现的数据暴增（数据重复）

什么是join过程中导致的数据暴增？例如：给左表的每个用户打上是否是新用户的标签，左表的用户数为100，但是关联右表之后，得到的用户数为200甚至更多什么原因导致的数据暴增呢？我们来看一下案例：spark-sql>withtest1as>(select'10001'asuid,'xiaomi'asqid>unionall>select'10002'asuid,'huawei'asqid>union
不想起的昵称·2024-03-02 15:03

hive四种常见的join

1.左连接leftjoinspark-sql>withtest1as(>select1asuser_id,'xiaoming'asname>unionall>select2asuser_id,'xiaolan'asname>unionall>select3asuser_id,'xiaoxin'asname>),>>test2as(>select1asuser_id,19asage>unionall
不想起的昵称·2024-03-02 15:33

Linux系统运维命令：查看cache里的URL，即查看系统访问了哪些包含http的url（使用grep结合awk，组合命令实现功能）

目录一、需求二、解决方法1、解决思路2、命令三、实例演示和命令解释1、实例演示2、命令解释四、扩展一、需求想知道某台linux机器最近访问了哪些http的web地址，如何处理？二、解决方法1、解决思路Linux系统访问外部web，也就是外部的http地址，这些数据应该保存在缓存中，所以应该想办法看linux系统的cache，cache中会又从外部web下载下来的一些图片和文本等信息，可以从jpg或
威迪斯特·2024-03-01 17:30

MySQL运维实战之备份和恢复（8.2）xtrabackup备份到云端(OSS)

作者：俊达xtrabackup工具中有一个xbcloud程序，可以将数据库直接备份到S3对象存储中，本地不落盘。这里介绍将数据库直接备份到OSS的一种方法。具体方法如下：1、准备OSS我们使用ossutil工具上传备份文件。下载ossutil工具：wget-Oossutil-v1.7.16-linux-amd64.zip"https://gosspublic.alicdn.com/ossutil/
·2024-03-01 16:40

服务器日常运维工作：探秘技术的前沿

第一章：晨曦中的服务器1.1早晨的第一杯咖啡每天早上，我走进办公室，第一件事就是泡一杯浓郁的咖啡。这杯咖啡不仅是为了提神，更是为了迎接那些等待着我的服务器。它们就像是沉睡的巨人，等待着被唤醒。1.2看门狗的守护服务器的安全是我们的首要任务。我们设置了看门狗程序，定期检查服务器的健康状态。如果有异常，它会立即发出警报，让我们能够迅速采取行动。第二章：故障排除的魔法2.1魔法师的角色故障排除就像是一场
信息安全兴趣爱好者·2024-03-01 10:19

k8s运维问题整理

1.宕机或异常重启导致etcd启动失败服务器非正常关机（意外掉电、强制拔电）后etcd数据损坏。查看apiserver日志发现出现报错Errorwhiledialingdialtcp127.0.0.1:2379:connect:connectionrefused，2379是etcd的端口，那么apiserver是由于etcd无法连接而启动不了参考资料：https://blog.csdn.net/k
筱光·2024-02-29 18:59

Spark整合hive（保姆级教程）

准备工作：1、需要安装配置好hive，如果不会安装可以跳转到Linux下编写脚本自动安装hive2、需要安装配置好spark，如果不会安装可以跳转到Spark安装与配置（单机版）3、需要安装配置好Hadoop
万家林·2024-02-29 09:47

nginx负载均衡监测后台服务状态-健康检测

一、选型根据参考Nginx负载均衡中后端节点服务器健康检查-运维笔记和Nginx健康检查，使用开源模块nginx_upstream_check_module。
谷谷谷雨·2024-02-29 09:17

Hive复杂数据类型之array

定义格式如下：createtabletableName(......colNamearray......)说明：下标从0开始，越界不报错，以null代替案例准备：测试数据zhangsan78,89,92,96lisi67,75,83,94王五23,12createtableifnotexistsarr1(namestring,scoresarray)rowformatdelimitedfields
鸭梨山大哎·2024-02-28 08:48

Hive数据仓库行转列

查了很多资料发现网上很多文章都是转发和抄袭，有些问题。这里分享一个自己项目中使用的行转列例子，供大家参考。代码如下：SELECTmy_id,nm_cd_map['A']ASmy_cd_a,nm_cd_map['B']ASmy_cd_b,nm_cd_map['C']ASmy_cd_c,nm_num_map['A']ASmy_num_a,nm_num_map['B']ASmy_num_b,nm_num
XueminXu·2024-02-28 07:47

云计算拼的是运维吗

云计算拼的是运维吗？云计算并不仅仅是拼运维，还有其他方面也很重要。在云计算中，运维确实是一个重要的方面。运维涉及管理和维护云基础设施、服务器、网络和存储等组件，以确保它们的正常运行、高可用性和安全性。
ddddwd--1·2024-02-27 12:22

网络安全（黑客）—2024自学

1.网络安全是什么网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。
羊村最强沸羊羊·2024-02-27 00:07

Hive--删除数据库

一、删除数据库注意：Hive与MySQL再删除数据库时是有一点不一样的。Hive再删除数据库操作时，要保证该库下没有任何数据表！
nuhao_·2024-02-26 19:33

工程管理系统简介 工程管理系统源码 java工程管理系统 工程管理系统功能设计

工程项目管理软件（工程项目管理系统）对建设工程项目管理组织建设、项目策划决策、规划设计、施工建设到竣工交付、总结评估、运维运营，全过程、全方位的对项目进行综合管理工程项目各模块及其功能点清单一、系统管理
m0_66404702·2024-02-26 05:16

转载：Linux全自动批量配置SSH免密

转载自https://www.mr-mao.cn/archives/auto-configure-ssh-nopass-login.html1、在主机的操作系统上安装expect2、新建host_ip文件
徐sir（徐慧阳）·2024-02-26 04:14

hive学习笔记之九：基础UDF

欢迎访问我的GitHubhttps://github.com/zq2599/blog_demos内容：所有原创文章分类汇总及配套源码，涉及Java、Docker、Kubernetes、DevOPS等；《hive
程序员欣宸·2024-02-26 00:05

【超详细】HIVE 日期函数（当前日期、时间戳转换、前一天日期等）

文章目录相关文献常量：当前日期、时间戳前一天日期、后一天日期获取日期中的年、季度、月、周、日、小时、分、秒等时间戳转换时间戳to日期日期to时间戳日期之间月、天数差作者：小猪快跑基础数学&计算数学，从事优化领域5年+，主要研究方向：MIP求解器、整数规划、随机规划、智能优化算法。如有错误，欢迎指正。如有更好的算法，也欢迎交流！！！——@小猪快跑相关文献LanguageManualUDF-Apach
小猪快跑爱摄影·2024-02-25 21:04

數據集成平台：datax將MySQL數據以query方式同步到hive

數據集成平台：datax將MySQL數據以query方式同步到hive1.py腳本#coding=utf-8importjsonimportgetoptimportosimportsysimportMySQLdbimportre
m0_37759590·2024-02-25 09:18

Python自动化部署与配置管理：Ansible与Docker

Ansible是一个基于Python的自动化运维工具，可以配置管理、应用部署、任务自动化等。
api77·2024-02-25 01:09

php 打包 zip

php使用原生的ZipArchive类来打包zip。
·2024-02-24 15:57

【云学院干货】数据仓库服务：在冗余海量数据中找到正确决策

传统数据仓库在大数据时代处于劣势，用户需要自己搭建软硬件，运维维护的成本非常大，投入高周期长，而且如果数据量大，扩容的工作非常难以实现。业务数据上云，在公有云上托管成为必然趋势。
舒意从生·2024-02-24 07:21

element-ui版本问题导致el-table-column输入框无法输入

本地element-ui版本是2.4.10,测试element-ui版本是2.8.2,而生产运维用是最新的版本。更新版本因为另一个模块用的树结构需要把ele
Enno.Z·2024-02-23 14:02
上一页 6 7 8 9 10 11 12 13 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他