hive分布式

skynet cluster集群笔记

skynetcluster集群笔记前言cluster相关方法说明集群设计方案：集群中常遇到的问题：注意事项：前言skynet是一个基于事件驱动的分布式游戏服务器框架，支持构建高性能、高并发的网络程序。
半夏知半秋·2024-03-24 10:29

高可用系统有哪些设计原则

1.降级主动降级：开关推送被动降级：超时降级异常降级失败率熔断保护多级降级2.限流nginx的limit模块gatewayredis+Lua业务层限流本地限流gua分布式限流sentinel3.弹性计算弹性伸缩
没有女朋友的程序员·2024-03-24 10:29

hive sql实现查找商品表名称中包含敏感词的商品

背景用户上传的商品表一般会包含商品名称，由于这些商品名称是用户自己起的，里面可能包含了敏感词，需要通过sql找出来哪些商品的商品名称包含了敏感词汇hivesql实现查找商品表名称中包含敏感词的商品实现思路
lixia0417mul2·2024-03-24 03:50

什么是高防CDN？

以下是它的一些主要优势：01分布式防护高防CDN通过在全球各地设立大量的节点，以实现流量的分发和冗余。
江苏冬云云计算·2024-03-24 01:46

DDoS和CC攻击的原理

DDoS攻击DDoS攻击（分布式拒绝服务攻击）指借助于客户/服务器技术，将多个计算机联合起来作为攻击平台，对一个或多个目标发动DDoS攻击，从而成倍地提高拒绝服务攻击的威力DD
a'ゞ云防护游戏盾·2024-03-20 19:01

服务器虚拟化和云平台,云平台和服务器虚拟化区别

云平台和服务器虚拟化区别内容精选换一换云硬盘(ElasticVolumeService,EVS)可以为云服务器提供高可靠、高性能、规格丰富并且可弹性扩展的块存储服务，可满足不同场景的业务需求，适用于分布式文件系统
木子Hui·2024-03-20 05:14

大数据开发（Hive面试真题-卷二）

大数据开发（Hive面试真题）1、举几个Hive开窗函数例子？什么要有开窗函数，和聚集函数区别？2、说下Hive是什么？跟数据仓库区别？3、Hive架构？4、Hive数据倾斜以及解决方案？
Key-Key·2024-03-20 05:14

云钱包：账号即区块，技术以人为本

美国人愤怒了，有人谴责华尔街的贪婪，有人占领华尔街，有人开始尝试通过分布式记账技术实践，寻找替代华尔街记账体系的路径。因此，首先我们要明确：第一，区块链这个后来总结出来的概念，它
紫气东来101·2024-03-19 21:25

Go 简单设计和实现可扩展、高性能的泛型本地缓存

缓存大体分为两类：本地缓存和分布式缓存（如Redis）。本地缓存适用于单机环境下，而分布式缓存适用于分布式环境下。
程序员榕叔·2024-03-19 18:01

MySQL 中的“两阶段提交”机制

两阶段提交是一种分布式事务处理策略，在MySQL中主要用来保证redolog和binlo
好奇的菜鸟·2024-03-19 05:14

什么是分布式搜索引擎

什么是分布式搜索引擎搜索引擎所谓搜索引擎，就是根据用户需求与一定算法，运用特定策略从互联网检索出制定信息反馈给用户的一门检索技术。
罗彬桦·2024-03-18 20:00

SpringBoot整合Hazelcast实现分布式缓存

一.分布式缓存代码实现步骤1.创建web项目我们按照之前的经验，创建一个web程序，并将之改造成SpringBoot项目，具体过程略。
已转行此号停用·2024-03-18 14:53

鸿蒙内核系统

一、系统设计总纲1.1鸿蒙战略设计目标全场景1.2鸿蒙操作系统目标实现的技术支撑1.2.1分布式设计1.2.2一次开发，多端部署1.2.3系统与硬件解耦，弹性部署1.3鸿蒙操作系统技术架构1.3.1内核层
junwua·2024-03-18 14:53

windows下用cmd命令netstat查看系统端口使用情况

转:https://www.cnblogs.com/lvxiuquan/archive/2012/08/22/2650507.html开始--运行--cmd进入命令提示符输入netstat-ano即可看到所有连接的
wmh188·2024-03-18 13:22

区块链技术的应用场景和优势

区块链技术是一种去中心化、安全、透明的分布式数据库技术，被广泛应用于各个行业。
田木木·2024-03-18 13:21

Java面试题总结18之springcloud四种分布式事务解决方案

XA规范：分布式事务规范，规定了分布式事务模型四个角色：事务管理器（协调者TM），资源管理器（参与者RM），应用程序AP，通信资源管理器CRM全局事务：一个横跨多个数据库的事务，要么全部提交，要么全部回滚
陈平安＂·2024-03-18 00:05

linux安装单机版spark3.5.0

一、spark介绍是一种通用的大数据计算框架，正如传统大数据技术Hadoop的MapReduce、Hive引擎，以及Storm流式实时计算引擎等.Spark主要用于大数据的计算二、spark下载spark3.5.0
爱上雪茄·2024-03-17 18:57

机器学习常用框架

它支持分布式计算，能够在大规模数据集上训练复杂的模型。PyTorch：由Faceboo
碧落&凡尘·2024-03-17 12:48

【Docker】Jaeger 容器化部署

Jaeger是受到Dapper和OpenZipkin启发的由UberTechnologies作为开源发布的分布式跟踪系统，兼容OpenTracing以及Zipkin追踪格式，目前已成为CNCF基金会的开源项目
轻云UC·2024-03-17 08:14

ZooKeeper 概述

定义和功能ZooKeeper是一个开源的分布式协调服务，由Apache软件基金会托管。它主要用于解决分布式应用中遇到的一些复杂问题，如命名服务、状态同步服务、集群管理、分布式锁和队列管理等。
龙大.·2024-03-16 03:32

基于ElasticSearch存储海量AIS数据-架构设计篇

面向海量AIS数据，提出了一种基于分布式集群的AIS数据存储方法。该方法对AIS数据存储索引结构进行了设计，通过对时间维按月切分，以及对空间范围聚类切分，构造了索引时空立方体，
iOS逆向·2024-03-15 23:58

分布式id生成方案

全局唯一性：算法设计确保了即使在分布式系统中也能生成全局唯一的ID。优缺点优点：实现简单，无需网络交互，保证了ID的全球唯一性。缺点：通常不能保证顺序性，ID较长，可能导致存储和索引效率低下。
陈平安＂·2024-03-15 15:17

JVM对象创建与内存分配机制分析

分配内存1）内存划分2）本地线程分配缓冲三、初始化四、设置对象头五、执行方法六、对象内存分配七、对象内存回收可达性分析算法：总结前言最新的Java面试题，技术栈涉及Java基础、集合、多线程、Mysql、分布式
旺仔爱Java·2024-03-15 15:16

Hive中的NVL函数与COALESCE函数

ReturnsdefaultvalueifvalueisnullelsereturnsvalueExample:>SELECTnvl(null,'bla')FROMsrcLIMIT1;blaFunctionclass:org.apache.hadoop.hive.ql.udf.generic.GenericUDFNv
独影月下酌酒·2024-03-15 13:13

hive库表占用空间大小的命令

1、查每个hive表占用的空间大小hdfsdfs-du-h/user/hive/warehouse2、按占用空间大小降序排列hdfsdfs-du/user/hive/warehouse/ipms.db|
刀鋒偏冷·2024-03-15 13:13

Hive中常用函数 wm_concat & concat_ws & collect_set & sort_array总结

concat_ws&collect_set:应用1:usereach_iduser_id1id1user_id1id2user_id2id1user_id2id2user_id2id3user_id3id1useridsuser_id1id1,id2user_id2id1,id2,id3user_id3id1selectdt,user_id,concat_ws(',',collect_set(ea
Lens5935·2024-03-15 13:12

HIVE表中导入导出数据的几种方式

一：往HIVE表中导入导出数据语法结构:[]带括号的表示可选择字段LOADDATA[LOCAL]INPATH‘filepath’[OVERWRITE]INTOTABLEtablename[PARTITION
qq_37805784·2024-03-15 12:11

Hive中的CONCAT、CONCAT_WS与COLLECT_SET函数

1.CONCAT与CONCAT_WS函数1.1CONCAT函数--concat(str1,str2,...strN)-returnstheconcatenationofstr1,str2,...strNorconcat(bin1,bin2,...binN)-returnstheconcatenationofbytesinbinarydatabin1,bin2,...binNReturnsNULLi
独影月下酌酒·2024-03-15 11:09

Redis 除了做缓存，还能做什么？

分布式锁：通过Redis来做分布式锁是一种比较常见的方式。通常情况下，我们都是基于Redisson来实现分布式锁。
舍人_1·2024-03-15 11:39

JVM级缓存本地缓存Caffeine

GuavaCache前言一、创建缓存的代码逻辑二、Caffeine的优化方面淘汰算法W-TinyLFU三、Caffeine的业务使用总结前言最新的Java面试题，技术栈涉及Java基础、集合、多线程、Mysql、分布式
旺仔爱Java·2024-03-15 06:32

Spring Cloud面试系列-01

SpringCloud是一系列框架的有序集合，它利用SpringBoot的开发便利性巧妙地简化了分布式系统基础设施的开发，如服务发现注册、配置中心、消息总线、负载均衡、断路器、数据监控等，都可以用SpringBoot
梦睡了·2024-03-15 02:57

探秘Elasticsearch：高性能搜索引擎的原理与应用场景（一）

首先我们将介绍Elasticsearch的基本原理，包括分布式架构、倒排索引和分片等核心概念。然后我们将深入探讨Elasticsearch的搜索原理，包括查询解析、相似度计算和布尔搜索等关键技术。
凛鼕将至·2024-03-14 13:09

Redisson

Redisson1什么是Redisson2.SpringBoot整合Redisson1什么是RedissonRedisson是一个基于Redis的java框架,用于简化Redis的操作.它提供了丰富的功能,包括:分布式集合
sp_wxf·2024-03-14 13:09

03hive数仓安装与基础使用

hiveHive概述Hive是基于Hadoop的一个数据仓库工具。
daydayup9527·2024-03-14 13:39

【分布式websocket】聊天系统消息加密如何做

前言先介绍一下对称加密算法，在介绍一下加密流程，然后是介绍一下查询加密消息的策略。然后结合现有技术架构然后去选型。决定采用客户端解密。简而言之就是采用对称服务端加密。然后将加密内容存储到消息表的content字段。然后客户拉取content字段然后解密。拉取到消息解密后进行展示。客户存储的时候进行加密。目前已经写的文章有。并且有对应视频版本。git项目地址【IM即时通信系统（企聊聊）】点击可跳转s
呆呆呆呆梦·2024-03-14 10:34

阿里云分布式深度学习训练架构Whale

阿里云分布式深度学习训练架构Whale阿里云分布式深度学习训练架构Whale参考文献Whale基于Tensorflow深度学习分布式训练框架|学习笔记Whale:EfficientGiantModelTrainingoverHeterogeneousGPUs
qwfys200·2024-03-14 07:30

redis实现分布式锁

分布式锁介绍在java的开发中，我们一般在需要并发访问的资源上使用加锁Lock或者synchronized来同步访问，但是只能针对单个jvm内的加锁，当系统需要在多个系统之间访问同一个受保护的资源时，就需要用到分布式锁的机制了
yongbuyanqi9467·2024-03-14 06:57

项目示例 - 3.降级熔断 - 2.Sentinel

项目示例-3.降级熔断-2.Sentinel关联知识：分布式微服务-3.降级熔断-3.Sentinel内容提要：注册、持久化授权注册到sentinel建Module：微服务起名为sentinel-provider
keipace·2024-03-13 07:58

项目示例 - 3.服务调用 - 1.Openfeign

项目示例-3.服务调用-1.Openfeign关联知识：分布式微服务-3.服务调用-2.Openfeign内容提要：服务调用实现：原生方式、openfeign服务调用实现原生方式调用服务注册中心使用nacos
keipace·2024-03-13 07:57

CatBoost高级教程：分布式训练与大规模数据处理

导言CatBoost是一种高效的梯度提升算法，可以处理大规模数据集并支持分布式训练。在实际应用中，处理大规模数据集时，分布式训练可以大大加快模型训练的速度，并提高训练效果。
Echo_Wish·2024-03-13 05:25

Hive函数 LAG 和 LEAD 使用示例

Hive函数LAG和LEAD使用示例在Hive中LAG和LEAD是用于访问前一个或后一个行的函数，通常与窗口函数一起使用。
公子乂·2024-03-13 05:24

MYSQL的读写扩展

1.分布式数据库有很多种：采用分库分表方式将数据路由拆分到多个数据库上；以greenplum未代表的mpp数据库架构；以tidb为代表的newSQl数据库架构。
hailang86·2024-03-12 23:16

基于HBase和Spark构建企业级数据处理平台

专注于大数据分布式计算和数据库领域，具有6年分布式开发经验，先后研发Spark及自主研发内存计算，目前为广大公有云用户提供专业的云HBase数据
weixin_34071713·2024-03-12 22:44

HDFS

HDFS是一个分布式文件系统，以流式数据访问模式存储超大文件，将数据分块存储到一个商业硬件
weixin_51987187·2024-03-12 14:32

为什么要使用ElasticSearch？

ElasticSearch是一个开源的分布式搜索和分析引擎，主要适用于以下场景：1.搜索引擎：用于快速检索文档，商品，新闻等。2.日志分析：通过分析日志数据，帮助企业了解其业务的性能情况。
z.jiaminf·2024-03-12 06:52

Apache Paimon 使用之Creating Catalogs

hivemetastore，将metadata存储在Hivemetastore中。用户可以直接从Hive访问表。
猫猫爱吃小鱼粮·2024-03-12 03:48

游戏盾如何应对微商城网站DDoS攻击

其中，分布式拒绝服务（DDoS）攻击是一种常见的网络攻击方式，它能够通过大量的无效请求拥塞目标网站的服务器资源，导致网站无法正常服务，给商家带来巨大的经济损失和声誉损害。
qq177803623·2024-03-11 13:12

HTTP代理ip如何助旅游大数据领域？怎么去建立安全代理隧道连接？

分布式数据采集：通过在不同地理位置的代理服务器上设置HTTP代理IP，可以实现分布式数据采集，收集来自不同地区的旅游数据，为旅游行业提供更全面的市场分析。访问
luludexingfu·2024-03-11 13:11

Sqoop一些常用命令及参数

命令类说明importImportTool将数据导入到集群exportExportTool将集群数据导出codegenCodeGenTool获取数据库中某张表数据生成Java并打包Jarcreate-hive-tableCreateHiveTableTool
大数据小同学·2024-03-11 09:19

Spark从入门到精通29:Spark SQL：工作原理剖析以及性能优化

SparkSQL工作原理剖析1.编写SQL语句只要是在数据库类型的技术里面，例如MySQL、Oracle等，包括现在大数据领域的数据仓库，例如Hive。
勇于自信·2024-03-11 00:20
上一页 12 13 14 15 16 17 18 19 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他