hive分布式

分布式WebSocket-下篇

分布式WebSocket落地-生产验证上篇文章主要讲述了单点Socket，以及它的使用场景。本章主要会从多个维度来探讨单机Socket存在问题以及解决方案。
蓝天/zachary·2024-08-30 18:46

分布式 WebSocket 集群解决方案

下面我将描述session特性，以及根据这些特性列举出n个解决分布式架构中处理ws请求的集群方案WebSocketSession与HttpSession在Spring所集成的WebSocket里面，每个
2401_83916394·2024-08-30 17:13

hive中的分区

文章目录Hive分区1.简介为什么要分区如何分区以及细节2.Hive分区的建立创建分区静态分区动态分区启动动态分区功能多分区单分区区别创建多分区插入分区查看分区数查看表结构Hive分区1.简介Hive分区的概念与传统关系型数据库分区不一样
百流·2024-08-30 16:07

信息安全基础复习

主动攻击：中断，篡改，伪造被动攻击：截获DDOS:分布式拒绝访问（主动攻击）被动：被动威胁是对信息进行监听，而不对其进行篡改和破坏主动：主动威胁是对信息进行故意篡改和破坏，使合法用户得不到可用的信息。
星河如雨落·2024-08-30 16:35

kafka的安装与测试

kafka的安装与测试一、概念定义：kafka是一个分布式的基于发布/订阅模式的消息队列（MessageQueue),主要用于大数据实时处理领域使用消息队列的一个好处1.解耦：不需要两台服务器保持同时在线
无情白·2024-08-30 16:04

使用python创建kafka的topic

文章目录使用python创建kafka的topickafka基本概念所需安装的包代码样例使用python创建kafka的topickafka基本概念Apache‌Kafka是一个开源的分布式流处理平台，
百流·2024-08-30 16:02

使用redis发布订阅实现websocket分布式消息推送服务

WebSocketConfig@ConfigurationpublicclassWebSocketConfig{privatestaticfinalLoggerlogger=LoggerFactory.getLogger(WebSocketConfig.class);@BeanpublicServerEndpointExporterserverEndpointExporter(){returnne
weixin_43833540·2024-08-30 16:00

揭示灵活分布式云平台的速效降本之道

2023年，Akamai委托ForresterConsulting进行了一项研究，重点关注了商业企业如何通过分布式云架构满足自己的各项需求。本文我们就一起看看这项研究的主要成果。“底线”是
Akamai中国·2024-08-30 15:56

linux网络流程分析（一）---网卡驱动

转载：https://www.cnblogs.com/gogly/archive/2012/06/10/2541573.html分析linux网络的书已经很多了，包括《追踪LinuxTCP/IP代码运行
wang603603·2024-08-30 15:55

PyTorch深度学习实战（26）—— PyTorch与Multi-GPU

当拥有多块GPU时，可以利用分布式计算（DistributedComputation）与并行计算（ParallelComputation）的方式加速网络的训练过程。
shangjg3·2024-08-30 12:10

关于vue2运行时filemanager-webpack-plugin报错isFile is undefind

/dist.zip'],archive:[{source:'./dist',destination:'./dist.zip'}]}})在对应的路径下建一个dist文件夹
又写了一天BUG·2024-08-30 12:34

sql-函数

SQL函数及报错问题合集一、sql函数1.日期函数（**Hive**）1.1日期减少函数:date_sub1.2日期增加函数：date_add1.3日期格式转化函数：date2datekey/datekey2date2
weixin_45925478·2024-08-30 11:03

Hive3：列注释、表注释等乱码解决方案

--在Hive的MySQL元数据库中执行usehive;1).修改字段注释字符集altertableCOLUMNS_V2modifycolumnCOMMENTvarchar(256)charactersetutf8
生产队队长·2024-08-30 08:09

PyTorch深度学习实战（27）—— PyTorch分布式训练

本节将详细介绍如何进行神经网络的分布式训练。
shangjg3·2024-08-30 07:37

Curator框架 以及基本API如何操作

为了更好的实现java操作zookeeper服务器，后来出现Curator框架，非常的强大，目前已经是Apache的顶级项目，里面提供了更多丰富的操作，例如session超时重连、主从选举、分布式计数器
JAVA代码搬运工·2024-08-30 06:33

常见的实时数仓方案

实时部分以消息队列的方式实时增量消费，一般以Flink+Kafka的组合实现，维度表存在关系型数据库或者HBase；离线部分一般采用T+1周期调度分析历史存量数据，每天凌晨产出，更新覆盖前一天的结果数据，计算引擎通常会选择Hive
北极冰雨·2024-08-30 05:27

大模型训练和推理

文章目录一、NLP基础1.Tokenizer2.positionencoding3.注意力机制与transformer架构二、大模型训练1.SFT训练2.RLHF训练3.分布式并行训练技术（1）模型并行
李明朔·2024-08-30 01:27

云计算day13

一、Git概述Git是一种分布式版本控制系统，用于跟踪和管理代码的变更。它是由LinusTorvalds创建的，最初被设计用于Linux内核的开发。
巭氼·2024-08-29 23:42

中间件简介

它们在分布式系统、网络通信和应用集成中起着关键的作用。那么常见的中间件有哪些呢？消息队列中间件：消息队列中间件允许应用程序之间异步地发送和接收消息。
Will_1130·2024-08-29 22:38

虚拟机安装hadoop，hbase（单机伪集群模式）

就像当初做爬虫一样（虽然很简单），在数据爆发的现在，传统的数据库mysql，oracle显然在处理大数据量级的数据时显得力不从心，所以有些特定的业务需要引进能够处理大数据量的数据库，hadoop提供了分布式文件系统
流~星~雨·2024-08-29 21:31

hive中的数据同步到hbase

hive中的数据同步到hbase工作中遇到了这个工作，就是将hive中的数据同步到hbase中，然后java通过hbase相关的API来访问hbase中的数据。
流~星~雨·2024-08-29 21:31

HIVE 数据模型

type=hive集群状态管理：http://tdxy-bigdata-03:7180/cmf/home基于HDFS没有专门的数据
HFDYCYY·2024-08-29 19:47

Apache Kafka 快速学习大纲

Kafka概述定义Kafka传统定义：Kafka是一个分布式的基于发布/订阅模式的消息队列（MessageQueue），主要应用于大数据实时处理领域。
aaaak_·2024-08-29 19:46

Hive 数据模型切换后的数据验证方案

记录这样一个场景，cdp/dmp等等标签模型系统，会出现这样一种情况。标签系统一般属于ads集市层加工的模型数据，如果上游（数仓/业务）表进行了切换，比如我们项目最近上游从fdl/gdl切换到了dwd/dws，切换完毕后的数据一般都会出现问题，如何进行数据验证是一个需要好好思考的问题。首先，如果把切换后的结果表当成左表去匹配切换前的结果表，很容易出现因未验证语法不正确导致的数据验证问题，例如：切换
小菜菜1223·2024-08-29 19:16

大数据实训笔记7：kafka

概述Kafka是一个开源的分布式事件流平台(EventStreamingPlatform)，被数千家公司用于高性能数据管道、流分析、数据集成和关键任务应用。
Roslin_v·2024-08-29 19:14

Mysql 查询数据库或数据表中的数据量以及数据大小_mysql 获取查询记录的 数据大小

许多数据库的元数据都是存储在mysql中的，例如hive、startrockes，因此可以通过mysql中的“information_schema.TABLES”表来查询对应数据库或对应数据表的具体信息
m0_74932057·2024-08-29 17:02

QPS提升10倍怎么设计-JAVA后端经常用到的技术

例如，使用分布式服务器集群，将请求均匀地分配到各个节点上，避免单个服务器负载过高。升级服务器的硬件配置，如提高CPU性能、增加内存容量、使用更快的存储设备等。例如，采用多核处理
九张算数·2024-08-29 17:00

优秀的开源项目

目录热key多线程并行秒级百G级日志工具ES操作工具消息推送平台HTTP客户端业务层的分布式限流组件企业级微服务解决方案热keyhotkey:京东App后台中间件，毫秒级探测热点数据，毫秒级推送至服务器集群内存
点滴~·2024-08-29 16:28

分布式中间件

1.Nacos服务注册和服务发现原理图：1.服务提供方将集群信息注册到Nacos，并定期心跳包提供健康信息，宕机即剔除2.服务消费方定期拉取订阅信息，获取服务实例列表3.服务集群的负载均衡是在消费者一方进行选择负载均衡：四层（传输层，ip+端口），七层（应用层，在四层ip+端口的基础上，添加一些用户级负载均衡规则，例如过滤特定的url访问请求）；nginx同时支持四层和七层负载均衡，硬件负载均衡器
C15751X·2024-08-29 16:54

Python知识点：如何使用HBase与HappyBase进行分布式存储

使用HBase与HappyBase进行分布式存储是处理大规模数据的有效方式。HBase是一个基于Hadoop的开源分布式数据库，可以处理非常大的表。
杰哥在此·2024-08-29 15:51

思二勋：web3.0是打造应对复杂市场敏捷组织的关键

本文内容摘自思二勋所著的《分布式商业生态战略》一书。数字化时代，需要企业具备敏捷应对变化的能力，以敏捷反应应对客户和市场的迅速变化。
学客汇·2024-08-29 14:15

【观点】区块链的未来：分布式商业；企业的未来：分布式商业生态战略

本文内容摘自思二勋所著的《分布式商业生态战略》一书。近两年，商业经济环境的不确定性越来越明显，市场经济受到疫情、技术、政策等多方因素影响越来越难以预测，黑天鹅事件时有发生。
学客汇·2024-08-29 14:14

新书推荐：《分布式商业生态战略：未来数字商业新逻辑与企业数字化转型新策略》

近两年，商业经济环境的不确定性越来越明显，市场经济受到疫情、技术、政策等多方因素影响越来越难以预测，黑天鹅事件时有发生。在国内外经济方面，国际的地缘政治对商业经济产生着重大的影响，例如供应链中断，核心技术的自主创新及国产化，以及美联储的持续加息对市场经济的影响，等等。国内经济也在承压发展，尽管内需总体回暖，但市场活力不足、内生动力不强、市场资源利用率低下等问题不容忽视。而在技术革新商业经济方面，如
学客汇·2024-08-29 14:44

Spark权威指南读书笔记（二）：结构化API

第四章结构化API概述结构化API主要指三种核心分布式集合类型API：Dataset、DataFrame、SQL表和视图DataFrame和Dataset类型DataFrame和Dataset是具有行和列的类似于数据表的集合类型
kaiker·2024-08-29 11:23

Python分布式任务处理库之dramatiq使用详解

Dramatiq是一个用于分布式任务处理的Python库，旨在提供简单、可靠的任务队列解决方案。与其他任务队列库相比，Dramatiq更加轻量级，且易于上手。
Rocky006·2024-08-29 09:41

Kylin的工作原理及使用分享操作指南

ApacheKylin是一个分布式的分析引擎，专为大数据环境中的快速分析和查询而设计。它通过构建OLAP（联机分析处理）立方体，使得对海量数据的实时分析成为可能，极大地提升了数据查询的效率。
vvvae1234·2024-08-29 05:14

Metasploit漏洞利用系列（九）：MSF渗透测试 - DistCC后门漏洞实战

DistCC是一个分布式编译系统，旨在通过网络分发编译任务以加速编译过程。然而，不当的配置或特定版本的漏洞可能为攻击者留下可乘之机，使其能够利用DistCC服务作为跳板，入侵目标系统。
Alfadi联盟 萧瑶·2024-08-29 02:55

分布式唯一id的7种方案

背景为什么需要使用分布式唯一id？如果我们的系统是单体的，数据库是单库，那无所谓，怎么搞都行。
木小同·2024-08-29 02:53

Hdfs的机架感知与副本放置策略

1.介绍Apachehadoop机架感知Hadoop分布式文件系统(Hdfs)作为ApacheHadoop生态系统的的核心组件之一,通过机架感知和副本放置策略来优化数据的可靠性,可用和性能.Hdfs的机架感知和副本放置策略是其设计的关键组成部分
sheansavage·2024-08-29 01:42

JMS 原理

为什么需要JMS用RPC中间件技术已广泛应用于分布式系统之间的通信，但是这些技术也显示出了局限性：同步通信：客户发出调用后，必须等待服务对象完成处理并返回结果后才能继续执行客户和服务对象的生命周期紧密耦合
LynnGuo·2024-08-29 00:53

ROS Node

ROS节点是ROS中实现模块化、分布式和可扩展性的关键组件之一。在ROS中，节点是通过ROS核心（ROSMaster）进行通信和协调的。
GYHlf·2024-08-28 23:31

XML-RPC-1概述

XML-RPC是一个远程过程调用（远端程序呼叫）（remoteprocedurecall，RPC)的分布式计算协议，通过XML将调用函数封装，并使用HTTP协议作为传送机制。
weixin_30340775·2024-08-28 22:26

RPC框架之Dubbo

问题1：为什么要把系统拆分成分布式的？为啥要用dubbo？1.为什么要将系统进行拆分？
猫猫桑·2024-08-28 22:56

为什么搜索引擎可以检索到网站？

分布式计算：提高处理速度。缓存机制：快速返回热门查询结果。用户行为分析：优化搜索结
程序员T哥·2024-08-28 22:23

git打包某个分支的特定提交

假设你已经知道提交的哈希值是1234abcd#创建一个新分支指向特定提交gitbranchnew-branch1234abcd#或者创建一个标签gittagv1.01234abcd创建分支或标签后，使用gitarchive
每一天，每一步·2024-08-28 22:22

教程：在Spring Boot应用中集成OAuth 2.0认证

在现代的分布式系统中，使用OAuth2.0认证可以有效地保护API端点和用户数据。本文将介绍如何在S
微赚淘客系统开发者@聚娃科技·2024-08-28 22:52

Java高级技术day75：Zookeeper与Dubbo

一、Zookeeper的介绍1.Zookeeper介绍：顾名思义zookeeper就是动物园管理员，他是用来管hadoop（大象）、Hive(蜜蜂)、pig(小猪)的管理员，ApacheHbase和ApacheSolr
开源oo柒·2024-08-28 20:54

Hive 分区表 & 数据加载

1.Hive表数据的导入方式1.1本地上传至hdfs命令：hdfsdfs-put[文件名][hdfs绝对路径]例如：测试文件test_001.txt内容如下在hdfs绝对路径：/user/hive/warehouse
Wu_Candy·2024-08-28 18:22

clickhouse集群部署

单节点设置为了延迟演示分布式环境的复杂性，我们将首先在单个服务器或虚拟机上部署ClickHouse。ClickHouse通常是从deb或rpm包安装，但对于不支持它们的操作系统也有其他方法。
林鸟鸟·2024-08-28 14:29

k8s上的clickhouse集群部署并创建分布式表（附详细参数说明和参考链接）

k8s上的clickhouse集群部署并创建分布式表制作docker镜像创建configmap创建clickhouseservicepod创建clickhouseclientpod创建Service创建分布式表部署总体参考
KirutoCode·2024-08-28 14:56
上一页 7 8 9 10 11 12 13 14 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他