Hadoop分布式

分布式：这里详细的说一下分布式

分布式系统是由多台计算机节点协同工作的系统，节点之间通过网络进行通信和协调。每个节点可以独立执行任务，但它们共享资源和数据，相互之间通过消息传递进行通信。在分布式系统中，通信和协调是实现分布式的关键。
独木人生·2024-03-25 20:39

ELK离线安装和配置流程

Elasticsearch是一个基于Lucene库的分布式搜索和分析引擎；Logstash是一个用于收集、处理和转换数据的数据管道，它可以从各种来源读取数据，包括日志文件、系统事件、网络流量等；Kibana
GB9125·2024-03-25 19:39

常见物联网模型优缺点简介

分布式模型：优点：提高了系统的可靠性和容错性，因为数据和处理能力分散在各个节点。
成都亿佰特电子科技有限公司·2024-03-24 15:04

Spark面试整理-Spark是什么？

ApacheSpark是一个开源的分布式计算系统，它提供了一个用于大规模数据处理的快速、通用、易于使用的平台。它最初是在加州大学伯克利分校的AMPLab开发的，并于2010年开源。
不务正业的猿·2024-03-24 13:02

认识Java语言（一）

Java语言的背景(0.1)在数字化的时代浪潮中，Java显得尤为璀璨，它不仅仅是由SunMicrosystems公司孕育而出的一种编程语言，更是一种融汇简洁性、面向对象的设计、分布式编程能力、稳健与安全性
小魏冬琅·2024-03-24 12:01

skynet cluster集群笔记

skynetcluster集群笔记前言cluster相关方法说明集群设计方案：集群中常遇到的问题：注意事项：前言skynet是一个基于事件驱动的分布式游戏服务器框架，支持构建高性能、高并发的网络程序。
半夏知半秋·2024-03-24 10:29

高可用系统有哪些设计原则

1.降级主动降级：开关推送被动降级：超时降级异常降级失败率熔断保护多级降级2.限流nginx的limit模块gatewayredis+Lua业务层限流本地限流gua分布式限流sentinel3.弹性计算弹性伸缩
没有女朋友的程序员·2024-03-24 10:29

hadoop配置免密登录

1.生成密钥ssh-keygen-trsa所有节点都要执行2.所有节点执行ssh-copy-id-i~/.ssh/id_rsa.pub用户名1@主机名1ssh-copy-id-i~/.ssh/id_rsa.pub用户名2@主机名2ssh-copy-id-i~/.ssh/id_rsa.pub用户名3@主机名33.目录授权chmod700~/.sshchmod600~/.ssh/authorized_
我干开发那十年·2024-03-24 07:25

什么是高防CDN？

以下是它的一些主要优势：01分布式防护高防CDN通过在全球各地设立大量的节点，以实现流量的分发和冗余。
江苏冬云云计算·2024-03-24 01:46

DDoS和CC攻击的原理

DDoS攻击DDoS攻击（分布式拒绝服务攻击）指借助于客户/服务器技术，将多个计算机联合起来作为攻击平台，对一个或多个目标发动DDoS攻击，从而成倍地提高拒绝服务攻击的威力DD
a'ゞ云防护游戏盾·2024-03-20 19:01

服务器虚拟化和云平台,云平台和服务器虚拟化区别

云平台和服务器虚拟化区别内容精选换一换云硬盘(ElasticVolumeService,EVS)可以为云服务器提供高可靠、高性能、规格丰富并且可弹性扩展的块存储服务，可满足不同场景的业务需求，适用于分布式文件系统
木子Hui·2024-03-20 05:14

【笔记】HDFS基础笔记

启动hadoop命令（未配环境变量）：进入hadoop安装目录输入.
哇咔咔哇咔·2024-03-20 04:12

【笔记】Linux常用命令

命令含义cd/home/hadoop#把/home/hadoop设置为当前目录cd..#返回上一级目录cd~#进入到当前Linux系统登录用户的主目录（或主文件夹）。
哇咔咔哇咔·2024-03-20 03:11

云钱包：账号即区块，技术以人为本

美国人愤怒了，有人谴责华尔街的贪婪，有人占领华尔街，有人开始尝试通过分布式记账技术实践，寻找替代华尔街记账体系的路径。因此，首先我们要明确：第一，区块链这个后来总结出来的概念，它
紫气东来101·2024-03-19 21:25

Go 简单设计和实现可扩展、高性能的泛型本地缓存

缓存大体分为两类：本地缓存和分布式缓存（如Redis）。本地缓存适用于单机环境下，而分布式缓存适用于分布式环境下。
程序员榕叔·2024-03-19 18:01

MySQL 中的“两阶段提交”机制

两阶段提交是一种分布式事务处理策略，在MySQL中主要用来保证redolog和binlo
好奇的菜鸟·2024-03-19 05:14

什么是分布式搜索引擎

什么是分布式搜索引擎搜索引擎所谓搜索引擎，就是根据用户需求与一定算法，运用特定策略从互联网检索出制定信息反馈给用户的一门检索技术。
罗彬桦·2024-03-18 20:00

SpringBoot整合Hazelcast实现分布式缓存

一.分布式缓存代码实现步骤1.创建web项目我们按照之前的经验，创建一个web程序，并将之改造成SpringBoot项目，具体过程略。
已转行此号停用·2024-03-18 14:53

鸿蒙内核系统

一、系统设计总纲1.1鸿蒙战略设计目标全场景1.2鸿蒙操作系统目标实现的技术支撑1.2.1分布式设计1.2.2一次开发，多端部署1.2.3系统与硬件解耦，弹性部署1.3鸿蒙操作系统技术架构1.3.1内核层
junwua·2024-03-18 14:53

区块链技术的应用场景和优势

区块链技术是一种去中心化、安全、透明的分布式数据库技术，被广泛应用于各个行业。
田木木·2024-03-18 13:21

Java面试题总结18之springcloud四种分布式事务解决方案

XA规范：分布式事务规范，规定了分布式事务模型四个角色：事务管理器（协调者TM），资源管理器（参与者RM），应用程序AP，通信资源管理器CRM全局事务：一个横跨多个数据库的事务，要么全部提交，要么全部回滚
陈平安＂·2024-03-18 00:05

linux安装单机版spark3.5.0

一、spark介绍是一种通用的大数据计算框架，正如传统大数据技术Hadoop的MapReduce、Hive引擎，以及Storm流式实时计算引擎等.Spark主要用于大数据的计算二、spark下载spark3.5.0
爱上雪茄·2024-03-17 18:57

机器学习常用框架

它支持分布式计算，能够在大规模数据集上训练复杂的模型。PyTorch：由Faceboo
碧落&凡尘·2024-03-17 12:48

【Docker】Jaeger 容器化部署

Jaeger是受到Dapper和OpenZipkin启发的由UberTechnologies作为开源发布的分布式跟踪系统，兼容OpenTracing以及Zipkin追踪格式，目前已成为CNCF基金会的开源项目
轻云UC·2024-03-17 08:14

Hadoop简介

简介大数据简介概述大数据的说法从出现到现在，也经历了十多年时间的发展。而在这十几年的发展过程中，非常多的机构、组织都试图对大数据做出过定义，例如：研究机构Gartner给出了这样的定义："大数据"是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。再例如根据维基百科的定义，大数据是指无法在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合。
程序员小郭同学·2024-03-16 07:10

ZooKeeper 概述

定义和功能ZooKeeper是一个开源的分布式协调服务，由Apache软件基金会托管。它主要用于解决分布式应用中遇到的一些复杂问题，如命名服务、状态同步服务、集群管理、分布式锁和队列管理等。
龙大.·2024-03-16 03:32

基于ElasticSearch存储海量AIS数据-架构设计篇

面向海量AIS数据，提出了一种基于分布式集群的AIS数据存储方法。该方法对AIS数据存储索引结构进行了设计，通过对时间维按月切分，以及对空间范围聚类切分，构造了索引时空立方体，
iOS逆向·2024-03-15 23:58

分布式id生成方案

全局唯一性：算法设计确保了即使在分布式系统中也能生成全局唯一的ID。优缺点优点：实现简单，无需网络交互，保证了ID的全球唯一性。缺点：通常不能保证顺序性，ID较长，可能导致存储和索引效率低下。
陈平安＂·2024-03-15 15:17

JVM对象创建与内存分配机制分析

分配内存1）内存划分2）本地线程分配缓冲三、初始化四、设置对象头五、执行方法六、对象内存分配七、对象内存回收可达性分析算法：总结前言最新的Java面试题，技术栈涉及Java基础、集合、多线程、Mysql、分布式
旺仔爱Java·2024-03-15 15:16

Hive中的NVL函数与COALESCE函数

ReturnsdefaultvalueifvalueisnullelsereturnsvalueExample:>SELECTnvl(null,'bla')FROMsrcLIMIT1;blaFunctionclass:org.apache.hadoop.hive.ql.udf.generic.GenericUDFNv
独影月下酌酒·2024-03-15 13:13

hive库表占用空间大小的命令

hdfsdfs-du-h/user/hive/warehouse2、按占用空间大小降序排列hdfsdfs-du/user/hive/warehouse/ipms.db|sort-nr3、查某一个分区占用空间大小（单位G)hadoopfs-ls
刀鋒偏冷·2024-03-15 13:13

Redis 除了做缓存，还能做什么？

分布式锁：通过Redis来做分布式锁是一种比较常见的方式。通常情况下，我们都是基于Redisson来实现分布式锁。
舍人_1·2024-03-15 11:39

JVM级缓存本地缓存Caffeine

GuavaCache前言一、创建缓存的代码逻辑二、Caffeine的优化方面淘汰算法W-TinyLFU三、Caffeine的业务使用总结前言最新的Java面试题，技术栈涉及Java基础、集合、多线程、Mysql、分布式
旺仔爱Java·2024-03-15 06:32

Spring Cloud面试系列-01

SpringCloud是一系列框架的有序集合，它利用SpringBoot的开发便利性巧妙地简化了分布式系统基础设施的开发，如服务发现注册、配置中心、消息总线、负载均衡、断路器、数据监控等，都可以用SpringBoot
梦睡了·2024-03-15 02:57

探秘Elasticsearch：高性能搜索引擎的原理与应用场景（一）

首先我们将介绍Elasticsearch的基本原理，包括分布式架构、倒排索引和分片等核心概念。然后我们将深入探讨Elasticsearch的搜索原理，包括查询解析、相似度计算和布尔搜索等关键技术。
凛鼕将至·2024-03-14 13:09

Redisson

Redisson1什么是Redisson2.SpringBoot整合Redisson1什么是RedissonRedisson是一个基于Redis的java框架,用于简化Redis的操作.它提供了丰富的功能,包括:分布式集合
sp_wxf·2024-03-14 13:09

03hive数仓安装与基础使用

hiveHive概述Hive是基于Hadoop的一个数据仓库工具。
daydayup9527·2024-03-14 13:39

【分布式websocket】聊天系统消息加密如何做

前言先介绍一下对称加密算法，在介绍一下加密流程，然后是介绍一下查询加密消息的策略。然后结合现有技术架构然后去选型。决定采用客户端解密。简而言之就是采用对称服务端加密。然后将加密内容存储到消息表的content字段。然后客户拉取content字段然后解密。拉取到消息解密后进行展示。客户存储的时候进行加密。目前已经写的文章有。并且有对应视频版本。git项目地址【IM即时通信系统（企聊聊）】点击可跳转s
呆呆呆呆梦·2024-03-14 10:34

阿里云分布式深度学习训练架构Whale

阿里云分布式深度学习训练架构Whale阿里云分布式深度学习训练架构Whale参考文献Whale基于Tensorflow深度学习分布式训练框架|学习笔记Whale:EfficientGiantModelTrainingoverHeterogeneousGPUs
qwfys200·2024-03-14 07:30

redis实现分布式锁

分布式锁介绍在java的开发中，我们一般在需要并发访问的资源上使用加锁Lock或者synchronized来同步访问，但是只能针对单个jvm内的加锁，当系统需要在多个系统之间访问同一个受保护的资源时，就需要用到分布式锁的机制了
yongbuyanqi9467·2024-03-14 06:57

项目示例 - 3.降级熔断 - 2.Sentinel

项目示例-3.降级熔断-2.Sentinel关联知识：分布式微服务-3.降级熔断-3.Sentinel内容提要：注册、持久化授权注册到sentinel建Module：微服务起名为sentinel-provider
keipace·2024-03-13 07:58

项目示例 - 3.服务调用 - 1.Openfeign

项目示例-3.服务调用-1.Openfeign关联知识：分布式微服务-3.服务调用-2.Openfeign内容提要：服务调用实现：原生方式、openfeign服务调用实现原生方式调用服务注册中心使用nacos
keipace·2024-03-13 07:57

CatBoost高级教程：分布式训练与大规模数据处理

导言CatBoost是一种高效的梯度提升算法，可以处理大规模数据集并支持分布式训练。在实际应用中，处理大规模数据集时，分布式训练可以大大加快模型训练的速度，并提高训练效果。
Echo_Wish·2024-03-13 05:25

MYSQL的读写扩展

1.分布式数据库有很多种：采用分库分表方式将数据路由拆分到多个数据库上；以greenplum未代表的mpp数据库架构；以tidb为代表的newSQl数据库架构。
hailang86·2024-03-12 23:16

基于HBase和Spark构建企业级数据处理平台

专注于大数据分布式计算和数据库领域，具有6年分布式开发经验，先后研发Spark及自主研发内存计算，目前为广大公有云用户提供专业的云HBase数据
weixin_34071713·2024-03-12 22:44

HDFS

（一）HDFS简介及其基本概念  HDFS（HadoopDistributedFileSystem）是hadoop生态系统的一个重要组成部分，是hadoop中的的存储组件，在整个Hadoop中的地位非同一般
weixin_51987187·2024-03-12 14:32

为什么要使用ElasticSearch？

ElasticSearch是一个开源的分布式搜索和分析引擎，主要适用于以下场景：1.搜索引擎：用于快速检索文档，商品，新闻等。2.日志分析：通过分析日志数据，帮助企业了解其业务的性能情况。
z.jiaminf·2024-03-12 06:52

大数据开发（Hadoop面试真题-卷二）

大数据开发（Hadoop面试真题）1、在大规模数据处理过程中使用编写MapReduce程序存在什么缺点？如何解决这些问题？
Key-Key·2024-03-12 02:15

游戏盾如何应对微商城网站DDoS攻击

其中，分布式拒绝服务（DDoS）攻击是一种常见的网络攻击方式，它能够通过大量的无效请求拥塞目标网站的服务器资源，导致网站无法正常服务，给商家带来巨大的经济损失和声誉损害。
qq177803623·2024-03-11 13:12

HTTP代理ip如何助旅游大数据领域？怎么去建立安全代理隧道连接？

分布式数据采集：通过在不同地理位置的代理服务器上设置HTTP代理IP，可以实现分布式数据采集，收集来自不同地区的旅游数据，为旅游行业提供更全面的市场分析。访问
luludexingfu·2024-03-11 13:11
上一页 11 12 13 14 15 16 17 18 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他