hadoop分布式

RabbitMQ面试题

RabbitMQ面试题RabbitMQ如何保证消息不丢失出现消息丢失可能会出现在以下场景：异步发送（验证码，短信，邮件）MySQL和Redis，ES之间的数据同步分布式事务削峰消谷总结为：消息未达到交换机
重生之我是cxk·2024-02-19 14:07

什么是RabbitMQ？

一、引言RabbitMQ是一个开源的消息代理软件，用于在分布式系统中传递消息。
张万森的救赎·2024-02-19 14:35

Redis实现分布式可重入锁——CAS操作

一、前言Redis实现的分布式锁被大家广泛用于解决在分布式环境下的并发问题——使用setNXEX，当某一个key存在时，返回失败，当key不存在时，设置新值和过期时间，返回成功。
qq_26678049·2024-02-19 14:55

Redis分布式可重入锁实现方案

在分布式环境下，要保证多个节点的线程对代码块的同步访问，就必须要用到分布式锁方案。
程序员小潘·2024-02-19 14:49

Quick introduction to Apache Spark

Spark使用Hadoop的客户端库来
Liam_ml·2024-02-19 13:29

Apache Flink连载（二十六）：TaskSlot任务槽-（1）-TaskSlot&SlotSharingGroup

豹哥教你学编程个人主页-哔哩哔哩视频提交到集群中的Flink程序最终会转换成一个个的Subtask，Subtask是Flink任务调度的基本单元，这些task最终被发送到不同的TaskManager节点上分布式执行
IT贫道·2024-02-19 13:41

Hadoop Shuffle

Whentherearemultiplereducers,themaptaskspartitiontheiroutput,eachcreatingonepartitionforeachreducetask.Therecanbemanykeys(andtheirassociatedvalues)ineachpartition,buttherecordsforeverykeyareallinasing
SharlotteZZZ·2024-02-19 13:22

Flink系列-1、流式计算简介

大数据系列文章目录官方网址：https://flink.apache.org/学习资料：https://flink-learning.org.cn/目录数据的时效性流式计算和批量计算流式计算流程和特性分布式计算引擎什么是
技术武器库·2024-02-19 13:10

Flink 细粒度滑动窗口性能优化

大数据技术AIFlink/Spark/Hadoop/数仓，数据分析、面试，源码解读等干货学习资料118篇原创内容公众号1、概述1.1细粒度滑动的影响当使用细粒度的滑动窗口（窗口长度远远大于滑动步长）时，
hyunbar·2024-02-19 13:39

【大数据面试题】006介绍一下Parquet存储格式的优势

同时一般查询使用时不会使用所有列，而是只用到几列，所以查询速度会更快压缩比例高因为是列式存储，所以可以对同一类型的一段做压缩，压缩比例高支持的平台和框架多在Hadoop,Spark,Presto,Python
Jiweilai1·2024-02-19 13:34

[Flink02] Flink架构和原理

1、运行模式Flink有多种运行模式，可以运行在一台机器上，称为本地（单机）模式；也可以使用YARN作为底层资源调度系统以分布式的方式在集群中运行，称为FlinkOnYARN模式；还可以使用Flink自带的资源调度系统
YoungerChina·2024-02-19 13:32

云计算基础-存储虚拟化（深信服aSAN分布式存储）

什么是存储虚拟化分布式存储是利用虚拟化技术“池化”集群存储卷内通用X86服务器中的本地硬盘，实现服务器存储资源的统一整合、管理及调度，最终向上层提供NFS、ISCSI存储接口，供虚拟机根据自身的存储需求自由分配使用资源池中的存储空间
比特微联·2024-02-19 13:19

Sqoop 入门基础

简介Sqoop（SQLtoHadoop）是一个开源工具，用于在关系型数据库和Hadoop之间传输数据。
香菜的开发日记·2024-02-19 13:17

300分钟吃透分布式缓存-02讲：如何根据业务来选择缓存模式和组件？

缓存读写模式如下图，业务系统读写缓存有3种模式：&CacheAside（旁路缓存）&Read/WriteThrough（读写穿透）&WriteBehindCaching（异步缓存写入）CacheAside如上图所示，CacheAside模式中，业务应用方对于写，是更新DB后，直接将key从cache中删除，然后由DB驱动缓存数据的更新；而对于读，是先读cache，如果cache没有，则读DB，同时
机智阳·2024-02-19 13:12

31、商城系统（十三）：缓存：springboot集成redis，使用redisson用作分布式锁，缓存一致性解决方案，集成SpringCache，并自定义过期时间、序列化

目录一、集成redis（有问题版本）1.引入依赖2.配置redis的ip端口3.修改之前的查询接口
鹏哥哥啊Aaaa·2024-02-19 13:10

hadoop硬件配置 高可用 datanode namenode硬件配置

每个分布式文件系统分块在NameNode的内存中大小约为250个字节，此外还要加上文件和目录所需的250字节空间。
xcagy·2024-02-19 13:07

spring cloud和dubbo比较

Dubbo其实是一个分布式服务框架，致力于提供高性能和透明化的RPC远程服务调用方案，以及SOA服务治理方案。
爱宝宝n·2024-02-19 12:17

渲染效果图为什么都选择使用云渲染，优势有哪些？

一、云渲染与本地渲染的比较1.渲染速度云渲染可以利用分布式渲染技术，同时调用多台高性能服务器进行渲染，大大缩短了渲染时间，比本地渲染节省了几十
小白的建模·2024-02-19 12:09

ACK One：构建混合云同城容灾系统

作者：蔡靖对于当前业务运行在IDC内的Kubernetes集群中，希望通过云计算为云下业务提供同城灾备的高可用冗余能力，可利用阿里云分布式云容器平台ACKOne[1]来提供统一得流量、应用和集群管理，实现业务流量的多集群路由和灾难情况下的流量的自动平滑容灾
·2024-02-19 12:35

精彩回顾 I DatenLord Hackathon 2023圆满结束！

达坦科技基于其跨云分布式文件系统DatenLord项目，结合AI大模型时代背景，搭建了擂台。我们邀请参赛者为DatenLord的极端场景设计并实现缓存p2p传输和同步模块。
·2024-02-19 12:34

2.16日学习打卡----初学Dubbo(一)

2.16日学习打卡目录:2.16日学习打卡一.什么是分布式？二.什么是RPC?
中北萌新程序员·2024-02-19 12:54

ACK One：构建混合云同城容灾系统

作者：蔡靖对于当前业务运行在IDC内的Kubernetes集群中，希望通过云计算为云下业务提供同城灾备的高可用冗余能力，可利用阿里云分布式云容器平台ACKOne[1]来提供统一得流量、应用和集群管理，实现业务流量的多集群路由和灾难情况下的流量的自动平滑容灾
·2024-02-19 12:31

RabbitMQ：分布式系统中的高效消息队列

摘要RabbitMQ是一款开源、高度可靠、灵活性强的消息队列系统，被广泛应用于分布式系统中。
张万森的救赎·2024-02-19 12:48

【Redis篇】详解布隆过滤器（原理 | 操作 | 代码）

文章目录简述布隆过滤器原理存入过程查询过程️‍优缺点⭐优点⭐缺点代码实现（本地）代码实现（分布式）简述布隆过滤器布隆过滤器的由来可以追溯到1970年代，由一个名叫BurtonHowardBloom的美国计算机科学家提出
在下小吉.·2024-02-19 12:29

现阶段适用于 单一架构 还是 分布式架构 ？

分布式架构：优势：可以提高应用程序的可用性、可扩展性和弹性；各个服务之间通过定义的接口进行通信，彼此独立，互不干扰。劣势：开发和部署比较复杂，需要考虑分布式系统的一些问题，如分布式
小Mie不吃饭·2024-02-19 12:41

基于python的分布式爬虫框架_基于scrapy-redis的通用分布式爬虫框架

spiderman基于scrapy-redis的通用分布式爬虫框架目录demo采集效果爬虫元数据cluster模式standalone模式kafka实时采集监控功能自动建表自动生成爬虫代码，只需编写少量代码即可完成分布式爬虫自动存储元数据
summer_ccs·2024-02-19 11:39

【大数据】HADOOP-YARN-ContainerExecutor容器启动器详解

在NodeManager中，有三种运行Container的方式，它们分别是:DefaultContainerExecutorLinuxContainerExecutorDockerContainerExecutor从它们的名字中，我们就能看得出来，默认情况下，一定使用的是DefaultContainerExecutor。而一般情况下，DefaultContainerExecutor也确实能够满足我
笑起来贼好看·2024-02-19 11:38

学习篇-Hadoop-YARN-环境搭建

文章目录一、Hadoop-YARN-环境搭建一、Hadoop-YARN-环境搭建官网参考：https://hadoop.apache.org/docs/stable/hadoop-project-dist
东东爱编码·2024-02-19 11:08

【大数据】HADOOP-Yarn集群界面UI指标项详解（建议收藏哦）

目录首页（Cluster）节点信息SchedulerMetrics：集群调度信息节点信息详解（Nodes）应用列表信息（applications）队列详情页（Scheduler）指标详细说明（非常重要）首页（Cluster）集群监控信息指标详解AppsSubmitted：已提交的应用AppsCompleted：已完成的应用AppsRunning：正在运行的应用ContainersRunning：正
笑起来贼好看·2024-02-19 11:08

深入解析鸿蒙系统的页面路由（Router）机制

鸿蒙系统以其独特的分布式架构和跨设备的统一体验而备受瞩目。在这个系统中，页面路由（Router）机制是连接应用各页面的关键组成部分。
OpenHarmony_小贾·2024-02-19 11:32

Hadoop-Yarn-NodeManager都做了什么

一、源码下载下面是hadoop官方源码下载地址，我下载的是hadoop-3.2.4，那就一起来看下吧Indexof/dist/hadoop/core二、上下文在我的博客中已经简要的分析了NodeManager
隔着天花板看星星·2024-02-19 11:00

【2019-04-28】Hadoop分布式文件系统

Hadoop自带HDFS(hadoopdistributefilesystem)。HDFS默认数据块128M。
BigBigFlower·2024-02-19 11:56

Hadoop搭建之 start-yarn.sh 报错

在搭建伪分布式的Hadoop集群环境时，在配置基础环境了并成功开启了HDFS组件后，jps查看已运行的名称节点和数据节点进程，[hadoop@masterhadoop]$jps8994NameNode10396Jps9087DataNode9279SecondaryNameNode
万里长江雪·2024-02-19 11:58

hadoop-2.7.4-nodemanager无法启动问题解决方案

近期新配了hadoop-274版本的集群，发现有一个小问题，DataNode无法顺利启动。
半肉哥·2024-02-19 11:27

hadoop-yarn资源分配介绍-以及推荐常用优化参数

如果有什么不正确的欢迎大家一起交流学习~Yarn前言作为Hadoop2.x的一部分，YARN采用MapReduce中的资源管理功能并对其进行打包，以便新引擎可以使用它们。
Winhole·2024-02-19 11:26

Day 25 25.2 Scrapy框架之分布式爬虫(scrapy_redis)

分布式爬虫(scrapy_redis)分布式爬虫是指将一个大型的爬虫任务分解成多个子任务，由多个爬虫进程或者多台机器同时执行的一种爬虫方式。
Chimengmeng·2024-02-19 11:22

微信发送一条消息经历哪些过程。企业微信以及钉钉的IM架构对比

目前已经写的IM的文章分布式websocket即时通信(IM)系统构建指南【第七期】分布
呆呆呆呆梦·2024-02-19 11:49

Hadoop-Yarn-NodeManager如何计算Linux系统上的资源信息

NodeResourceMonitorImpl）时只是提了下SysInfoLinux，下面我们展开讲下SysInfoLinux是用于计算Linux系统上的资源信息的插件二、SysInfoLinux源码packageorg.apache.hadoop.util
隔着天花板看星星·2024-02-19 11:48

基于scrapy框架的单机爬虫与分布式爬虫

我们知道，对于scrapy框架来说，不仅可以单机构建复杂的爬虫项目，还可以通过简单的修改，将单机版爬虫改为分布式的，大大提高爬取效率。
Jesse_Kyrie·2024-02-19 11:47

node命令yarn --version指向了java

问题描述本地安装了java、hadoop和nodejs，并配置了环境变量，但是hadoop的bin目录下存在yarn命令，所以使用nodejs的yarn命令启动项目会出现找不到类，此时键入yarn-version
码学弟·2024-02-19 11:43

【区块链技术开发语言】在ubuntu18 系统环境下命令操作配置以太坊go-ethereum环境

一、概述项目简介：以太坊是一个基于区块链技术的分布式平台，用于构建去中心化应用程序（DApps）。go-ethereum是以太坊官方开发团队维护的Go语言实现的以太坊客户端，也被称为Geth。
源代码杀手·2024-02-19 11:41

读TiDB源码聊设计：浅析HTAP的SQL优化器

1.引子如果让你做一个分布式数据库的优化器，面对以下的SQL，你会想到什么好的方法去执行他们呢？
·2024-02-19 11:23

阿里云计算平台大数据基础工程技术团队直聘！！！

通过软件工程，数据智能化的方法论，围绕数据系统化建设运维智能工具链，打造飞天大数据&AI运维管控平台ABM，解决超大规模分布式集群运维管理问题，提升产品的稳定性
·2024-02-19 11:20

企业级大数据安全架构（一）平台安全隐患

1缺乏统一的访问控制机制大数据平台由Hadoop生态体系众多组件组成，而每个组件都会提供相应的WebUI界面和RESTful接口，例如Nam
·2024-02-19 11:48

抗D盾是游戏盾吗

游戏盾有哪些功能呢游戏盾包含抗D节点，通过分布式的抗D节点，游
·2024-02-19 11:42

Go RPC 远程过程调用

在分布式计算，远程过程调用是一个计算机通信协议。该协议允许运行于一台计算机的程序调用另一个地址空间的子程序，而程序员就像调用本地程序一样，无需额外地为这个交互作用编程。
CDFMLR·2024-02-19 10:26

分布式文件系统 SpringBoot+FastDFS+Vue.js【四】

分布式文件系统SpringBoot+FastDFS+Vue.js【四】八、文件的下载和删除功能8.1.FastDFSClient.java8.2.FileServerController.java8.3
良辰美景好时光·2024-02-19 10:21

分布式文件系统 SpringBoot+FastDFS+Vue.js【二】

分布式文件系统SpringBoot+FastDFS+Vue.js【二】六、实现上传功能并展示数据6.1.创建数据库6.2.创建springboot项目fastDFS-java6.3.引入依赖6.3.fastdfs-client
良辰美景好时光·2024-02-19 10:20

分布式文件系统 SpringBoot+FastDFS+Vue.js【三】

分布式文件系统SpringBoot+FastDFS+Vue.js【三】七、创建后台--分角色管理7.1.创建后台数据库表7.2.创建实体类7.2.1.Admin7.2.2.Menu7.2.3.MenuBean7.2.4
良辰美景好时光·2024-02-19 10:20

闲聊从防火墙，到VPC再到服务鉴权的技术发展过程

因为最近我们的分布式项目上，一直在讨论设计，服务之间如何鉴权？鉴权发生在什么样的场景里？同一个租户内的服务之间需不需要鉴权？不通租户之间的服务访问该如何鉴权？
G探险者·2024-02-19 10:48
上一页 18 19 20 21 22 23 24 25 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他