架构设计消息推送分布式第2页

大数据之flink与hive

其实吧我不太想写flink，因为线上经验确实不多，这也是我需要补的地方，没有条件创造条件，先来一篇吧flink：高性能低延迟流批一体的分布式计算框架基于事件时间对实时数据精准处理快速响应支持批处理，高效离线分析和数据挖掘数据仓库的引擎丰富数据源

星辰_mya·2024-09-14 21:17

一切皆是映射：AI的去中心化：区块链技术的融合

AI的去中心化：区块链技术的融合作者：禅与计算机程序设计艺术/ZenandtheArtofComputerProgramming关键词：AI，区块链，去中心化，智能合约，共识机制，数据安全，隐私保护，分布式账本技术

AI大模型应用之禅·2024-09-14 21:45

docker-compose部署minio分布式集群

1、节点情况建议：minio节点数最好4节点以上，nginx独立部署在其他服务器。主机IP操作系统部署情况minio1192.168.16.34centos7miniominio2192.168.16.35centos7miniominio3192.168.16.36centos7miniominio4192.168.16.40centos7minio、nginx2、安装docker、docker

伏案惊涛·2024-09-14 19:32

248、Python开发秘籍：技术选型与架构设计技巧解析

Python开发：掌握如何处理技术债务和遗留系统作为软件开发者，我们经常会遇到两种问题：技术债务和遗留系统。技术债务是指在软件开发过程中，为了尽快完成项目而采用的短期解决方案，这会导致代码质量下降，维护成本增加。而遗留系统则是指那些已经存在很长时间，但不再适应现代技术需求的系统。在这篇文章中，我们将介绍如何使用Python来处理这两种问题。理解技术债务技术债务可以理解为一种“借债”。想象一下，你正

多多的编程笔记·2024-09-14 18:55

项目内部调用的远程接口开发

编写一个项目内部调用的远程接口通常是为了在分布式系统或者微服务架构中，实现各个服务之间的通信和数据交换。这样的远程接口专门用于服务之间的调用，而不是直接暴露给外部用户或前端。

cyt涛·2024-09-14 18:55

多级缓存架构设计

缓存是提升性能最直接的方法多级缓存分为：客户端，应用层，业务层，数据层1、客户端缓存：主要对浏览器的静态资源进行缓存通过在响应头设置Expires，cache-control，将文件保存在本地，减少多次请求静态资源带来的带宽损耗（解决并发手段）2、应用层缓存：浏览器只负责读取Expires，Expires在CDN内容分发网络和Nginx进行设置CDN内容分发网络是静态资源分发的主要技术手段，有效解

白鸽呀·2024-09-14 18:24

实现多级缓存的六种策略方法

保证多级缓存数据一致性是一个复杂的任务，尤其是在分布式和高并发环境中。以下是一些常见的方法和策略，可以帮助实现多级缓存的数据一致性1.缓存失效策略1.1主动失效在更新数据库时，主动使相关缓存失效。

Kixuan214·2024-09-14 17:50

掌握检索技术：构建高效知识检索系统的架构与算法23

比如需要考虑的基本点：分布式架构：水平扩展：采用分布式架构，将检索任务分布到多个节点上，实现水平扩展。这可以通过将索引数据分片存储在不同的节点上，并使用分布式文件系统或对象存储来存储大规模的索引数据。

是小旭啊·2024-09-14 13:50

掌握检索技术：构建高效知识检索系统的架构与算法21

比如需要考虑的基本点：分布式架构：水平扩展：采用分布式架构，将检索任务分布到多个节点上，实现水平扩展。这可以通过将索引数据分片存储在不同的节点上，并使用分布式文件系统或对象存储来存储大规模的索引数据。

是小旭啊·2024-09-14 12:18

Hadoop windows intelij 跑 MR WordCount

一、软件环境我使用的软件版本如下:IntellijIdea2017.1Maven3.3.9Hadoop分布式环境二、创建maven工程打开Idea,file->new->Project,左侧面板选择maven

piziyang12138·2024-09-14 12:33

一种E2E的架构设计流程

本文不是介绍架构设计方法，只是给出一种E2E的架构设计流程的实现，具体的架构设计方法需要参考相关的资料。

weixin_33796205·2024-09-14 12:45

导购返利系统的分布式事务管理

导购返利系统的分布式事务管理大家好，我是微赚淘客返利系统3.0的小编，是个冬天不穿秋裤，天冷也要风度的程序猿！今天我们来探讨导购返利系统中的分布式事务管理。

wx_tangjinjinwx·2024-09-14 10:34

微服务分布式架构中，如何实现日志链路跟踪？

MDC（MappedDiagnosticContext，映射调试上下文）是log4j和logback提供的一种方便在多线程条件下记录日志的功能。MDC可以看成是一个与当前线程绑定的Map，可以往其中添加键值对。MDC中包含的内容可以被同一线程中执行的代码所访问。当前线程的子线程会继承其父线程中的MDC的内容。当需要记录日志时，只需要从MDC中获取所需的信息即可。MDC的内容则由程序在适当的时候保存

2401_84048542·2024-09-14 09:26

Arch - 演进中的架构

文章目录Pre原始分布式时代1.背景与起源2.分布式系统的初步探索3.分布式计算环境（DCE）4.技术挑战与困境5.原始分布式时代的失败与教训6.未来展望单体时代优势缺陷单体架构与微服务架构的关系总结SOA

小小工匠·2024-09-14 08:26

Dubbo 与 Zookeeper 在项目中的应用：原理与实现详解

Dubbo作为阿里巴巴开源的高性能RPC框架，在分布式服务治理方面具有显著的优势。Zookeeper作为一款分布式协调服务，能够高效地管理和协调服务节点信息。

CopyLower·2024-09-14 07:18

redis,codis,云redis

redis的分布式解决方式--codis（转）https://www.cnblogs.com/softidea/p/5365640.htmlhttps://help.aliyun.com/document_detail

shuff1e·2024-09-14 07:24

DMDPC安装部署

1.DMDPC架构DMDPC架构由计划生成节点SP、数据存储节点BP和元数据服务器节点MP三部分组成：1、SP对外提供分布式数据库服务，用户可以登录到任意一个SP节点，获得完整的数据库服务；2、BP负责存储数据

丷月亮是指路牌·2024-09-14 06:39

DM8 分布计算集群（DMDPC）Docker 命令行部署指南

简介DMDPC是一款同时支持在线分析处理(OLAP)和在线事务处理(OLTP)的新型分布式数据库系统。

69岁法外狂徒·2024-09-14 06:36

区块链如何大规模落地？

区块链作为一个去中心化技术，自然也受到类似于分布式系统的CAP定律的制约。CAP

西门锤靴·2024-09-14 05:18

Memcached stats sizes 命令

Memcachedstatssizes命令Memcached是一种高性能的分布式内存对象缓存系统，通常用于缓存数据库调用、API响应或页面渲染结果，以减少加载时间并提高网站性能。

lly202406·2024-09-14 03:18

【HDFS】角色的架构设计

HDFS角色的架构设计前置知识：Windows与Linux文件系统的差异HDFS中的角色及功能HDFS的架构NameNodeDataNodeNameNode元数据的持久化说明：/表示两个词是同一语义，方便你理解的前置知识

流辉fglow·2024-09-14 03:47

Flutter电商项目实践-架构设计

1、框架设计图框架设计总体说明整个框架划分成业务层、组件层、基础层与外部层。其中外部层对应着第三方或者自己封装的提供单独功能的依赖库，基础层主要对应着非UI的基础性功能，组件层对应着UI功能的基础性功能，可以向业务层提供完整可以使用的UI组件功能。业务层则是应用的核心，除了外部层之外，组件层、基础层以库的形式提供给业务层使用，这样的好处是提高了这两层的复用性。框架设计原则层级职责划分需要单一且清晰

Zhouztashin·2024-09-14 02:44

linux查看git log目录,教你玩转Git-查看提交历史

导读Git是一个开源的分布式版本控制系统，用于敏捷高效地处理任何或小或大的项目。Git是LinusTorvalds为了帮助管理Linux内核开发而开发的一个开放源码的版本控制软件。

郁清叔叔·2024-09-14 02:41

学习之性能的理论知识一

系统资源的消耗情况：CPU，内存、磁盘2、什么是性能测试性能测试概念：使用自动化工具，模拟不同的场景，对软件各项性能指标进行测试和评估的过程测试的是：1、后台处理程序的性能（代码性能）2、应用服务、数据库、架构设计等是否存在瓶颈

蓝瑟柳絮·2024-09-14 02:10

Hystrix&Feign

Hystrix1，概念Hystrix是一个用于处理分布式系统的延迟和容错的开源库，可以保证一个服务出现故障时，不会导致整个系统出现雪崩效应，以提高分布式系统弹性；作为“断路器”，在一个服务出现故障时，可以通过短路器监控

快乐肥翟z·2024-09-14 01:03

【大型网站技术实践】初级篇：借助LVS+Keepalived实现负载均衡

爱代码也爱生活·2024-09-14 00:57

高并发下的分布式缓存 | Write-Through缓存模式

缓存系列文章链接如下：高并发下的分布式缓存|缓存系统稳定性设计高并发下的分布式缓存|设计和实现LRU缓存高并发下的分布式缓存|设计和实现LFU缓存高并发下的分布式缓存|Cache-Aside缓存模式高并发下的分布式缓存

非科班大厂码农（同名公众号）·2024-09-13 19:59

【架构篇】软件架构的指南针之架构原则

以下是一些关键的软件架构设计原则：模块化（Modularity）：将系统分解为功能独立的模块，每个模块负责系统中的一个特定的功能区域。这种分解有助于降低系统的复杂性，便于理解和维护。

林木森^~^·2024-09-13 15:03

Paxos 算法详解（一）

前言提到分布式算法，就不得不提Paxos算法，在过去几十年里，它基本上是分布式共识的代名词，因为当前最常用的一批共识算法都是基于它改进的。

林木森^~^·2024-09-13 15:03

TensorFlow的基本概念以及使用场景

3.分布式计算：Ten

张柏慈·2024-09-13 15:03

StarRocks分布式元数据源码解析

1.支持元数据表https://github.com/StarRocks/starrocks/pull/44276/files核心类：LogicalIcebergMetadataTable，Iceberg元数据表，将元数据的各个字段做成表的列，后期可以通过sql操作从元数据获取字段，这个表的组成字段是DataFile相关的字段public static LogicalIcebergMetadata

不甚了然·2024-09-13 15:02

【系统架构设计师】解释器模式

解释器模式（InterpreterPattern）是一种行为型设计模式，它定义了文法的表示，并定义了一个解释器，该解释器使用该表示来解释语言中的句子。在解释器模式中，通常包括一个抽象语法树（AbstractSyntaxTree,AST），用于表示输入的语言文法，以及一系列的解释器类，每个类对应文法中的一个符号或符号的组合。解释器模式主要适用于那些需要将一个语言中的句子解释成程序可以理解的另一种形式

Evaporator Core·2024-09-13 12:16

DevOps -分布式追踪与监控

DevOps中的分布式追踪与监控在当今的DevOps环境中，随着微服务架构和云原生应用的广泛采用，系统复杂性显著增加，传统的监控方式已经无法满足现代分布式系统的需求。

Flying_Fish_Xuan·2024-09-13 12:46

软考架构-架构风格

架构设计的核心问题是能否达到架构级的软件复用架构风格定义了用于描述系统的术语表和一组指导构架系统的规则二、风格分类架构风格考点说明数据流-批处理传统编译器，每个阶段

zyhJhon·2024-09-13 12:45

分布式离线计算—Spark—基础介绍

原文作者：饥渴的小苹果原文地址：【Spark】Spark基础教程目录Spark特点Spark相对于Hadoop的优势Spark生态系统Spark基本概念Spark结构设计Spark各种概念之间的关系Executor的优点Spark运行基本流程Spark运行架构的特点Spark的部署模式Spark三种部署方式Hadoop和Spark的统一部署摘要：Spark是基于内存计算的大数据并行计算框架Spar

测试开发abbey·2024-09-13 11:11

大数据领域的深度分析——AI是在帮助开发者还是取代他们？

1.大数据领域的AI工具现状在大数据领域，AI工具已经取得了显著进展，以下是几款主要的AI工具及其功能和实际应用：ApacheSpark+MLlib：ApacheSpark是一个开源的分布式计算系统，广泛用于

阳爱铭·2024-09-13 09:32

【深入剖析】Kylin架构全景及其组件详解

标题：【深入剖析】Kylin架构全景及其组件详解ApacheKylin是一个开源的分布式分析引擎，提供大数据集上的即时分析能力。它通过预计算技术，将数据以多维立方体的形式存储，从而加快查询速度。

2401_85763639·2024-09-13 08:50

Java面试题真题·技术面试题部分总结

系列文章目录Java面试题真题·技术面试题部分总结Java面试题真题·融资管理系统项目介绍文章目录系列文章目录前言技术问题Java的跨平台原理String常用方法分布式的优点对cookie有什么了解，Cookie

攸攸太上·2024-09-13 06:43

发现域名的故事：WHOIS数据库查询指南

WHOIS系统WHOIS系统是一个全球分布式数据库，包含与互联网资源（如域名或IP地址）相关的实体信息。它被称为"互联网的电话簿"。1.1WHOIS数据WHOIS系统中可用的数据。

WhoisXMLAPI·2024-09-13 06:08

探索高效开发之道：N-Tier架构开源项目深度剖析

N-Tier-ArchitectureThisisan-layerarchitecturebasedonCommonwebapplicationarchitectures.项目地址:https://gitcode.com/gh_mirrors/nt/N-Tier-Architecture在追求卓越的软件开发旅程中，一个清晰、高效的架构设计是基石

钟洁祺·2024-09-13 05:29

zabbix的组件

;2)databasestorage:专用于存储所有配置信息，以及由zabbix.收集的数据;e3）webinterface:zabbix的GUI接口;e4)proxy:可选组件，常用于监控节点很多的分布式环境中

BK_小小关·2024-09-13 04:18

Redis与MySQL双写一致性如何保证？

一致性就是数据保持一致，在分布式系统中，可以理解为多个节点中数据的值是一致的。

陈二狗想吃肉·2024-09-13 02:22

Docker部署单点es

Elasticsearch是一个分布式、高扩展、高实时的搜索与数据分析引擎。它能很方便的使大量数据具有搜索、分析和探索的能力。

Javaismymorning·2024-09-13 02:07

即时通讯技术文集（第16期）：IM架构设计技术精选(第一部分) [共17篇]

[-1-]浅谈IM系统的架构设计[链接]http://www.52im.net/thread-307-1-1.html[摘要]下面把我近年来从技术上我对IM系统（即时消息的传输，不包括语音，视频，文件的传输

jackjiang20212·2024-09-13 00:12

软考-系统架构设计师

难度系统架构设计师考试是难度比较高的考试，涉及的计算机知识点广，除了理论知识，同时要求考试具备实践经验。如果基础比较差的考生也可以选择难度低一点的中级资格软件设计师先考。

金融行业程序员·2024-09-12 23:21

使用java9的uuid生成方式，让uuid生成速度提升一个档

简介UUID的目的，是让分布式系统中的所有元素，都能有唯一的辨识信息，而不需要通过中央控制端来做辨识信息的指定。

编程小世界·2024-09-12 21:54

本地内存和分布式缓存（面试）

本地缓存和分布式缓存本地缓存：缓存组件和应用在同一进程中。但各应用都需要维护单独的缓存，无法共享缓存。分布式缓存：缓存组件和应用分离，不在同一进程，多个应用可直接共享缓存。

rylzdz·2024-09-12 19:25

分布式中间件-几个常用的消息中间件

文章目录常见消息中间件1.RabbitMQ2.ApacheKafka3.RedisPub/Sub4.ActiveMQ5.AmazonSimpleNotificationService(SNS)和SimpleQueueService(SQS)6.RocketMQ差异总结消息协议1.AMQP(AdvancedMessageQueuingProtocol)2.STOMP(SimpleTextOrient

问道飞鱼·2024-09-12 19:24

Spark面试题

Spark的主要特点1.2描述Spark运行时架构和组件主要的Spark架构组件：1.3讲述Spark中的弹性分布式数据集（RDD）和数据帧（DataFrame）弹性分布式数据集（RDD）主要特征：创建和转换

golove666·2024-09-12 18:19

LLM大模型学习：LLM大模型推理加速

目录一、模型优化技术二、模型压缩技术三、硬件加速四、GPU加速五、模型并行化和分布式计算技术一、模型优化学习常见的模型优化技术，如模型剪枝、量化、分片、蒸馏等，掌握相应的实现方法。1.1剪枝

七七Seven～·2024-09-12 17:45

推荐频道

架构设计消息推送分布式