Hadoop分布式大数据

020 现代数据中心的路由与交换架构

引言现代数据中心的设计必须兼顾高性能、高可用性和灵活性，以满足云计算、大数据、人工智能等应用的需求。在这样的背景下，数据中心的路由与交换架构设计显得尤为重要。
Network_Engineer·2024-09-10 16:03

Java中的分布式计算：如何在多节点环境中实现高效计算

Java中的分布式计算：如何在多节点环境中实现高效计算大家好，我是微赚淘客系统3.0的小编，是个冬天不穿秋裤，天冷也要风度的程序猿！
省赚客app开发者·2024-09-10 16:28

分布式计算任务调度算法总结

一、影响分布式系统性能的因素主要有这些因素影响着分布式系统的性能：网络延迟、数据通信效能、计算节点处理能力、任务的分割、无法预算处理时间、任务的颠簸等等。
一条鱼2017·2024-09-10 15:55

node中间件是什么意思？

2020-09-1116:11:17分类：常见问题/Node.js答疑阅读(1757)评论(0)中间件是一种独立的系统软件或服务程序，分布式应用软件借助这种软件在不同的技术之间共享资源。
zhangyubababa·2024-09-10 14:49

ray.tune文档总结

ray.tune文档总结tune.runconfig指定超参数的搜索方法ConcurrencyLimiter搜索算法scheduler试验调度程序分析资源（并行、GPU、分布式）原文档请看这里https
AI大司马·2024-09-10 14:48

PySpark

通过这个接口，你可以利用Spark强大的分布式计算能力，同时享受Python的易用性和灵活性。
静听山水·2024-09-10 13:44

ASP.NET Core 入门教学二十一 分布式追踪技术

分布式追踪技术在微服务架构中非常重要，它可以帮助开发者理解和监控应用程序在分布式环境中的行为。
充值内卷·2024-09-10 13:14

中间件的学习理解总结

目录一、定义与作用二、主要类型数据库中间件远程过程调用中间件面向消息的中间件事务处理中间件三、特点与优势独立性高效性可扩展性可靠性四、应用场景企业应用集成分布式系统电子商务移动应用开发五、数据库中间件功能细节
DCDDDDcccc·2024-09-10 13:14

每个分布式营销团队都应该使用的5种分析工具

没有数据分析的营销就像没有计划的训练——当然，你可能会取得一些进展，但是你很可能没有将工作时间和努力投资在最有效的方式上。它是没有方向的，容易变成毫无目的的磨炼，通常会产生不可预测或次优的结果。但你已经了解这些了，所以你用GoogleAnalytics来追踪你网站的性能指标。你还可能会定期查看你的邮件和社交媒体营销平台内置的分析工具，以监控你的内容和广告表现。但这足够吗？特别是当你希望你的营销团队
AI进修生·2024-09-10 12:10

深入解析HDFS：定义、架构、原理、应用场景及常用命令

引言Hadoop分布式文件系统（HDFS，HadoopDistributedFileSystem）是Hadoop框架的核心组件之一，它提供了高可靠性、高可用性和高吞吐量的大规模数据存储和管理能力。
CloudJourney·2024-09-10 12:39

分布式事务

在微服务结构中，分布式事务是经常要考虑的问题。分布式事务解决方案有多种，有各自的优劣势和适用场景。主流的分布式事务框架库是阿里的seata，将根据seata库说明这些分布式事务的特点。
天黑了g·2024-09-10 11:59

事件顺序保护

背景在分布式结构中，异步通信时，有时需要保证时间产生和消费的顺序。例如，商品购物中，修改订单，删除订单两个命令操作，如果异步事件产生乱序，删除订单事件先消费处理，那么在修改订单时肯定会出错。
天黑了g·2024-09-10 11:59

Hadoop的搭建流程

文章目录一、配置IP二、配置主机名三、配置主机映射四、关闭防火墙五、配置免密六、安装jdk1、第一步：2、第二步：3、第三步：4、第四步：5、第五步：七、安装hadoop1、上传2、解压3、重命名4、开始配置环境变量
lzhlizihang·2024-09-10 07:06

hive搭建 -----内嵌模式和本地模式

文章目录一、内嵌模式（使用较少）1、上传、解压、重命名2、配置环境变量3、配置conf下的hive-env.sh4、修改conf下的hive-site.xml5、启动hadoop集群6、给hdfs创建文件夹
lzhlizihang·2024-09-10 07:06

Hadoop之mapreduce -- WrodCount案例以及各种概念

文章目录一、MapReduce的优缺点二、MapReduce案例--WordCount1、导包2、Mapper方法3、Partitioner方法（自定义分区器）4、reducer方法5、driver（main方法）6、Writable（手机流量统计案例的实体类）三、关于片和块1、什么是片，什么是块？2、mapreduce启动多少个MapTask任务？四、MapReduce的原理五、Shuffle过
lzhlizihang·2024-09-10 07:06

详解 JuiceFS sync 新功能，选择性同步增强与多场景性能优化

此外，该工具还提供了增量同步、模式匹配（类似Rsync）、分布式同步等高级功能。
Juicedata·2024-09-10 05:51

性能、成本与 POSIX 兼容性比较： JuiceFS vs EFS vs FSx for Lustre

JuiceFS是一款为云环境设计的分布式高性能文件系统。AmazonEFS易于使用且可伸缩，适用于多种应用。AmazonFSxforLustre则是面向处理快速和大规模数据工作负载的高性能文件系统。
Juicedata·2024-09-10 05:21

IAAS: IT公司去IOE-Alibaba系统构架解读

从Hadoop到自主研发，技术解读阿里去IOE后的系统架构原地址：......................云计算阿里飞天摘要：从IOE时代，到Hadoop与飞天并行，再到飞天单集群5000节点的实现
wishchin·2024-09-10 04:18

如何进行架构技术方案选型?

在架构设计时,通常面临的一个难题是,如何选择架构的技术方案.这也是各种项目都会碰到的问题.我们到底是选择C/S，B/S模式，如果选择C/S,那么到底是三层C/S还是两层，到底要不要分布式，B/S的展示层是自己写
猫咪张·2024-09-10 04:44

SpringBoot：分布式架构的演进过程

2.大型主机比较复杂，培养人才的成本比较高。3.单点问题,如过大型机出现故障,整个系统都挂了运行不了,使企业的损失非常大。4.随着技术的进步,个人PC电脑的性能越来越高,成本也越来越低。阿里巴巴在2009年发起了一项去“IOE”的驱动IOE指的是IBM的小型机,Oracle的数据库和EMC的高端存储设备，2009年的去IOE的运动,一直到2003的支付宝的最后一台IBM的小型机的下线。为什么要去I
椰果学Android·2024-09-10 04:12

大型网站核心架构要素

伸缩性度量3.2伸缩性方案3.2.1应用服务器集群3.2.2缓存服务器集群3.2.3关系数据库集群3.2.4NoSQL数据库产品4扩展性4.1扩展性度量4.2扩展性方案4.2.1事件驱动架构4.2.2分布式服务
贾欣晓·2024-09-10 02:33

开源项目的认识理解

1.开源项目的发展趋势1.持续增长与普及-开源项目将继续增长，特别是在云计算、大数据、人工智能等领域。-开源软件在企业中的应用将更加普及，成为企业IT战略的一部分。
禁默·2024-09-10 01:23

万字详解PHP+Sphinx中文亿级数据全文检索实战（实测亿级数据0.1秒搜索耗时）

http://sphinxsearch.com/docs/sphinx3.html极简概括：由C++编写的高性能全文搜索引擎的开源组件，C/S架构，跨平台（支持Linux、Windows、MacOS），支持分布式部署
小松聊PHP进阶·2024-09-10 00:39

Hadoop HDFS中的NameNode、SecondaryNameNode和DataNode

HadoopHDFS中的NameNode、SecondaryNameNode和DataNode目录1.定义2.主要作用3.官方链接1.定义在HadoopHDFS（Hadoop分布式文件系统）中，有三个关键的组件
BigDataMLApplication·2024-09-10 00:38

未完待续

分院:大数据工程学院班级:19计本1班姓名:李思雪不知不觉，我们送走了活力四射的春天，迎来了烈日炎炎夏天。对于夏天的的印象，不仅有火红的太阳，湛蓝的天空，茂盛的枝叶……还有的是那让人不得不说的毕业季。
大数据工程学院19计本1班·2024-09-10 00:32

理性拥抱机器学习热潮：ML祖师爷Tom Mitchell最新洞见

此次主题为"AI生万物，谐音爱生万物，科学技术要有人文的温度，机器有爱，真芯英雄"的大会上，全球人工智能领袖汇聚全球业界顶尖领袖，探讨在基础硬件、大数据与开源平台、深度学习为代表的算法等人工智能领域的最新洞见
「已注销」·2024-09-10 00:33

zabbix 介绍

zabbix介绍1、Zabbix描述Zabbix是一个企业级的高度集成开源监控软件，提供分布式监控解决方案，可以用来监控设备、服务等的可用性和性能，其产品不分企业版和社区版，是一个真正的源代码开放产品，
crazy_zhangcong·2024-09-10 00:03

Zabbix的简介

Zabbix简介一、Zabbix介绍Zabbix是一个企业级的、开源的、分布式的监控套件Zabbix可以监控网络和服务的监控状况.Zabbix利用灵活的告警机制，允许用户对事件发送基于Email的告警.
蜡笔晓心·2024-09-09 23:31

【Hadoop|HDFS篇】NameNode和SecondaryNameNode

1.NN和2NN的工作机制思考：NameNode中的元数据是存储在哪里的？首先，我们做个假设，如果存储在NameNode节点的磁盘中，因为经常需要进行随机访问，还有响应客户请求，必然是效率过低。因此，元数据需要存放在内存中。但如果只存在内存中，一旦断电，元数据丢失，整个集群就无法工作了。因此产生在磁盘中备份元数据的Fslmage。这样又会带来新的问题，当在内存中的元数据更新时，如果同时更新FsIm
Vez'nan的幸福生活·2024-09-09 23:00

Yarn介绍 - 大数据框架

YARN的概述YARN是一个资源调度平台，负责为运算程序提供服务器运算资源，相当于一个分布式的操作系统平台，而MapReduce等运算程序则相当于运行于操作系统之上的应用程序YARN是Hadoop2.x
why do not·2024-09-09 23:58

浅析大数据Hadoop之YARN架构

YARN提供了资源管理和资源调度等机制1.1原HadoopMapReduce框架对于业界的大数据存储及分布式处理系统来说，Hadoop是耳熟能详的卓越开源分布式文件存储及处理框架，对于Hadoop框架的介绍在此不再累述
haotian1685·2024-09-09 22:26

Hadoop YARN【一】

YARN概念YARN是一种新的Hadoop资源管理器，它是一个通用的资源管理和调度，它的引入为集群在利用率、资源统一管理和数据共享等方面带来了巨大好处。内部组件Client:负责提交应用程序。
冷雨夜下的星空·2024-09-09 22:26

大数据知识总结（三）：Hadoop之Yarn重点架构原理

文章目录Hadoop之Yarn重点架构原理一、Yarn介绍二、Yarn架构三、Yarn任务运行流程四、Yarn三种资源调度器特点及使用场景Hadoop之Yarn重点架构原理一、Yarn介绍ApacheHadoopYarn
Lansonli·2024-09-09 22:22

Flink的时间与watermarks详解

当我们在使用Flink的时候，避免不了要和时间(time)、水位线(watermarks)打交道，理解这些概念是开发分布式流处理应用的基础。那么Flink支持哪些时间语义？
大数据技术与数仓·2024-09-09 21:44

年中盘点 | 刺激战场：半年新增671款Dapps，区块链版吃鸡谁得天下？

在2017年末，被称作“区块链新物种”的Dapp将我们迅速带入了区块链3.0时代，随之而来的是各大公链之争、Dapp开发激励计划陆续推出、分布式应用数量剧增，“空投”福利也成为吸引玩家参与的一种重要手段
DappVision·2024-09-09 21:57

弹性搜索引擎Elasticsearch：本地部署与远程访问指南

在大数据时代，数据搜索和分析成为企业核心竞争力的关键因素。弹性搜索引擎Elasticsearch作为一种分布式、可扩展的搜索和分析引擎，受到广泛欢迎。
猴哥是肖鸿·2024-09-09 20:39

C/S模式优缺点

C/S模式优缺点优点：1.结构简单，系统中不同类型的任务分别由客户和服务器承担，有利于发挥不同机器平台的优势；2.支持分布式、并发环境，特别是当客户和服务器之间的关系是多对多时，可以有效地提高资源的利用率和共享程度
nxyc_twz·2024-09-09 20:08

深度学习思考

对理论话深度学习很有意义，一个思路是经验值，将每一层在特定任务下都有输出，对结果作经验总结，比方说浅层输出低层次的几何轮廓特征，高层输出语意特征，我曾经在objecttracking用过这样的方法,在大数据集测试
夜雪朝歌·2024-09-09 19:45

2024年大数据最新实时数仓之实时数仓架构(Hudi)

技术框架Kafka：用于接入数据源；FlinkCDC：如果直接接入业务数据源可以考虑CDC方式，如果通过Kafka缓冲接入业务数据可以忽略;Flink：用于数据ETL，包括接入数据、处理数据及输出数据全链路数据计算任务；Spark：用于数据ETL，包括处理数据及输出数据全链路数据计算任务；Hudi：湖仓一体数据管理框架，用来管理模型数据，包括ODS/DWD/DWS/DIM/ADS等；Doris：O
2401_84185556·2024-09-09 19:34

实时数仓之实时数仓架构(Hudi)(1)，2024年最新熬夜整理华为最新大数据开发笔试题

+Hudi：湖仓一体数据管理框架，用来管理模型数据，包括ODS/DWD/DWS/DIM/ADS等；+Doris：OLAP引擎，同步数仓结果模型，对外提供数据服务支持；+Hbase：用来存储维表信息，维表数据来源一部分有Flink加工实时写入，另一部分是从Spark任务生产，其主要作用用来支持FlinkETL处理过程中的LookupJoin功能。这里选用Hbase原因主要因为Table的HbaseC
2401_84181221·2024-09-09 19:04

基于实时深度学习的推荐系统架构设计和技术演进

月29日阿里云开发者大会，秦江杰和刘童璇的分享，内容包括实时推荐系统的原理以及什么是实时推荐系统、整体系统的架构及如何在阿里云上面实现，以及关于深度学习的细节介绍本文整理自5月29日阿里云开发者大会，大数据与
阿里云云栖号·2024-09-09 19:03

《钝感力》| 钝感是一种沉默但有力的回击力

2018年浙江省离婚大数据显示，有35%的离婚原因都是生活琐事。其实婚姻的破裂并没有那么多狗血剧情，最多的都是生活中的小摩擦。
夏小半的江湖·2024-09-09 18:01

OpenHarmony 5.0 纯血鸿蒙系统

OpenHarmony5.0Beta1版本标准系统能力持续完善，ArkUI完善了组件通过CAPI调用的能力；应用框架细化了生命周期管理能力，完善了应用拉起、跳转的能力；分布式软总线连接能力和规格进一步增强
ejinxian·2024-09-09 18:57

大数据新视界--大数据大厂之MySQL数据库课程设计：MySQL集群架构负载均衡故障排除与解决方案

亲爱的朋友们，热烈欢迎你们来到青云交的博客！能与你们在此邂逅，我满心欢喜，深感无比荣幸。在这个瞬息万变的时代，我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客，正是这样一个温暖美好的所在。在这里，你们不仅能够收获既富有趣味又极为实用的内容知识，还可以毫无拘束地畅所欲言，尽情分享自己独特的见解。我真诚地期待着你们的到来，愿我们能在这片小小的天地里共同成长，共同进步。本博客的精华专栏：Ja
青云交·2024-09-09 18:26

大数据新视界--大数据大厂之MySQL 数据库课程设计：MySQL 数据库 SQL 语句调优的进阶策略与实际案例（2-2）

亲爱的朋友们，热烈欢迎你们来到青云交的博客！能与你们在此邂逅，我满心欢喜，深感无比荣幸。在这个瞬息万变的时代，我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客，正是这样一个温暖美好的所在。在这里，你们不仅能够收获既富有趣味又极为实用的内容知识，还可以毫无拘束地畅所欲言，尽情分享自己独特的见解。我真诚地期待着你们的到来，愿我们能在这片小小的天地里共同成长，共同进步。本博客的精华专栏：Ja
青云交·2024-09-09 18:26

大数据新视界--大数据大厂之MySQL 数据库课程设计：开启数据宇宙的传奇之旅

亲爱的朋友们，热烈欢迎你们来到青云交的博客！能与你们在此邂逅，我满心欢喜，深感无比荣幸。在这个瞬息万变的时代，我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客，正是这样一个温暖美好的所在。在这里，你们不仅能够收获既富有趣味又极为实用的内容知识，还可以毫无拘束地畅所欲言，尽情分享自己独特的见解。我真诚地期待着你们的到来，愿我们能在这片小小的天地里共同成长，共同进步。本博客的精华专栏：Ja
青云交·2024-09-09 18:56

大数据新视界--大数据大厂之MySQL数据库课程设计：揭秘 MySQL 集群架构负载均衡核心算法：从理论到 Java 代码实战，让你的数据库性能飙升！

亲爱的朋友们，热烈欢迎你们来到青云交的博客！能与你们在此邂逅，我满心欢喜，深感无比荣幸。在这个瞬息万变的时代，我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客，正是这样一个温暖美好的所在。在这里，你们不仅能够收获既富有趣味又极为实用的内容知识，还可以毫无拘束地畅所欲言，尽情分享自己独特的见解。我真诚地期待着你们的到来，愿我们能在这片小小的天地里共同成长，共同进步。本博客的精华专栏：Ja
青云交·2024-09-09 17:17

区块链和智能合约能否实现分布式去中心化债券和股票市场？

“区块链和智能合约能否实现分散式债券和股票市场？加密货币可以消除政府通胀的威力。增强隐私性的货币可能会扼杀收入所得税。像OpenBazaar这样的分散市场可以阻止收取销售税。是否可以有分散的金融市场来消除资本利得税。“我必须为我的答案作序5000多年来，主权政府带领人类进步。这些政府通过在其管辖的辖区内维持强制力的垄断行使权力。几乎所有这些君主都以压迫的方式进行管理。大多数人允许和支持各种形式的奴
区块星空·2024-09-09 17:59

【三】分布式训练---单机多卡与多机多卡组网（飞桨paddle2.0+）更加推荐spawn方式！

1.单机多卡启动并行训练飞桨2.0增加paddle.distributed.spawn函数来启动单机多卡训练，同时原有的paddle.distributed.launch的方式依然保留。paddle.distributed.launch通过指定启动的程序文件，以文件为单位启动多进程来实现多卡同步训练。以前在aistudio脚本任务说明里，就是推荐这种方法启动多卡任务。launch这种方式对进程管理
汀、人工智能·2024-09-09 16:14

starrocks和clickhouse数据库比较

下面是这两者的一些主要比较点：1.基础架构与设计目标Starrocks:Starrocks是一个专注于实时数据分析的平台，常用于大数据处理和商业智能应用。
CodeMaster_37714848·2024-09-09 16:12
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他