E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
分布式计算
大数据Hadoop生态系统介绍
一、概述Hadoop是Apache软件基金会下一个开源
分布式计算
平台,以hdfs(HadoopDistributedFileSystem)、MapReduce(Hadoop2.0加入了YARN,Yarn
大数据老司机
·
2023-04-05 18:37
分布式文件系统HDFS架构和数据读写流程
Hadoop核心由HDFS和MapReduce组成,HDFS负责分布式存储,MapReduce负责
分布式计算
。
机器熊技术大杂烩
·
2023-04-05 14:14
Hadoop
MapReduce
MapReduce系列文章
HDFS
架构
读写流程
云计算概论
易扩散的方式获得所需的服务云计算的优势与益处(1)IT设施资金投入的灵活性(2)基础设施资源动态所需(3)无须投入运维成本(4)业务扩展快速云计算缺点(1)脱机--网络故障(2)故障(3)隐私与安全云计算是对(并行计算、网格计算、
分布式计算
小趴菜001号
·
2023-04-05 13:55
云计算
云计算
阿里云
分享NVIDIA GTC干货_用软件引领车辆电子架构
随着软件定义功能变得更多,车辆电气/电子架构正在从
分布式计算
演变为集中式计算。通过将这台集中式超级计算机与人工智能融合在一起,开发模块化软件并创建数据中心基础设施。
eachanm
·
2023-04-05 08:12
人工智能
HCIA第一天
网络(计算机网络):资源共享的一个平台云技术---云计算----
分布式计算
:以电脑集群获得更强大的能力云存储----百度网盘服务器:厂商提供的功能更加强大但作用比较单一且操作系统不同的一台电脑DOS(拒绝服务式攻击
桃子在哪
·
2023-04-05 03:00
云计算
How it works(20) Geotrellis是如何在Spark上计算的(A) 数据读取
1.引入我们会使用Geotrellis自然是因为它能利用spark进行高效的
分布式计算
,而
分布式计算
无论在数据读取还是计算上都与常规计算有许多不同.我们就以计算一张影像的NDVI结果为例,看看Geotrellis
默而识之者
·
2023-04-05 01:40
Nacos服务注册中心对比提升
模型控制台管理社区活跃度EurekaAP支持低(2.x版本闭源)ZookeeperCP不支持中ConsulCP支持高NacosAP/CP支持高CAP模型计算机专家埃里克·布鲁尔(EricBrewer)于2000年在ACM
分布式计算
机原理专题讨论会
Add小兵
·
2023-04-05 00:43
Spring
微服务
Java
java
微服务
spring
cloud
alibaba
后端
分布式与容器化的介绍
**计算机的一种算法,
分布式计算
是计算机科学中一个研究方向,它研究如何把一个需要非常巨大的计算能力才能解决的问题分成许多小的部分,然后把这些部分分配给多个计算机进行处理,最后把这些计算结果综合起来得到最终的结果
18cm盖伦不含头
·
2023-04-04 23:19
分布式
docker
Hadoop/Spark 太重,esProc SPL 很轻
很多用户开始转向
分布式计算
路线,用多台廉价的PC服务器组成集群来完成大数据计算任务。Hadoop/Spark就是其中重要的软件技术,由于开源免费而广受欢迎。
逛逛GitHub
·
2023-04-04 21:22
hadoop
spark
大数据
分布式
ELK集群搭建流程
采用Kafka作为消息队列缓存,支持
分布式计算
,可以多个Kafka节点同时处理信息,能有效解决数据量大并发的问题,拥有很高的吞吐量,单台支持每秒10万条数据以上的处理速率。
大往生指导员
·
2023-04-04 19:05
ELK
Flink架构及运行流程
Runtime核心层是Flink
分布式计算
框架的核心实现层,负责对上层
不 爱吃肉肉
·
2023-04-04 17:09
flink
big
data
数据库
Hadoop核心组件及组件介绍
HadoopDistributedFileSystem(HDFS)运行于通用硬件上的分布式文件系统,高吞吐,高可靠3、资源管理组件-HadoopYARN于2012年引入的组件,用于管理集群中的计算资源并在这些资源上调度用户应用4、
分布式计算
框架
30岁老阿姨
·
2023-04-04 12:31
Hadoop
hadoop
大数据
mapreduce
hadoop中的各个模块及其作用
hadoop中的各个模块及其作用hdfs的组成yarn的组成Hadoop的
分布式计算
和分布式存储都采用了主从结构。分布式存储系统被称为HDFS。可以将整个文件系统看成一个超大的硬盘。
IT小鸟鸟
·
2023-04-04 12:12
hadoop
hadoop
hdfs
大数据
HDFS:架构详解
Distributed:
分布式计算
是利用互联网上的计算机的CPU的共同处理能力来解决大型计算问题的一种计算科学。
easonwx
·
2023-04-04 12:14
HDFS
hdfs
大数据
云计算
分布式
《Fundamantals of Software Architecture》 Q&A Part2
第二部分架构风格第九章基础1.列出
分布式计算
的8个谬误。网络是可靠的、零延迟、带宽是无限的、网络是安全的、拓扑结构从不改变、只有一个管理员、传输成本为0、网络是同构的。
isasiky
·
2023-04-04 10:28
软件架构
软件工程
架构
系统架构
LVS集群
负载均衡群集(2)HA:(HighAvailiablity)高可用集群(3)HPC:(High-performancecomputing)高性能运算群集PS(知识小科普)4.分布式系统(1)分布式存储(2)
分布式计算
lltyyds
·
2023-04-04 03:49
知识科普
项目
linux
运维
lvs
HAProxy和Nginx搭建负载均衡器
负载均衡器是一个常用于
分布式计算
和网络应用中的系统组件,主要用于将客户端的请求分发到多个后端服务器上,以实现高可用性、高性能和可扩展性。常见的负载均衡器软件包括HAProxy和Nginx。
玩机科技社
·
2023-04-04 00:47
运维
服务器
运维
Hadoop架构
Hadoop1.xhadoop1.x:由hdfs(分布式文件存储系统)与MapReduce(
分布式计算
框架)组成HDFS节点:1.namenode(主节点)负责管理整个HDFS集群,维护和管理元数据(用来描述数据的数据
奋斗哼哼
·
2023-04-03 21:42
hadoop
架构
大数据
hadoop组成及其架构
1.Hadoop组成组成Hadoop的最核心框架有三个MapReduce、YARN和Hdfs,分别是
分布式计算
框架、资源调度框架和分布式文件系统。
90后的包子
·
2023-04-03 20:50
大数据
hadoop
架构
hdfs
分布式学习笔记---分布式架构网络通信-Netty
作为当前最流行的NIO框架,Netty在互联网领域、大数据
分布式计算
领域、游戏行业、通信行业等获得了广泛的应用,知名的Elasticsearch、Dubbo框架内部都采用了Net
馒头太帅了
·
2023-04-03 19:50
分布式
nacos集群的ap cp切换_服务注册中心到底应该选AP模型还是CP模型?
CAP定理,又被称作布鲁尔定理(Brewer'stheorem),它指出对于一个
分布式计算
系统来说,不可能同时满足以下三点:一致性(Consistency)(等同于所有节点访问同一份最新的数据副本)可用性
weixin_39590989
·
2023-04-03 15:11
nacos集群的ap
cp切换
Hadoop如何进行大数据处理?工具,优劣势,用例和应用场景
ApacheHadoop是一个开源框架,可以让用户有效地管理和处理在
分布式计算
环境
云智时代
·
2023-04-03 13:22
Spark中内存模型管理
一、概述Spark作为一个基于内存的
分布式计算
引擎,其内存管理模块在整个系统中扮演着非常重要的角色。理解Spark内存管理的基本原理,有助于更好地开发Spark应用程序和进行性能调优。
Perkinl
·
2023-04-03 11:26
spark
spark
内存模型管理
187页10万字智慧城市业务和数据中台建设方案2022版
1.1.2.技术标准规范2.项目建设方案2.1.总体框架2.2.主要建设内容2.3.数据平台2.3.1.数据汇聚2.3.2.数据治理2.3.3.数据质量管理2.3.4.数据分析2.4.技术平台2.4.1.
分布式计算
引擎
数字化动态
·
2023-04-03 07:59
大数据
184页10万字智慧城市公共服务中台:业务和数据中台建设方案
项目建设方案52.1.总体框架52.2.主要建设内容52.3.数据平台52.3.1.数据汇聚52.3.2.数据治理102.3.3.数据质量管理162.3.4.数据分析262.4.技术平台322.4.1.
分布式计算
引擎
数字化动态
·
2023-04-03 07:58
大数据
操作系统 --- 学习笔记
并行需要硬件支持,如多流水线、多核处理器或者
分布式计算
系统操作系统通过引入进程和线程,使得程序能够并发运行。(2)共享共享是指系统中的资源可以被多个并发进程共同使用。
_code_x
·
2023-04-03 06:41
互联网架构
互联网架构设计特点(1).高并发用户在同一时间内大量的访问服务器,Tomcat服务器并发能力为:200-250左右(JVM调优为1000);硬件条件:物理服务器处理能力网络带宽(2).分布式(2.1)
分布式计算
由多个线程
Faith-小浩浩
·
2023-04-03 02:00
java
java
程序人生
后端
31学习大数据平台 Hadoop 的基本概念和架构,包括 HDFS、MapReduce
Hadoop的基本概念和架构Hadoop概念Hadoop是一个开源的、基于Java的
分布式计算
框架,主要用于大规模数据集的存储和处理。
玩机科技社
·
2023-04-03 00:39
运维
服务器
服务器
运维开发
第2章 大数据处理架构Hadoop
概述Hadoop是一个开源的、可运行于大规模集群上的
分布式计算
平台,它实现了MapReduce计算模型和分布式文件系统HDFS等功能。它被公认为行业大数据标准开源软件。
wyz191
·
2023-04-02 20:22
大数据技术原理与应用
-
概念
存储
处理
分析与应用
大数据
hadoop
hadoop系列二 ——HDFS概念
由很多服务器联合起来实现其功能,集群中的服务器有各自的角色;HDFS(HadoopDistributedFileSystem),作为GoogleFileSystem(GFS)的实现,是Hadoop项目的核心子项目,是
分布式计算
中数据存储管理的基础
heartless_killer
·
2023-04-02 19:00
hadoop
HDFS
hdoop
HDFS
[ZZ]Map/Reduce hadoop 细节
转自:Venus神庙原文:http://www.cnblogs.com/duguguiyu/archive/2009/02/28/1400278.html
分布式计算
(Map/Reduce)
分布式计算
,同样是一个宽泛的概念
weixin_33985679
·
2023-04-02 14:23
大数据
数据结构与算法
java
(转)handoop的基础了解
转自:Venus神庙原文:http://www.cnblogs.com/duguguiyu/archive/2009/02/28/1400278.html
分布式计算
(Map/Reduce)分布式式计算,
anzuo0211
·
2023-04-02 14:23
大数据
数据结构与算法
java
分布式-CAP定理
2002年,麻省理工学院的赛斯·吉尔伯特(SethGilbert)和南希·林奇(NancyLynch)发表了布鲁尔猜想的证明,使之成为
分布式计算
领域公认的一个定理。CAP理论在一个分布式系统(
allin8116
·
2023-04-02 13:05
【GBASE】GBase 8a MPP Cluster 架构介绍
SharedNothing(SN)是一种
分布式计算
架构。这这种架构中,每一个节点都是独立的,自给的,在系统中不存在单点竞争。更明确地说,没有节点共享存储和硬盘。
Linux有意思吗
·
2023-04-02 11:53
GBASE
架构
数据库
数据仓库
数据库架构
hadoop
Hadoop学习笔记--Hadoop生态系统、体系架构及特点
支持多种平台1.7支持多种编程语言2.Hadoop的生态系统2.1HDFS2.2MapReduce2.3YARN3.Hadoop的体系架构总结引言Hadoop是Apache基金会旗下的一个可靠的、可扩展的
分布式计算
开源软件框架
官乐
·
2023-04-02 06:09
Hadoop学习笔记
hadoop
学习
架构
Hadoop源码分析笔记(五):HDFS特点和体系结构
HDFSHadoop是一个能够让用户轻松架构和使用的
分布式计算
平台,用户可以在Hadoop上管理、开发和运行处理大规模数据的应用,其中,Hadoop分布式文件系统(HadoopDistributedFileSystem
剑邑龙泉
·
2023-04-02 06:21
Hadoop源码分析
Hadoop的简单概述以及架构
Hadoop的简单概述以及架构1、hadoop概述:hadoop是一个适合海量数据分布式存储和
分布式计算
的平台。
祝星kk
·
2023-04-02 06:38
hadoop
Spark 高级面试题合集
Apache Spark是一个
分布式计算
框架,它可以在大规模数据集上进行高效的数据处理和分析。它最初由加州大学伯克利分校的AMPLab开发,并于2013年成为Apache软件基金会的顶级项目。
857技术社区
·
2023-04-02 03:48
面试题
Spark
大数据
Spark源码
面试
SOA、微服务、插件式开发框--知识小结
它面向服务的
分布式计算
,服务间松耦合,通过网络调用(而非进程内调用)来通信,从而配合起来提供一系列的功能。有种观点说,SOA有两种实现方式,中心化方式就是ESB(企业服务总线),
yuanlulu
·
2023-04-01 23:34
C/C++
Ignite基础配置等实战测试结果来啦
1.概述本篇博客将对Ignite的基础环境、集群快照、
分布式计算
、SQL查询与处理、机器学习等内容进行介绍。2.内容2.1什么是Ignite?
大哥手下留情
·
2023-04-01 20:43
JavaScript
java
前端
前端
java
阿里飞天分布式操作系统
安全管理(钟馗)4.分布式文件系统(盘古)5.资源管理和任务调度(伏羲)6.集群监控和部署前言本文转自https://yq.aliyun.com/articles/652388飞天是由阿里云开发的一个大规模
分布式计算
系统
arbraham
·
2023-04-01 20:40
HBase分布式架构处理大数据量(高并发和实时处理)
HDFS(HadoopDistributedFileSystem)分布式文件管理系统、是Hadoop项目的核心子项目,是
分布式计算
中数据存储管理的基础,是基于流数据模式访问和处理超大文件的需求而开发的,
周坤Java
·
2023-04-01 10:40
分布式
hbase
hadoop
java
spring
Spark Streaming
而Spark由于其优秀的调度机制,快速的
分布式计算
能力,能够以极快的速度进行迭代运算。正是由于Spark的这些优势,使得Spark能够在某种程度上
@Heartworm
·
2023-04-01 07:45
笔记
spark
big
data
scala
公有云 & 私有云及架构
云计算指运用hadoop等
分布式计算
工具,将多台服务器组成一个巨大的资源池。用户使用的时候可以按需使用,在需求增长的时候,可以横向扩展。特点就在于弹性可扩展。公有云,私
angeling2009
·
2023-03-31 20:35
数据库扫盲
虚拟的超级计算机和云计算,概念PK:云计算与高性能计算(HPC)
虽然侧重点有所不同,但这两者之间是很有渊源的,比如两者都使用了
分布式计算
、网格计算、集群、高密度计算等技术,也有一些领域在使用云计算从事HPC类的应用,如北京市计算中心就在打造
不乱说话
·
2023-03-31 14:03
虚拟的超级计算机和云计算
Clickhouse架构与设计
多个节点通过网络进行连接,协同工作,完成相同的任务(分布式存储,
分布式计算
)每个节点只访问自己的本地资源(内存、存储等)它
大数据研习社
·
2023-03-31 14:59
大数据实战精英+架构师
数据库
大数据
hadoop
大数据框架发展史
Spark的火热或多或少的掩盖了其他
分布式计算
的系统身影。就像Flink,也就在这个时候默默的发展着。在国外一些社区,有很多人将大数据的计算引擎分成了4代,当然,也有很多人不会认同。我们
大数据老哥
·
2023-03-31 08:38
big
data
hadoop
人工智能
阿里十年架构经验总结的Java学习体系
一、分布式架构架构分布式的英文(Distributedcomputing
分布式计算
技术)的应用和工具,成熟目前的
Java架构闲谈
·
2023-03-31 08:49
java
后端
面试
java
架构
后端
jvm
面试
安装Spark
spark-env.shworks配置集群用得到配完source一下,使用spark-shell即可进入简单实现wordcount读取本地文件读取hdfs文件Spark技术栈SparkCore核心组件,
分布式计算
引擎
Triumph-CP
·
2023-03-31 07:01
Spark
spark
scala
大数据
大数据架构演变
实时链路)-传统实时开发三、Lambda架构(离线数仓+实时数仓)四、Kappa架构五、架构选择:六、湖仓一体(流批一体)实时数仓架构七、从普通项目到Hadoop,再到Spark1、普通单机方式2、按照
分布式计算
LG_985938339
·
2023-03-31 07:15
数据与数据库
大数据
架构
java
上一页
17
18
19
20
21
22
23
24
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他