hadoop分布式系统

学习总结 - swift适配器 为 Hadoop 的存储层增加对 OpenStack Swift 的支持

虽然文档内所涉及的版本有点旧，但内容很精彩，值得推荐背景在Hadoop中有一个抽象文件系统的概念，它有多个不同的子类实现，由DistributedFileSystem类代表的HDFS便是其中之一。
天地不仁以万物为刍狗·2024-02-14 07:37

C# Hadoop学习笔记

记录一下学习地址http://www.360doc.com/content/14/0607/22/3218170_384675141.shtml转载于:https://www.cnblogs.com/TF12138/p/4170558.html
第八个猴子·2024-02-14 07:37

hadoop HDFS的API封装

Configuration类：该类的对象封装了客户端或者服务端的配置。FileSystem类：该类的对象是一个文件系统对象，可以用该队想的一些方法来对文件进行操作。FSDataInputStream和FSDataOutputStream：这两个类是HDFS中的输入输出流。基本流程：得到Configuration对象得到FileSystem对象进行文件操作（读写、删除、改名）所需引入的库import
Cynicism_Kevin·2024-02-14 07:37

Hive的小文件问题

Reduce的数量3.2已存在的小文件合并3.2.1方式一：insertoverwrite(推荐)3.2.2方式二：concatenate3.2.3方式三：使用hive的archive归档3.2.4方式四：hadoopgetmerge
爱吃辣条byte·2024-02-14 06:11

从Hadoop框架与MapReduce模式中谈海量数据处理（含淘宝技术架构）

从Hadoop框架与MapReduce模式中谈海量数据处理（含淘宝技术架构）前言几周前，当我最初听到，以致后来初次接触Hadoop与MapReduce这两个东西，我便稍显兴奋，觉得它们很是神秘，而神秘的东西常能勾起我的兴趣
Dimple七·2024-02-14 06:41

高并发系统的设计(1)

简历上写了有大数据、高并发、高可用、分布式系统的架构设计以及研发经验。我把经验写一些。系统的并发量高,怎么办?多上几台服务器,搞个集群!为什么要这么干呢?
Fuly1024·2024-02-14 05:32

如何确保消息队列中的数据安全无损：深入探索消息队列的持久性策略

如何确保消息队列中的数据安全无损：深入探索消息队列的持久性策略引言在现代的分布式系统中，消息队列扮演着至关重要的角色，它不仅能够解耦系统组件，提高整体的处理能力，还能在高并发环境下保证数据的一致性和可靠性
一休哥助手·2024-02-14 04:16

SpringCloud入门概述

1.介绍SpringCloud1.1什么是SpringCloudSpringCloud是一个基于SpringBoot的微服务架构开发工具集，它为开发者提供了一系列开箱即用的工具和库，用于构建分布式系统中的微服务架构
星光闪闪k·2024-02-14 03:21

什么是分布式，分布式和集群的区别又是什么？

分布式系统一定是由多个节点组成的系统。其中，节点指的是计算机服务器，而且这些节点一般不是孤立的，而是互通的。这些连通的节点上部署了我们的节点，并且相互的操作会有协同。
DawidZhu·2024-02-14 03:51

Spring Boot 中使用 RabbitMQ 入门

介绍与安装RabbitMQ是由erlang语言开发，基于AMQP（AdvancedMessageQueue高级消息队列协议）协议实现的消息队列，它是一种应用程序之间的通信方法，消息队列在分布式系统开发中应用非常广泛
想吃凤梨酥·2024-02-14 03:17

zookeeper 分布式锁的实现

为什么要用分布式锁MartinKleppmann是英国剑桥大学的分布式系统的研究员，之前和Redis之父Antirez进行过关于RedLock(红锁，后续有讲到)是否安全的激烈讨论。
Java架构师成长之路·2024-02-14 03:31

大数据开发之Sqoop详细介绍

备注:测试环境CDH6.3.1Sqoop1.4.7一.Sqoop概述ApacheSqoop（SQL-to-Hadoop）项目旨在协助RDBMS与Hadoop之间进行高效的大数据交流。
只是甲·2024-02-14 01:17

一文彻底搞懂Redis的三种集群模式

所谓的高可用，也叫HA（HighAvailability），是分布式系统架构设计中必须考虑的因素之一，它通常是指，通过设计减少系统不能提供服务的时间。如果在实际生产中，如
澡澡洗澡澡·2024-02-13 22:24

Ubuntu16.04下HBase安装笔记

基础准备JDKHadoopSSHServer下载HBasehttps://hbase.apache.org/tar-zxvfhbase-1.4.2-bin.tar.gzsudomvhbase-1.4.2
bluexiii·2024-02-13 22:48

利用 Docker 安装 Hadoop 集群并通过 Java API 访问 HDFS

前言最近刚好在学习Hadoop，在安装过程中遇到了一些小麻烦，正好将此次过程记录并分享出来，希望能对准备学习本块内容的读者们有所帮助。本次操作在Ubuntu中完成，如何安装Ubuntu本文不再赘述。
qq_33419925·2024-02-13 21:38

为什么要用Dubbo

就这样为分布式系统的服务治理框架就出现了，Dubbo也就这样产生了。2、Dubbo的整体架构设计有哪些分层?接口服务层（
资深程序员·2024-02-13 20:01

hadoop(十三)—自定义排序

这节课我们一起学习Hadoop的自定义排序，Hadoop是有一套默认的排序规则的，但是这往往不能满足我们多样化的需求，为了让排序更多样化，这就需要用到我们本节课所要学习的自定义排序功能。
文子轩·2024-02-13 20:13

YARN体系结构指南

1.简介hadoop-0.23引入的新体系结构将JobTracker的两个主要功能：资源管理和作业生命周期管理分为不同的组件。
盗梦者_56f2·2024-02-13 16:45

解密 ARMS 持续剖析：如何用一个全新视角洞察应用的性能瓶颈？

尽管经过过去十几年的发展，分布式系统与之对应的可观测技术快速演进，在一定程度上解决了很多问题，但有一些问题定位起来仍
·2024-02-13 15:18

来吧，展示！Redis的分布式锁及其实现Redisson的全过程

前言分布式锁是控制分布式系统之间同步访问共享资源的一种方式。在分布式系统中，常常需要协调他们的动作。
前程有光·2024-02-13 14:14

大数据处理为何选择Spark，而不是Hadoop

Spark的各个组件2.HadoopHad
嘿嘿海海·2024-02-13 14:00

hadoop 分布式集群安装与原理

对很多人来说，学习大数据都止步于集群搭建，即使是那些工作过很多年的JAVA程序员也不例外，我们分享一套能让您轻松完成集群搭建的方法，包括Hadoop的源码编译、企业级环境安装与配置和常用大数据组件的基本原理
海牛大数据_青牛老师·2024-02-13 12:44

Redis分布式锁

Redis分布式锁是一种在分布式系统中协调多个进程对共享资源访问的机制。在Redis中实现分布式锁主要依赖于几个关键的操作原子性。
辞暮尔尔-烟火年年·2024-02-13 07:26

小猿圈之Hadoop优化

Hadoop框架是现在最主流的的框架之一，越来越多的人去学习，那么你对hadoop的理解是什么？hadoop一定要会优化，那怎么优化呢，小猿圈今天说一下，感兴趣的朋友可以看看小猿圈写的这篇文章。
小猿圈加加·2024-02-13 05:38

AWS入门指南之一：怎样创建免费的AWS账号

这其中会穿插于介绍一些云和分布式系统的知识，但是以AWS的实现为主。可能会带有少量的代码，但是主体操作应该会使用AWSConsole和AWSCLI来完成。
书香门第·2024-02-13 03:52

通过写代码学习AWS DynamoDB（1）

DDB的实现应用了非常多的分布式系统的技术，例如SHARD，eventualconsistency，consistencyHash等。
书香门第·2024-02-13 03:22

Apache Ignite 使用SQL模式

作为SQL数据库，Ignite支持所有DML命令，包括SELECT、UPDATE、INSERT和DELETE查询，并且还实现了与分布式系统相关的DDL命令子集。
wank1259162·2024-02-13 03:21

Java从入门到精通

JavaSE，掌握Java语言本身、Java核心开发技术以及Java标准库的使用；2、如果继续学习JavaEE，那么Spring框架、数据库开发、分布式架构就是需要学习的；3、如果要学习大数据开发，那么Hadoop
nightluo·2024-02-13 01:52

Datax ETL工具源码研究

Kittle优点：与大数据Hadoop结合比较好，功能比较齐全，强大，支持数据库，文件数据读写，界面拖拽方式操作；缺点：
Spring1985·2024-02-13 01:57

2018-07-19 sqoop

sqoop:数据从传统数据库到到hadoop的导入,导出安装：1.解压2.修改配置文件cdSQOOP_HOME/conf$mvsqoop-env-template.shsqoop-env.sh打开sqoop-env.sh
江江江123·2024-02-12 20:10

分布式环境下，互斥性与幂等性问题，分析与解决思路

传统的集中式系统已经逐渐无法满足要求，分布式系统被使用在更多的场景中。分布式系统由独立的服务器通过网络松散耦合组成。在这个系统中每个服务器都是一台独立的主机，服务器之间通过
life_niu·2024-02-12 20:23

C#系列-C#EF框架实现雪花主键（20）

雪花主键（SnowflakeID）是一种在分布式系统中生成唯一ID的算法，它通常是由Twitter的雪花算法演变而来。
管理大亨·2024-02-12 19:04

【解决方案】pyspark 初次连接mongo 时报错Class not found exception:com.mongodb.spark.sql.DefaultSource

=spark.read.format("com.mongodb.spark.sql.DefaultSource").load()   File"/home/cisco/spark-2.4.1-bin-hadoop2
能白话的程序员♫·2024-02-12 19:33

Hadoop分布式系统架构-MapReduce-02

1、MapReduce介绍MapReduce思想在生活中处处可见。或多或少都曾接触过这种思想。MapReduce的思想核心是“分而治之”，适用于大量复杂的任务处理场景（大规模数据处理场景）。Map负责“分”，即把复杂的任务分解为若干个“简单的任务”来并行处理。可以进行拆分的前提是这些小任务可以并行计算，彼此间几乎没有依赖关系。Reduce负责“合”，即对map阶段的结果进行全局汇总。MapRedu
一直上上签X·2024-02-12 16:41

（一）Docker 在线部署和离线部署

环境：CentOS7.31.在线部署[root@hadoop004~]#yuminstall-yhttpd[root@hadoop004~]#servicehttpdstartRedirectingto
白面葫芦娃92·2024-02-12 15:51

分布式计算入门

分布式计算是一门计算机科学，主要研究分布式系统。一个分布式系统包括若干通过网络互联的计算机。这些计算机互相配合以完成一个共同的目标（我们
xmvip01·2024-02-12 15:15

一文详解 Java 限流接口实现

在分布式系统中，高并发场景下，为了防止系统因突
阿里技术·2024-02-12 15:01

zk01

zookeeper基础ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，是Hadoop和Hbase的重要组件。提供的功能包括：命名服务、配置管理、集群管理、分布式锁、队列管理。
矮肥·2024-02-12 11:41

UUID算法：独一无二的标识符解决方案

引言在分布式系统和大数据环境下，唯一标识符的生成和管理是一项关键任务。UUID（UniversallyUniqueIdentifier）算法应运而生，成为了解决重复数据和标识符冲突的有效工具。
qcidyu·2024-02-12 08:08

UUID算法：独一无二的标识符解决方案

引言在分布式系统和大数据环境下，唯一标识符的生成和管理是一项关键任务。UUID（UniversallyUniqueIdentifier）算法应运而生，成为了解决重复数据和标识符冲突的有效工具。
qcidyu·2024-02-12 08:08

2018-11-16 hadoop3.1完全分布式部署

Hadoop3.1.0完全分布式集群部署，三台服务器部署结构如下github配置文件源码地址Pdsh使用方法http://kumu-linux.github.io/blog/2013/06/19/pdsh
Albert陈凯·2024-02-12 08:20

分布式系统关注点—“无状态”详解

一、初识“状态”我们首先举个例子。开发Z哥对运维Y弟喊：“Y弟，现在系统好卡，刚上了一波活动，赶紧帮我加几台机器上去顶一下。”Y弟回复说：“没问题，分分钟搞定”。然后就发现数据库的压力迅速上升，DBA就吼了：“Z哥，你丫的搞什么呢？数据库要被你弄垮了”。然后客服那边接框也爆炸了，越来越多的用户说刚登陆后没多久，操作着就退出了，接着登陆，又退出了，到底还做不做生意了。这个案例中的问题，产生的根本原因
Java大生·2024-02-12 07:09

hadoop-YARN

ApacheHadoopYARN百度百科：https://baike.baidu.com/item/yarn/16075826?
weixin_33736649·2024-02-12 07:44

Hadoop-MapReduce-Yarn集群搭建

通过官网搭建：hadoop.apache.org/docs/r2.6.5/hadoop-project-dist/hadoop-common/SingleCluster.ht
qq_2368521029·2024-02-12 07:44

搭建 Hadoop-3.1.3 HA 集群

本文目录1.集群部署分布规划2.Zookeepr集群安装3.HDFS-HAⅠ.配置core-site.xmlⅡ.配置hdfs-site.xmlⅢ.配置分发4.YARN-HAⅠ.配置yarn-site.xmlⅡ.配置分发4.启动前的配置5.启动HA集群Ⅰ.单独启动Ⅱ.脚本方式启动HA集群6.HA集群测试
扛麻袋的少年·2024-02-12 07:43

缓存雪崩问题与应对策略

引言缓存雪崩是一个在分布式系统中经常遇到的问题，特别是在缓存大规模失效的情况下。这种现象通常会导致大量请求同时涌入数据库或其他后端系统，使其压力剧增，最终可能导致系统崩溃。
张万森的救赎·2024-02-12 07:13

Hadoop-HA高可用集群部署

HadoopHAHA概述(1)所谓HA(HighAvailablity),即高可用(7*24小时不中断服务)。(2)实现高可用最关键的策略是消除单点故障。
魔笛Love·2024-02-12 07:13

Hadoop-Yarn-ResourceManagerHA

一、介绍在Hadoop2.4之前，ResourceManager是YARN集群中的单点故障ResourceManagerHA是通过Active/Standby体系结构实现的，在任何时候其中一个RM都是活动的
隔着天花板看星星·2024-02-12 07:42

缓存穿透问题与解决方案

引言在分布式系统中，缓存技术被广泛应用以提高系统性能和响应速度。然而，缓存穿透是一个常见而严重的问题，特别是在面对大规模请求时。
张万森的救赎·2024-02-12 07:11

Hadoop：认识MapReduce

MapReduce是一个用于处理大数据集的编程模型和算法框架。其优势在于能够处理大量的数据，通过并行化来加速计算过程。它适用于那些可以分解为多个独立子任务的计算密集型作业，如文本处理、数据分析和大规模数据集的聚合等。然而，MapReduce也有其局限性，比如对于需要快速迭代的任务或者实时数据处理，MapReduce可能不是最佳选择。总的来说，MapReduce是大数据技术中的一个重要概念，它在Ha
爱写代码的July·2024-02-12 06:41
上一页 5 6 7 8 9 10 11 12 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他