mapreduce源码分析

DataX源码分析 TaskGroupContainer

系列文章目录一、DataX详解和架构介绍二、DataX源码分析JobContainer三、DataX源码分析TaskGroupContainer四、DataX源码分析TaskExecutor五、DataX
shandongwill·2024-02-08 23:25

比特币源码分析系列3---区块block数据结构

bitcoin版本:0.16.2区块结构分析区块是组成区块链的基本单位，可以通过bitcoin-cli命令查看一个区块的基本信息区块block的数据结构如下图(存储方式为小端):block数据结构整体结构数据项大小(Byte)描述BlockSize4区块大小BlockHeader80区块头信息大小Transactionsm*n(n>=250)所有交易的列表TransactionsCounter1-
JC86·2024-02-08 20:54

并发编程中一种经典的分而治之的思想！！

有点像Hadoop中的MapReduce。ForkJoin是由JDK1.7之后提供的多线程并发处理框架。ForkJoin框架的基本思想是分而治之。什么是分而治之？
冰河团队·2024-02-08 19:06

从源码分析Hystrix工作机制

一、Hystrix解决了什么问题？在复杂的分布式应用中有着许多的依赖，各个依赖都有难免在某个时刻失败，如果应用不隔离各个依赖，降低外部的风险，那容易拖垮整个应用。举个电商场景中常见的例子，比如订单服务调用了库存服务、商品服务、积分服务、支付服务，系统均正常情况下，订单模块正常运行。image但是当积分服务发生异常时且会阻塞30s时，订单服务就有有部分请求失败，且工作线程阻塞在调用积分服务上。ima
vivo互联网技术·2024-02-08 19:07

7.0 MapReduce编程实例教程

在学习了MapReduce的使用之后，我们已经可以处理字数统计之类的统计和搜索任务，但是调查上MapReduce还有很多可以做的事情。
二当家的素材网·2024-02-08 18:11

（十七）springboot实战——spring securtity的授权流程源码解析

前言本节内容是关于springsecurity安全框架授权流程的源码分析，springsecurity的授权流程主要是在FilterSecurityInterceptor过滤器中实现的。
厉害哥哥吖·2024-02-08 17:19

（十六）springboot实战——spring securtity的认证流程源码解析

前言本节内容是关于springsecurity安全框架认证流程的源码分析，springsecurity的认证流程主要是在UsernamePasswordAuthenticationFilter过滤器中实现的
厉害哥哥吖·2024-02-08 17:47

深度解析ScheduledThreadPoolExecutor源码之ScheduledFutureTask

文章目录引言一、RunnableScheduledFuture定义周期性接口二、ScheduledFutureTask源码分析2.1ScheduledFutureTask参数解析2.2ScheduledFutureTask
对酒当歌丶人生几何·2024-02-08 17:45

深入理解Spark的前世今生

Spark，是一种通用的大数据计算框架，正如传统大数据技术Hadoop的MapReduce、Hive引擎，以及Storm流式实时计算引擎等。
闲云野鹤~~~·2024-02-08 14:01

四、Docker Daemon 中NewDaemon的实现（摘自《Docker源码分析》）

1、NewDaemon作用简介在Docker架构中有很多重要的概念，如：graph，graphdriver，execdriver，networkdriver，volumes，Dockercontainers等。Docker在实现过程中，需要将以上实体进行统一化管理，而DockerDaemon中的daemon实例就是设计用来完成这一任务的实体。2、NewDaemon介绍NewDaemon函数的执行完
elsen_zhao·2024-02-08 12:48

通过nginx学习linux进程名的修改

目录1.缘起2.背景知识3.源码分析3.1准备工作3.2设置进程名字1.缘起  在运行nginx的时候，用ps查看nginx的进程信息，可能的输出如下：root421693105016:51?
码农心语·2024-02-08 11:30

nginx stream proxy 模块的ssl连接源码分析

目录1.源起2.分析验证环境的配置3.源码分析3.1代理模块的请求入口点分析3.2发起与上游服务器的连接3.3连接回调3.4TCP连接建立成功后为上下游数据透传做准备3.5TCP连接的ssl上下文初始化
码农心语·2024-02-08 11:59

No.2大数据入门 | 环境搭建：jdk1.8安装及环境配置

Hadoop实现了一个分布式文件系统(HadoopDistributedFileSystem)，简称HDFS，Hadoop的框架最核心的设计就是:HDFS和MapReduce：HDFS为海量的数据提供了存储
滚滚红尘_8133·2024-02-08 11:43

基于注解的SpringAOP源码解析（三）

注意，读完本篇文章需要很长很长时间在之前的2篇文章：AOP源码分析（一）AOP源码分析（二）中，我们搭建了SpringAOP源码分析的环境，介绍了@EnableAspectJAutoProxy注解和postProcessBeforeInstantiation
Java学习录·2024-02-08 08:18

View#post(Runnable runnable)为什么能拿到view的宽高。

基于androidsdk-23的源码分析，文章分成两个部分，实际上我是先写第二部分了再写第一部分的。第一部分看一下view.post的内部。
HWilliamgo·2024-02-08 08:24

【Java】ArrayList和LinkedList的区别是什么

目录1.数据结构2.性能特点3.源码分析4.代码演示5.细节和使用场景ArrayList和LinkedList分别代表了两类不同的数据结构：动态数组和链表。
王果冻ddd·2024-02-08 07:54

Flink on Yarn的两种模式

首先，在集群运行时，可能会有很多的集群实例包括MapReduce、Spark、Flink等等，那么如果它们全基于onYarn就可以完成资源分配，减少单个实例集群的维护，提高集群的利用率。
GOD_WAR·2024-02-08 07:22

【深入浅出 Yarn 架构与实现】6-4 Container 生命周期源码分析

本文将深入探讨AM向RM申请并获得Container资源后，在NM节点上如何启动和清理Container。将详细分析整个过程的源码实现。一、Container生命周期介绍Container的启动由ApplicationMaster通过调用RPC函数ContainerManagementProtocol#startContainers()发起请求，NM中的ContainerManagerImpl组件
大数据王小皮·2024-02-08 07:27

sqoop导入数据到hdfs

：将MySQL，Oracle导入数据到Hadoop的HDFS、HIVE、HBASE等数据存储系统导出数据：从Hadoop的文件系统中导出数据到关系数据库2.Sqoop的工作机制将导入和导出的命令翻译成mapreduce
鲲鹏猿·2024-02-08 06:40

6.824-Lab 1: MapReduce

lab1链接：6.824Lab1:MapReduce(mit.edu)介绍在这个实验中，你将构建一个MapReduce系统。
向来痴_·2024-02-08 06:20

MapReduce的类型与格式

MapReduce数据处理模型：map和reduce函数的输入和输出时键值对。
Vechace·2024-02-08 05:31

Hyperledger-Fabric源码分析（Gossip-Emitter）

接下来我们来看看Emitter模块，这里初略的看就是gossip的消息发送的模块。下面我们来具体分析下启动时机funcNewGossipService(conf*Config,s*grpc.Server,saapi.SecurityAdvisor,mcsapi.MessageCryptoService,selfIdentityapi.PeerIdentityType,secureDialOptsa
Pillar_Zhong·2024-02-08 04:11

Spring Boot原理剖析和源码分析

SpringBoot原理剖析和源码分析依赖管理问题一：为什么导入dependency时不需要指定版本？
左师兄zuosx·2024-02-08 03:53

第二十三章、AtomicInteger源码分析—基于CAS的乐观锁实现

1.悲观锁与乐观锁cpu是时分复用的，也就是把cpu的时间片，分配给不同的thread/process轮流执行，时间片与时间片之间，需要进行cpu切换，也就是会发生进程的切换。切换涉及到清空寄存器，缓存数据。然后重新加载新的thread所需数据。当一个线程被挂起时，加入到阻塞队列，在一定的时间或条件下，在通过notify()，notifyAll()唤醒回来。在某个资源不可用的时候，就将cpu让出，
小母牛不生产奶·2024-02-08 00:17

Spark Standalone 集群配置

ApacheMesos-一个通用的集群管理器，也可以运行HadoopMapReduce和服务应用程序。（已弃用）HadoopYARN-Hado
董可伦·2024-02-07 23:01

【Canal源码分析】Canal Server的启动和停止过程

一、序列图1.1启动启动序列图.png1.2停止停止序列图.png二、源码分析整个server启动的过程比较复杂，看图难以理解，需要辅以文字说明。
端木轩·2024-02-07 22:31

vue双向绑定的原理及实现双向绑定MVVM源码分析

Vue双向数据绑定的原理：可以将对象的属性绑定到UI，具体的说，我们有一个对象，该对象有一个name属性，当我们给这个对象name属性赋新值的时候，新值在UI上也会得到更新。同样的道理，当我们有一个输入框或者textarea的时候，我们输入一个新值的时候，也会在该对象的name属性得到更新。数据劫持实现双向数据绑定：vue.js则是采用数据劫持结合发布者-订阅者模式，通过Object.define
前端来入坑·2024-02-07 19:40

Adb显示第3方应用的包名原理

Android早期版本实现原理请看Android源码分析-pm命令的实现，列出包名pmlistpackage，列出系统库pmlistlibraries_pmlistpackages-CSDN博客Android12
亚瑟-小郎·2024-02-07 16:24

02Nginx源码分析之总结内存开辟的相关函数(ngx_alloc.c，ngx_palloc.c)

02Nginx源码分析之总结内存开辟的相关函数(ngx_alloc.c，ngx_palloc.c)前言：写这一篇的目的是为了方便接下来的阅读，否则每次都要对应查找相应的函数，非常麻烦。
Mango酱·2024-02-07 15:53

DataX详解和架构介绍

系列文章目录一、DataX详解和架构介绍二、DataX源码分析JobContainer三、DataX源码分析TaskGroupContainer四、DataX源码分析TaskExecutor五、DataX
shandongwill·2024-02-07 14:27

深入理解AQS独占锁之ReentrantLock源码分析

并发工具类的应用场景详解上一章我们讲解了ReentrantLock、Semaphore、CountDownLatch、CyclicBarrier等同步工具类的应用场景及实现，本章我们重点讲解ReentrantLock源码分析
Myname_China·2024-02-07 12:22

读写锁ReentrantReadWriteLock&StampLock详解

传送门：深入理解AQS独占锁之ReentrantLock源码分析目录读写锁介绍ReentrantReadWriteLock介绍ReentrantReadWriteLock的使用应用场景锁降级读写锁设计思路
Myname_China·2024-02-07 12:22

Vue.js 源码分析——模板编译和组件化

一、模板编译模板编译介绍：模板编译的主要目的是将模板（template）转换为渲染函数（render）titlesomecontent渲染函数render(h){returnh('div',[h('h1',{on:{click:this.handler}},'title'),h('p','somecontent')])}模板编译的作用Vue2.x使用VNode描述视图以及各种交互，用自己编写的VN
丽__·2024-02-07 12:41

Eureka源码分析（九）清理过期租约

下面我们来说说eureka的过期机制。其实这篇文章主要介绍的是AbstractInstanceRegistry的内部类EvictionTask。我们知道AbstractInstanceRegistry是包括了所有注册到EurekaServer上的实例。而EvictionTask就是清理过期租约的定时任务。在Eureka-Server启动时，初始化EvictionTask定时执行。protected
skyguard·2024-02-07 11:21

freertos 源码分析三 task 结构与几个链表

任务控制块taskControlBLock结构体，以下为部分typedefstructtskTaskControlBlock{volatileStackType_t*pxTopOfStack;//栈顶指针ListItem_txStateListItem;//任务状态表项ListItem_txEventListItem;//事件表项UBaseType_tuxPriority;//优先级StackTy
yvee·2024-02-07 10:20

freertos 源码分析四 任务创建的简单分析

任务创建xTaskCreate为TCB和TCB栈分配空间，初始化，加入就绪任务链表#if(configSUPPORT_DYNAMIC_ALLOCATION==1)BaseType_txTaskCreate(TaskFunction_tpxTaskCode,constchar*constpcName,constconfigSTACK_DEPTH_TYPEusStackDepth,void*const
yvee·2024-02-07 10:17

Hadoop分布式计算实验踩坑实录及小结

目录Hadoop分布式计算实验踩坑实录及小结踩坑实录Hadoop学习Hadoop简介HDFSSomeconceptsMapReduce主要配置文件集群搭建来源与引用Hadoop分布式计算实验踩坑实录及小结踩坑实录单机
小童同学_·2024-02-07 10:08

ConcurrentLinkedHashMap源码分析

一、简介ConcurrentLinkedHashMap是google开源的线程安全的方便并发的Map,Map利用LRU缓存机制对Map中存储对象进行换入换出管理。采用两套资源控制机制，一套同步机制，使用ConcurrentMap对对象数据进行KV存储，保证多线程并发安全地调用Map资源，而对于存储对象的换入换出管理则采用异步机制，使用Queuebuffer存储每次的因对象读写而产生的对象换入换出任
lim快乐_无限·2024-02-07 09:15

Flink执行流程与源码分析（面试必问，建议收藏）

Flink主要组件作业管理器（JobManager）(1)控制一个应用程序执行的主进程，也就是说，每个应用程序都会被一个不同的Jobmanager所控制执行(2)Jobmanager会先接收到要执行的应用程序，这个应用程序会包括：作业图（JobGraph）、逻辑数据流图（ogicaldataflowgraph）和打包了所有的类、库和其它资源的JAR包。(3)Jobmanager会把Jobgraph
大数据左右手·2024-02-07 09:04

三级？是缓存不是片！ spring的三级缓存---学习spring框架第一步

二、是怎么解决的三、反思总结源码分析：DefaultSingletonBeanRegistry类getSingleton方法三级缓存的作用反思总结面试点：1、三级缓存原理：如上2、二级缓存就可以解决了为什么还要有三级缓存为什么需要早期引用
苏汀star·2024-02-07 08:17

nginx upstream server主动健康检测模块ngx_http_upstream_check_module 使用和源码分析(中）

目录6.源码分析6.1解析指令分析6.2待检查的服务器的添加和状态查询6.3本模块的进程初始化函数6.4准备执行健康检测任务6.5执行健康检测任务本篇对ngx_http_upstream_check_module
码农心语·2024-02-07 07:53

nginx upstream server主动健康检测模块ngx_http_upstream_check_module 使用和源码分析(下）

目录7.实现一个UDP健康检测功能7.1功能定义7.2定义一个新的健康检测类型7.3增加udp特定的健康检测需要的配置指令7.3.1ngx_http_upstream_check_srv_conf_s结构体的扩展7.3.2check_udp_send的实现7.3.3check_udp_expect的实现7.3.416进制解码代码的实现7.4ngx_http_upstream_check函数的修改7
码农心语·2024-02-07 07:50

Hive Sql优化记录

该SQL是一个主表leftjoin多个子表（joinkey是一样的），分别查看了采用Hive执行和Spark执行的日志，具体如下：Hive：只有一个MapReduce过程，应该是在Map阶段同时读取了4
风筝flying·2024-02-07 07:40

ACK One Argo工作流：实现动态 Fan-out/Fan-in 任务编排

动态DAGFan-outFan-in也可以理解为MapReduce。每个子任
阿里云云原生·2024-02-07 06:51

Golang context 万字解析实现原理

Golang：context基于go1.21版本Context是什么Context的功能应用场景源码分析1.10Context核心结构1.1Err错误2.1emptyCtx3.1Background()
Go 的学习之路·2024-02-07 04:02

RocketMQ源码分析（四）消息的发送

消息发送的主要步骤为：验证消息，查找路由，消息发送（包含异常机制处理）我们以DefaultMQProducer#send为切入口：以下代码为验证消息publicSendResultsend(Messagemsg)throwsMQClientException,RemotingException,MQBrokerException,InterruptedException{//校验消息（主要是长度是
甘_·2024-02-07 04:01

muduo-net 源码分析（七）——TcpServer 和 TcpConnection（二）

先序这一节我们将继续完善TcpServer和TCPConnection类，并且解决上一节思考的问题【一定要理清思路】；TcpServer源码分析重要的变量ConnectionCallbackconnectionCallback
cyjiayou·2024-02-07 03:02

数据仓库-Hive基础（二）Hive 的基本概念

其本质是将SQL转换为MapReduce的任务进行运算，底层由HDFS来提供数据的存储，说白了hive可以理解为一个将SQL转换为MapReduce的任务的工具，甚至更进一步可以说hive就是一个MapReduce
做个合格的大厂程序员·2024-02-07 03:42

Java Character源码剖析

下面结合源码分析Character的贡献。Unicode也许你没听过Unicode，但应该见过UTF-8。
洒水水儿·2024-02-07 02:54

Spark大数据分析与实战笔记（第三章 Spark RDD弹性分布式数据集-01）

第3章SparkRDD弹性分布式数据集章节概要传统的MapReduce虽然具有自动容错、平衡负载和可拓展性的优点，但是其最大缺点是采用非循环式的数据流模型，使得在迭代计算式要进行大量的磁盘
想你依然心痛·2024-02-07 01:53
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他