MapReduce源码分析

libevent源码分析（2）－－2.1.8－－结构体 struct event和struct event_callback

一、event_callback结构体structevent_callback{//下一个回调事件TAILQ_ENTRY(event_callback)evcb_active_next;//回调事件的状态标识，具体为：//#defineEVLIST_TIMEOUT0x01//event在time堆中，min_heap//#defineEVLIST_INSERTED0x02//event在已注册事件
录事参军·2024-02-07 01:18

Libevent源码分析-----与event相关的一些函数和操作

Libevent提供了一些与event相关的操作函数和操作。本文就重点讲一下这方面的源代码。在Libevent中，无论是event还是event_base，都是使用指针而不会使用变量。实际上，如果查看Libevent不同的版本，就可以发现event和event_base这两个结构体的成员是不同的。对比libevent-2.0.21-stable和libevent-1.4.13-stable这两个版
amoscykl·2024-02-07 01:48

Libevent源码分析-----信号event的处理

信号event的工作原理：前面讲解了Libevent如何监听一个IO事件，现在来讲一下Libevent如何监听信号。Libevent对于信号的处理是采用统一事件源的方式。简单地说，就是把信号也转换成IO事件，集成到Libevent中。统一事件源的工作原理如下：假如用户要监听SIGINT信号，那么在实现的内部就对SIGINT这个信号设置捕抓函数。此外，在实现的内部还要建立一条管道(pipe)，并把这
amoscykl·2024-02-07 01:47

Libevent源码分析-----超时event的处理

如何成为超时event：Libevent允许创建一个超时event，使用evtimer_new宏。//event.h文件#defineevtimer_new(b,cb,arg)event_new((b),-1,0,(cb),(arg)) 从宏的实现来看，它一样是用到了一般的event_new，并且不使用任何的文件描述符。从超时event宏的实现来看，无论是evtimer创建的event还是一般ev
amoscykl·2024-02-07 01:47

Libevent源码分析-event_base

event_base数据结构初始化event_base相关接口前面介绍了event，本节介绍Reactor的核心结构：event_base，它在event-internal.h中。event_base是整个libevent的核心，它持有所有注册的事件，并负责通知激活的事件。event_base数据结构structevent_base{conststructeventop*evsel;void*ev
KangRoger·2024-02-07 01:16

2024-02-06（Sqoop）

Sqoop工作机制是将导入或者导出命令翻译成MapReduce程序来实现。在翻译出的MapReduce中主要是对inputformat和outputformat进行定制。
陈xr·2024-02-06 23:29

MyBatis的二级缓存以及装饰器模式运用

目录Mybatis中如何配置二级缓存基于注解配置缓存基于XML配置缓存Cache解析处理过程Cache支持的过期策略缓存的基本实现装饰器模式Mybatis缓存实现源码分析BlockingCacheLRU
陈脩·2024-02-06 21:08

JUC AQS ReentrantLock源码分析（一）

Java的内置锁一直都是备受争议的，在JDK1.6之前，synchronized这个重量级锁其性能一直都是较为低下，虽然在1.6后，进行大量的锁优化策略,但是与Lock相比synchronized还是存在一些缺陷的：虽然synchronized提供了便捷性的隐式获取锁释放锁机制（基于JVM机制），但是它却缺少了获取锁与释放锁的可操作性，可中断、超时获取锁，且它为独占式在高并发场景下性能大打折扣。如
程序员Yamy·2024-02-06 19:13

[k8s源码分析][client-go] workqueue

1.前言转载请说明原文出处,尊重他人劳动成果!源码位置:https://github.com/nicktming/client-go/tree/tming-v13.0/util/workqueue分支:tming-v13.0(基于v13.0版本)本文将分析util包中的workqueue.在各类controller中经常会使用该workqueue中的一些类.architecture.png2.qu
nicktming·2024-02-06 15:10

2024-02-05(Hive)

对这种表一个简单的SELECT*都会非常的慢，哪怕LIMIT10想要看10条数据，也会走MapReduce流程，这个时间等待是非常不合适的。
陈xr·2024-02-06 14:57

nginx upstream server主动健康检测模块ngx_http_upstream_check_module 使用和源码分析(上）

2.1check2.2check_keepalive_requests2.3check_http_send2.4check_http_expect_alive2.5check_shm_size2.6check_status3.加载健康检测模块3.1模块的编译3.2模块的配置4.测试验证5.思考与问题6.源码分析
码农心语·2024-02-06 14:27

Hbase 数据迁移

Hbase数据迁移可选方案对比l已验证方案操作说明：nExport&importu导出命令及示例hbaseorg.apache.hadoop.hbase.mapreduce.Export“表名”文件路径导出至本地文件系统
运维那些事儿·2024-02-06 14:44

设计模式之原型模式

克隆羊问题1.1传统方式解决克隆羊问题1.2代码1.3传统方式的缺点二、原型模式2.1原型模式基本介绍2.2原型模式原理结构uml类图2.3原型模式解决克隆羊问题的应用实例2.4原型模式在Spring框架中源码分析三
咱老李·2024-02-06 11:41

Spring框架AOP源码分析(二)

AOP编程使用1.注解版本实现AOP开启事物注解权限@Aspect指定一个类为切面类@Pointcut("execution(*com.itmayiedu.service.UserService.add(..))")指定切入点表达式@Before("pointCut_()")前置通知:目标方法之前执行@After("pointCut_()")后置通知：目标方法之后执行（始终执行）@AfterRet
Mark_ZSQ·2024-02-06 10:18

RTthread线程间通信(邮箱,消息队列,信号/软件中断)---03信号(软件中断)源码分析

信号实际使用看这一个#ifdefined(RT_USING_SIGNALS)rt_sigset_tsig_pending;/**sig_vectors==RT_NULL){//这一个线程之前没有安转过rt_thread_alloc_sig(tid);}if(tid->sig_vectors){old=tid->sig_vectors[signo];if(handler==SIG_IGN)tid->
唐·柯里昂798·2024-02-06 09:15

netty-websocket扩展协议及token鉴权补充

文章源码：gitee源码部分可以看上一篇文章中的源码分析netty-websocket鉴权token及统一请求和响应头（鉴权控制器）最近刚好没事，看到有朋友说自定义协议好搞，我就想了想，发现上面那种方式实现确实麻烦
离别又见离别·2024-02-06 08:12

c++之std::unique_lock, std::lock, std::scoped_lock及std::condition_variable

可用的第二个参数有三种，而lock_guard只有一种unique_lock的析构需要判断_M_owns，而lock_guard无需判定条件变量的传参为unique_lock说什么都不如源码来的简单明了1.1源码分析
liuge·2024-02-06 08:12

xv6（RISC-V）操作系统源码分析第六节——锁

一、程序并发执行带来的问题及解决方案（一）并发执行带来的问题程序的并发执行提高了程序执行的效率，这是大多数内核所追求的，xv6也是这样。xv6采用两种方式实现程序的并发执行：采用多处理器架构在一个CPU上实现多线程机制xv6采用多处理器架构（硬件系统具有多个CPU独立执行）来实现程序的并发执行。这些CPU共享同一个DRAM，这种共享就带了问题：一个CPU在读取一个数据的同时，另一个CPU正在更新它
MCQSLW·2024-02-06 08:05

xv6（RISC-V）操作系统源码分析第一节——操作系统接口

一、内核与进程xv6使用传统形式内核（一个向其他运行中的程序提供服务的特殊程序）。每一个正在运行的程序称为进程，进程拥有自己的指令、数据与栈的内存空间。它们的功能如下：指令：实现程序的运算数据：用于运算过程的变量栈：管理程序的过程调用一个计算机通常有许多进程，但只有一个内核。二、进程调用内核服务的方式——系统调用进程通过调用系统调用来调用内核的服务。系统调用是操作系统接口中的一个调用。系统调用会进
MCQSLW·2024-02-06 08:34

xv6（RISC-V）操作系统源码分析第二节——操作系统组织

一、一个操作系统的基本要求一个操作系统至少需要满足以下三个要求：多路复用进程隔离进程通信（一）多路复用硬件CPU的数量有限，且往往少于同时存在的进程数量。而操作系统需要支持进程的并发执行，所以操作系统应该能使多个进程分时共享计算机的资源。（二）进程隔离一个进程的运行，应当具有一定的独立性，这个独立性指该进程在一定程度上不受其他进程的影响。这可以保证出了bug的程序不会严重影响其他程序的正常运行。（
MCQSLW·2024-02-06 08:34

xv6（RISC-V）操作系统源码分析第三节——地址映射与内存分配

一、xv6页表的作用物理内存指DRAM中的存储单元。物理存储器的一个字节有一个地址，称为物理地址。当指令操作虚拟地址时，分页硬件会将其翻译成物理地址，然后发送给DRAM硬件以读写。而分页硬件操作的核心数据结构就是页表。页表在物理内存中。通过页表机制，xv6为每个进程提供各自私有的地址空间和内存。页表决定了内存地址的含义与物理内存的哪些部分可以被访问。页表提供了一个间接层次，允许xv6实现如下技巧：
MCQSLW·2024-02-06 08:34

xv6（RISC-V）操作系统源码分析第五节——中断与设备驱动

一、驱动程序驱动程序是操作系统中管理特定设备的代码，它的功能包括：配置设备相关的硬件控制设备的执行处理设备产生的中断与等待设备I/O的进程进行交互驱动程序会与它所管理的设备并发执行。驱动程序必须了解设备的硬件接口。设备可以产生设备中断，在xv6中，内核中的devintr程序会处理这个中断。许多设备驱动程序会在两个上下文（context）中执行代码。这两个上下文分别是：上半部分（tophalf）：在
MCQSLW·2024-02-06 08:34

【Flink入门修炼】1-1 为什么要学习 Flink？

一、批处理和流处理早些年，大数据处理还主要为批处理，一般按天或小时定时处理数据，代表性的框架为MapReduce、Hive、Spark等。
大数据王小皮·2024-02-06 07:29

Semaphore源码分析

1.Semaphore定义Semaphore主要用于限量控制并发执行代码的工具类,其内部通过一个permit来进行定义并发执行的数量,其实可以理解为一个限制数量的ReadLock获取.Semaphore主要特点:Semaphore方法的实现通过Sync(AQS的继承类)代理来实现2.支持公平与非公平模式,都是在AQS的子类里面进行,主要区分在tryAcquire里面先看一个简单的demoimpor
铁甲依然在_978f·2024-02-06 07:12

ReentrantLock源码分析、LockSuppor、ReentrantReadWriteLock、锁优化的方法

ReentrantLock类图我们看一下重入锁ReentrantLock类关系图，它是实现了Lock接口的类。NonfairSync和FairSync都继承自抽象类Sync，在ReentrantLock中有非公平锁NonfairSync和公平锁FairSync的实现。在重入锁ReentrantLock类关系图中，我们可以看到NonfairSync和FairSync都继承自抽象类Sync，而Sync
_蓝天IT_·2024-02-06 07:12

Apache Hadoop

ApacheHadoop_狭义上说，Hadoop指Apache一款java语言开发的开源框架，它的核心组件有：HDFS（分布式文件系统）：解决海量数据存储YARN（作业调度和集群资源管理的框架）：解决资源任务调度MAPREDUCE
VincentLeon·2024-02-06 05:28

PySpark（三）RDD持久化、共享变量、Spark内核制度，Spark Shuffle

Spark为什么比MapReduce快？Spark并行度SparkShuffleHashShuffleSortShuffleRDD持久化RDD的数据是过程数据RDD之间进行
独憩·2024-02-06 03:43

MySQL进阶垫脚石：线程长时间处于killed状态怎么破？

二、源码分析1、MySQL执行流程简介MySQL的启
程序员与Python·2024-02-06 03:36

架构师五分钟带你读懂，Volatile的作用及原理

架构师五分钟带你读懂，Volatile的作用及原理文章简介分析volatile的作用以及底层实现原理，这也是大公司喜欢问的问题内容导航volatile的作用什么是可见性volatile源码分析一、volatile
勤奋的码农·2024-02-06 00:17

消息中间件之RocketMQ源码分析(五)

消费进度保存机制消费者启动时会同时启动位点管理器，RocketMQ设计了远程位点管理和本地位点管理两种位点管理方式.集群消费时，位点由客户端提交给Broker保存.广播消费时，位点保存在消费者本地磁盘上OffsetStore接口核心方法voidload():加载位点信息voidupdateOffset():更新缓存位点信息longreadOffset():读取本地位点信息voidpersistAl
coffee_babe·2024-02-05 20:57

SpringBoot Security安全认证框架初始化流程&认证流程之源码分析

SpringBootSecurity安全认证框架初始化流程&认证流程之源码分析以RuoYi-Vue前后端分离版本为例分析SpringBootSecurity安全认证框架初始化流程&认证流程的源码分析目录
老杜095·2024-02-05 18:04

DPDK系列之四十一数据收发整体流程源码分析之一整体流程

一、说明在前面的分析中基本介绍了DPDK中的各种模块的技术架构，从这篇开始，就从头开始对整个代码的流程进行分析，然后在此基础上，初步掌握了DPDK的代码架构和功能分析后，再对基于DPDK的上层应用进行分析。这是一个从分到合，从基础到应用的过程。在这个过程中需要不断的回顾和补充原来的知识。二、数据包流程在前面详细分析过数据包的转运流程，其实做一种IO接口，一定是分成两部分，即数据的接收和发送。从宏观
fpcc·2024-02-05 17:18

SOFABolt 源码分析13 - Connection 事件处理机制的设计

image.pngConnection事件处理相关类ConnectionEventType：定义了三种Connection相关事件ConnectionEventHandler：Connection事件处理器，处理两类事件Netty定义的事件：例如connect，channelActive等SOFABolt定义的事件：事件类型ConnectionEventTypeRpcConnectionEvent
原水寒·2024-02-05 16:48

所有HDFS磁盘数据存储不均情况的终极处理方案

该值不能设置很大，否则会造成MapReduce程序执行缓
二百四十九先森·2024-02-05 16:08

ROS-I simple_message 源码分析：SmplMsgConnection

SmplMsgConnection类定义了一些接口和常用的方法，用于SimpleMessage消息的发送，它做了两个假设：连接能够发送原始字节数据（封装在simplemessage之中）提供显示的connect方法来建立连接（相应的也要有一个disconnect），对于无连接的通信，比如UDP，则可以不用实现connect方法（作为一个空操作）此处的连接(connection)是代表的抽象连接，也
play_robot·2024-02-05 16:23

LinkedList集合

LinkedList集合1.概述2.方法2.1特有方法2.2代码示例3.遍历方法4.注意事项5.源码分析其他集合类父类List类祖父类Collection类具体信息请查看API帮助文档1.概述LinkedList
酷小洋·2024-02-05 15:47

2019年需要学习的专业知识

接下来的学习计划软件知识体系结构基础知识C/C++编程语言数据结构算法分析与实现中级知识编译器原理操作系统网络编程高级知识Linux内核源码分析硬件知识体系结构基础知识电路知识模拟电路数字电路计算机组成原理处理器体系架构实现应用性知识
大道而至简·2024-02-05 15:13

了解Vue2全局API这一篇就够了

复习完之后小哆啦也会跟着大佬去学习vue的源码分析，在总结的时候小哆啦也尽量去理解大佬的设计思想。
故梦867·2024-02-05 14:56

计算机毕业设计hadoop+spark+hive小说数据分析可视化大屏 小说推荐系统 小说爬虫 小说大数据 机器学习 知识图谱 小说网站 大数据毕业设计

流程1.爬取17k的小说数据约5-10万，存入mysql数据库；2.使用mapreduce对mysql中的小说数据集进行数据清洗，转为.csv文件上传至hdfs文件系统；3.根据.csv文件结构，使用hive
计算机毕业设计大神·2024-02-05 14:48

SpringBoot自动装配原理源码分析（详细）

SpringBoot自动装配原理源码分析1.前言2.SpringBoot源码2.1@SpringBootApplication注解2.2@EnableAutoConfiguration注解2.2.1selectImports
coderedma·2024-02-05 13:55

工作流调度器azkaban(一) 简介与安装部署

为什么需要工作流调度系统一个完整的数据分析系统通常都是由大量任务单元组成：shell脚本程序，java程序，mapreduce程序、hive脚本等各任务单元之间存在时间先后及前后依赖关系为了很好地组织起这样的复杂执行计划
做个合格的大厂程序员·2024-02-05 13:11

6.0 MapReduce 服务使用教程

在学习了之前的MapReduce概念之后，我们应该已经知道什么是Map和Reduce，并了解了他们的工作方式。本章将学习如何使用MapReduce。
二当家的素材网·2024-02-05 13:29

trinitycore 魔兽服务器源码分析(一) 网络

trinitycore是游戏服务器的开源代码许多玩家使用魔兽的数据来进行测试,使用它来假设魔兽私服。官方网址https://www.trinitycore.org/类似的还有mangos和kbengine不过mangos使用庞大的ACE网络框架kbengine使用自写网络库两者均使用了多语言进行开发作为trinitycore主要使用c++。代码比较好读，就开启本篇这个代码阅读的坑代码要求具备c++
weixin_30781107·2024-02-05 12:03

Nacos 源码分析

Nacos源码分析1.下载Nacos源码并运行要研究Nacos源码自然不能用打包好的Nacos服务端jar包来运行，需要下载源码自己编译来运行。
萧曵 丶·2024-02-05 11:55

Sentinel 源码分析

Sentinel源码分析项目源码1.Sentinel的基本概念Sentinel实现限流、隔离、降级、熔断等功能，本质要做的就是两件事情：统计数据：统计某个资源的访问数据（QPS、RT等信息）规则判断：判断限流规则
萧曵 丶·2024-02-05 11:55

SpringMVC精简知识点

数据格式化基本数据类型和字符串自动转换特殊数据类型和字符串自动转换验证及国际化应用实例注意事项和使用细节注解的结合使用数据类型转换校验核心类-DatBinder取消某个属性的绑定中文乱码解决处理json和HttpMessageConverter作业布置SpringMVC文件上传自定义拦截器异常处理SpringMVC执行流程-源码分析作业布置数据格式化
~ 小团子·2024-02-05 10:22

在 CDH 中调优 Apache Hive on Spark

Spark上的Hive在提供相同功能的同时提供比MapReduce上的Hive更好的性能。在Spark上运行Hive不需要更改用户查询。
海阔天空&沫语·2024-02-05 09:27

Runtime源码剖析 对象、类(元类)与isa

从这篇博客开始我们就会进行Runtime源码分析，所以你需要准备一份最新的源代码，源码建议从Apple官方获取本篇博客所用的是750.1版本的objc4源码(目前最新版)对象objc_object定义在
萨缪·2024-02-05 08:20

nginx slice模块的使用和源码分析

文章目录1.为什么需要ngx_http_slice_module2.配置指令3.加载模块4.源码分析4.1指令分析4.2模块初始化4.3slice模块的上下文4.2$slice_range字段值获取4.3httpheader
码农心语·2024-02-05 06:40

nginx flv模块的使用和源码分析

这里写自定义目录标题1.为什么需要ngx_http_flv_module2.配置指令3.加载ngx_http_flv_module模块4.源码分析4.1指令分析4.2ngx_http_flv_handler
码农心语·2024-02-05 06:40
上一页 4 5 6 7 8 9 10 11 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他