hadoop源码分析

CopyOnWriteArrayList源码分析

介绍：CopyOnWriteArrayList是一个线程安全的ArrayList，它在每次修改（add/set/remove）时创建数组的新副本，然后将修改应用到新数组上。这是它名字的由来：“CopyOnWrite”。这种设计使得它在多线程环境下能提供更好的并发性能。当一个线程修改列表时，其他线程不能访问旧数组，因此不会受到数据不一致的影响。然而，写操作的代价是创建新数组并复制所有元素，这可能在大
不随意的风·2024-02-03 03:36

ConcurrentHashMap源码分析-关键特性使用简单用例实现

下面是一个简化的源码分析，帮助你理解ConcurrentHashMap的工作原理：importjava.util.concurrent.ConcurrentHashMap;publ
无名··2024-02-03 02:30

【SpringCloud技术专题】「Eureka源码分析」从源码层面让你认识Eureka工作流程和运作机制（上）

SpringCloud，大家都应该知道注册中心，而对于我们从过去到现在，SpringCloud中用的最多的注册中心就是Eureka了，所以深入Eureka的原理和源码，接下来我们要进行讲解下eureka的源码分析
洛神灬殇·2024-02-03 02:06

apache hadoop 2.4.0 64bit 在windows8.1下直接安装指南（无需虚拟机和cygwin）

工作需要，要开始搞hadoop了，又是大数据，自己感觉大数据、云，只是ERP、SOAP风潮之后与智能地球一起诞生的概念炒作。不过Apache是个神奇的组织，Java如果没有它也不会现在如火中天。
夜魔009·2024-02-03 00:56

Hadoop生态圈-组件介绍

Hadoop是目前应用最为广泛的分布式大数据处理框架，其具备可靠、高效、可伸缩等特点。Hadoop的核心组件是HDFS、MapReduce。
苏尔伯特·2024-02-03 00:19

测试环境搭建整套大数据系统（一：基础配置，修改hostname，hosts，免密，时间同步）

vim/etc/hostnamexdso-hadoop-test-001vim/etc/hosts192.168.50.60xdso-hadoop-test-001192.168.50.61xdso-ha
宇智波云·2024-02-03 00:15

搭建hadoop单机环境

hadoop笔记sbin:一些启动脚本【服务端的serverbin】logs:存放hadoop相关日志bin:客户端的脚本etc:hadoop相关的配置文件格式化文件系统配置免密码登录ssh-keygen-trsa-P
.Passion·2024-02-02 23:12

Hadoop单机环境搭建

Hadoop单机环境搭建一、jdk环境二、IP地址和主机名映射三、生成公私钥授权四、下载解压Hadoop五、配置Hadoop环境变量六、修改Hadoop配置文件七、关闭防火墙八、初始化九、启动十、Yarn
三暮辰·2024-02-02 23:42

docker搭建单机hadoop

docker搭建单机hadoop前言一、docker是什么？二、hadoop是什么？
阿桔是只猫·2024-02-02 23:41

手把手教Hadoop环境搭建，学不会你咬我～

之前后台小伙伴私信我想了解hadoop的单机环境安装，以方便用于hadoop学习，今天给大家安排上了，废话不多说，直接上干货。
程序IT圈·2024-02-02 23:11

hadoop单机模式搭建

1.新建虚拟机给虚拟机命名，选择存放路径接着指定磁盘大小，因为我们不止搭建单机模式还要搭建伪分布模式，这里我们选择80G这里会看到创建虚拟机完成，我们点击自定义硬件，选择合适的内存，处理器，还有映像文件，这里我们用不到声卡和打印机可以给他移除根据自己电脑配置选择合适的，这里我们选择完之后是这样的然后我们开启虚拟机
H6666W·2024-02-02 23:10

HADOOP_MAPRED_HOME=${full path of your hadoop distribution directory}

场景在Hadoop3.13的YARN上运行MapReduce报错信息终端界面提示FAILED:ExecutionError,returncode2fromorg.apache.hadoop.hive.ql.exec.mr.MapRedTask
小基基o_O·2024-02-02 23:10

单机搭建hadoop环境（包括hdfs、yarn、hive）

单机可以搭建伪分布式hadoop环境，用来测试和开发使用，hadoop包括：hdfs服务器yarn服务器，yarn的前提是hdfs服务器，在前面两个的基础上，课可以搭建hive服务器，不过hive不属于
howard_shooter·2024-02-02 23:39

由浅至深谈谈JUC

JUC并发工具一、CountDownLatch应用&源码分析1.1CountDownLatch介绍CountDownLatch就是JUC包下的一个工具，整个工具最核心的功能就是计数器。
被Java暴击的星河·2024-02-02 22:06

Hadopp未授权访问导致RCE

前言：Hadoop是一个开源的分布式计算框架，用于处理大规模数据集的存储和处理。
安鸾彭于晏·2024-02-02 22:27

6月11日第二十八次早课（sqoop）

主要用于在Hadoop与RDBMS间进行数据的传递2.sqoop分为哪两个分支，各最新版本是什么?
ly稻草·2024-02-02 19:55

深度学习的开源分布式框架Deeplearning4j

该框架基本上是由Hadoop和Spark集成的分布式深度学习库组成的。在Hadoop和Spark的帮助下，我们可以轻松地分发模型和大数据集，并运行
weixin_43106248·2024-02-02 19:13

Linux配置jdk8错误：/usr/libexec/grepconf.sh: line 5: grep: command not found 导致Linux基础命令无法使用

shell窗口或者重启Linux的时候，又出现了找不到命令的错误，一直在查资料，类似的exportxxx命令都可以临时解决问题，却在根源上解决不了问题1.打开.bash_profile文件[`root@hadoop000
独恋彼岸花·2024-02-02 18:30

Hive和Hbase的各自适用场景

一、区别：Hbase：Hadoopdatabase的简称，也就是基于Hadoop数据库，是一种NoSQL数据库，主要适用于海量明细数据（十亿、百亿）的随机实时查询，如日志明细、交易清单、轨迹行为等。
yoku酱·2024-02-02 17:36

IDEA如何进行远程Debug调试

背景：使用docker进行CVE漏洞复现的时候，由于只能黑盒进行复现，并不能知道为什么会产生这个漏洞，以及漏洞的POC为什么要这么写，之前我都是通过本地debug来进行源码分析，后来搜了一下，发现可以进行远程代码
Smileassissan·2024-02-02 16:47

「连载」边缘计算（十四）02-02：边缘部分源码（源码分析篇）

（接上篇）CloudCore本节将对CloudCore进行剖析，对CloudCore组件中功能模块共用的消息框架和各功能模块的具体功能进行深入剖析，具体包括CloudCore功能模块之间通信的消息框架、cloudhub剖析、edgecontroller剖析、devicecontroller剖析。CloudCore功能模块之间通信的消息框架CloudCore组件中各个功能模块之间是通过Beehive
十越科技·2024-02-02 15:12

Hadoop原理

Hadoop框架分布式文件存储-HDFS即Hadoop内提供分布式数据存储的文件系统分布式计算框架-MapReduce即Hadoop内提供的进行分布式计算的组件分布式资源调度-YARN即Hadoop内提供的进行分布式资源调度的组件
我走之後·2024-02-02 14:25

大数据技术之Hadoop

相关导论大数据相关导论首先我们要知道一切皆数据数据的作用从海量数据中提取出有效的价值信息,实现数据的商业化,价值化,给企业的决策者或者运营人员提供数据支持或者分析性报告.更好的了解事与物的运行规律,给生活赋能.什么是大数据数据的体量比较大,2000年全球互联的概念提出及普及后,数据量开始快速增长....数据单位:bit,byte,kb,mb,gb,tb,pb,eb,zb,yb,bb,nb,db大数
我走之後·2024-02-02 14:54

PySpark（一）Spark原理介绍、PySpark初体验及原理

SparkVSHadoop尽管Spark相对于Hadoop而言具有较大优势，但Spark并不能完全替代Hadoop在计算层面，Spark相比较MR（MapReduce）有巨大的性能优势，但至今仍有许多计算工具基于
独憩·2024-02-02 13:11

【livy】Spark Livy深究

的解决方案从任何地方提交job使用交互式的Scala、Python语言与远程的spark集群进行通信无需更改代码Livy的运作流程阐述Livy的安装、启动、访问Livy的启动：依次启动zookeeper集群、Hadoop
小赵要加油·2024-02-02 13:07

Iceberg从入门到精通系列之二十一：Spark集成Iceberg

从入门到精通系列之二十一：Spark集成Iceberg一、在Spark3中使用Iceberg二、添加目录三、创建表四、写五、读六、Catalogs七、目录配置八、使用目录九、替换会话目录十、使用目录特定的Hadoop
最笨的羊羊·2024-02-02 12:20

Android源码分析：Activity启动流程

分析流程基于Android8.0源码一般情况下我们通过Activity中的startActivity方法启动一个Activity。这个流程中涉及一下几个类：android.app.Activityandroid.app.Instrumentationcom.android.server.am.ActivityManagerServicecom.android.server.am.ActivityS
LeaYw·2024-02-02 12:27

实时数据湖：Flink CDC流式写入Hudi

点击上方蓝色字体，选择“设为星标”回复"面试"获取更多惊喜1.环境准备•Flink1.12.2_2.11•Hudi0.9.0-SNAPSHOT(master分支)•Spark2.4.5、Hadoop3.1.3
王知无(import_bigdata)·2024-02-02 12:01

pyspark的安装及使用

遇到加载不了选项框的情况可以尝试用手机打开网址获取下载链接后下载直接解压，注意路径不要有空格环境变量配置Path配置测试安装情况，cmd输入spark-shell出现WelcometoSpark表示安装成功，如果没有装Hadoop
a013067506e4·2024-02-02 11:56

Nginx RTMP源码分析--GOP的实现

nginxrtmpmodule的默认实现中，不支持gop缓存。我们可以自己进行开发，实现的主要原理是：当遇到关键帧时，清空旧的gop缓存并开始缓存新的帧数据；当play时，先将缓存的gop发送给对方，然后开始正常的发送的逻辑。具体逻辑如下：（这里只列出了主要的流程，并不是全部的代码实现）初始化在ngx_rtmp_session_t增加gop相关的字段：typedefstruct{....../*g
龙--技术总结分享·2024-02-02 09:12

「连载」边缘计算（八）01-25：边缘部分源码（源码分析篇）

搭建开发环境KubeEdge开发环境的搭建与7.1节高度相似，详情见《深入理解边缘计算：云、边、端工作原理与源码分析》。
十越科技·2024-02-02 08:18

「连载」边缘计算（十一）01-30：边缘部分源码（源码分析篇）

（接上篇）函数StartModules()定义具体如下所示。//StartModulesstartsmodulesthatareregisteredfuncStartModules(){coreContext:=context.GetContext(context.MsgCtxTypeChannel)modules:=GetModules()forname,module:=rangemodules
十越科技·2024-02-02 08:18

「连载」边缘计算（十二）01-31：边缘部分源码（源码分析篇）

组件源码分析本节将对Kubernetes的核心组件的源码进行梳理和分析。
十越科技·2024-02-02 08:18

「连载」边缘计算（十三）02-01：边缘部分源码（源码分析篇）

（接上篇）配置模块初始化配置模块初始化具体如下所示。err:=archaius.Init()...CONFIG=archaius.GetConfigFactory()（3）获取内存配置源获取内存配置源具体如下所示。ms:=memoryconfigsource.NewMemoryConfigurationSource()CONFIG.AddSource(ms)（4）获取命令行配置源获取命令行配置源具
十越科技·2024-02-02 08:46

freertos 源码分析一 list链表数据结构

链表和任务管理是freertos的核心，先分析链表源码，freertos的链表是双向环形链表，定义与数据结构在list.h中，表项的初始化，插入与删除在list.c中。数据结构一、表项数据结构structxLIST_ITEM{listFIRST_LIST_ITEM_INTEGRITY_CHECK_VALUEconfigLIST_VOLATILETickType_txItemValue;struct
yvee·2024-02-02 08:05

Hadoop环境搭建

目录一、简介1.1、概念1.2、优势1.3、Hadoop组成部分二、Hadoop运行环境搭建2.1安装VM（虚拟机管理环境）2.2VM网络设置2.3安装CentOS7系统2.4master主机进行网络配置
业里村牛欢喜·2024-02-02 07:24

Hadoop-生产调优(更新中)

128*1024*1024*1024/150byte≈9.1亿GMBKBByte2）Hadoop2.x系列，配置NameNode内存NameNode内存默认2000m，如果内存服务器内存4G，NameNode
OnePandas·2024-02-02 07:47

Hadoop3.x基础（3）- MapReduce

MapReduce概述MapReduce定义MapReduce优缺点优点缺点MapReduce核心思想MapReduce进程常用数据序列化类型MapReduce编程规范WordCount案例实操本地测试提交到集群测试Hadoop
魅美·2024-02-02 07:45

（二）hadoop搭建

1.下载访问https://hadoop.apache.org/releases.html查看hadoop最新下载地址wgethttps://dlcdn.apache.org/hadoop/common
调试大师·2024-02-02 07:41

（一）hadoop搭建之环境准备1

1.参考http://www.fogsvc.com/97.html文档设置三台虚拟机并固定ip192.168.1.10hadoop-master192.168.1.11hadoop-slave1192.168.1.12hadoop-slave22
调试大师·2024-02-02 07:40

【Hive】配置

服务部署hiveserver2服务介绍部署启动远程连接1.使用命令行客户端beeline进行远程访问metastore服务运行模式部署其他常见配置显示当前表头和库日志配置Hive的JVM堆内存设置关闭Hadoop
返返返·2024-02-02 07:33

Hbase安装详解

node1、node2、node3(已在/etc/hosts文件里做好了ip和名字的映射)b、软件压缩包存储路径:/export/software/c、解压后安装包存储路径:/export/server/d、hadoop
沉默鹰_90·2024-02-02 06:30

HBase详细安装指南

HBase–HadoopDatabase，是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统，利用HBase技术可在
嘎嘎嘎啊哈·2024-02-02 06:59

Java技术栈 —— Hive与HBase

一、参考文章或视频链接[1]《Java技术栈——Hadoop入门（一）》-CSDN二、如何
键盘国治理专家·2024-02-02 06:23

SpringBoot统一功能处理，拦截器，统一数据格式，捕捉异常

编辑@ControllerAdvice源码分析数据结构面试:HashMap,ConcurrentHashMap,ThreadLocal要看(建议看源码)网络:
狗哥不是甜妹·2024-02-02 06:49

【分布式技术专题】Guava RateLimiter 针对于限流器的入门到实战（含源码分析介绍）

GuavaRateLimiter针对于限流器的入门到实战限流器的思路和算法漏桶算法令牌算法RateLimiter限流器RateLimiter的作用create方法acquire方法tryAcquire方法详细分析参数抛出异常参数抛出异常实践案例第1次获取10个令牌第2次获取1个令牌第3次获取10个令牌资料参考限流器的思路和算法如果让你来造一个限流器，有啥想法？漏桶算法用一个固定大小的队列。比如设置
洛神灬殇·2024-02-02 06:52

linux 内核协议栈 ip_loopback,Linux内核协议栈源码分析.pdf

Linux内核协议栈源码分析.pdfLinux2.6协议栈源代码分析基于Linux2.6.18内核源码V0.1luoyu第i页Linux2.6协议栈源代码分析目录目录ii图目录iv表目录viii前言xiii
周雨鑫·2024-02-02 03:14

消息中间件之RocketMQ源码分析(三)

RocketMQ中的Consumer启动流程RocketMQ客户端中有两个独立的消费者实现类分别为DefaultMQPullConsumer和DefaultMQPushConsumer，DefaultMQPullConsumerDefaultMQPullConsumer,该消费者使用时需要用户主动从Broker中Pull消息和消费消息，提交消费位点继承关系图核心属性namesrvAddr:继承自C
coffee_babe·2024-02-02 01:55

消息中间件之RocketMQ源码分析(四)

消费者的Rebalance机制客户端是通过Rebalance服务做到高可靠的。当发生Broker掉线、消费者实例掉线、Topic扩容等各种突发情况时，消费者组中的消费者实例是怎么重平衡的，以支持全部队列的正常消费的?Rebalance服务的类图RebalanceImpl的核心属性ConcurrentMapprocessQueueTable:记录MessageQueue和ProcessQueue的关
coffee_babe·2024-02-02 01:55

LidarView源码分析（十三）vtkLidarReader类

该类负责读取pcap文件，并调用vtkLidarPacketInterpreter类进行数据解析。然后将数据传入vtk的渲染管线中。可以通过各种索引获取数据：帧数，网络时间，数据时间。头文件在渲染管线中调用的函数为RequestData，获取数据的函数为GetFrame。classLVIOLIDAR_EXPORTvtkLidarReader:publicvtkPolyDataAlgorithm{p
上官天耀·2024-02-02 01:05
上一页 12 13 14 15 16 17 18 19 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他