spark原理分析

69.Kudu、Spark2、Kafka安装—CDH

69.1演示环境介绍CDH集群运行正常操作系统版本为：CentOS6.5CM和CDH版本为：5.12.1CM管理员为：admin用户操作系统用户为：root用户69.2操作演示Kudu安装Kudu的Parcel部署下载Kudu的Parcel包：http://archive.cloudera.com/kudu/parcels/5.12.1/KUDU-1.4.0-1.cdh5.12.1.p0.10-e
大勇任卷舒·2024-02-09 14:55

spark开发中的Zip算子灵活使用

本人开发中，需要聚合的文段举个栗子：RDD中有如下元素kv(（a,b）,List(7，8，9))(（a,b）,List(1，2，3))(（a,b）,List(4，5，6))(（c,d）,List(4，5，6))。。。。。。reducebyke后要对v操作原理将v中的list前后zip再map每个元素进行逐个元组元素（口，口）的累加。a代表v的前一个元素，b代表v的后一个元素如vala=List（7
Hero.Lin·2024-02-09 13:35

Hystrix系列之执行原理分析

上文中介绍了Hystrix的由来，本文会深入分析Hystrix的执行过程。Hystrix的大部分逻辑基于RxJava，其实现让很热多人望而却步，停留在了仅仅使用的地步，从一个简单的HelloWorld开始。publicclassCommandHelloWorldextendsHystrixCommand{privatefinalStringname;publicCommandHelloWorld(
美团Java·2024-02-09 11:50

Spark是什么？与MapReduce的对比

Spark是一个基于内存的集群计算系统，是一个分布式的计算框架。Spark可以将计算任务分发到多个机器并行计算。
Tim在路上·2024-02-09 10:27

spark 资源动态释放

通过spark-submit会固定占用一占的资源，有什么办法，在任务不运作的时候将资源释放，让其它任务使用呢，yarn新版本默认已经支持了，我们使用的是HDP。
kikiki2·2024-02-09 09:54

macos安装local模式spark

文章目录配置说明安装hadoop安装Spark测试安装成功配置说明Scala-3.18+Spark-3.5.0Hadoop-3.3.6安装hadoop从这里下载相应版本的hadoop下载后解压，配置系统环境变量
SparklingTheo·2024-02-09 08:52

SQL条件判断语句嵌套window子句的应用【易错点】--HiveSql面试题25

目录0需求分析1数据准备3数据分析4小结0需求分析需求：表如下user_idgood_namegoods_typerk1hadoop1011hive1221sqoop2631hbase1041spark1351flink2661kafka1471oozie108
莫叫石榴姐·2024-02-09 06:00

HiveSQL——条件判断语句嵌套windows子句的应用

0需求分析需求：表如下user_idgood_namegoods_typerk1hadoop1011hive1221sqoop2631hbase1041spark1351flink2661kafka1471oozie108
爱吃辣条byte·2024-02-09 06:58

Spark SQL（十一）：与Spark Core整合

每日top3热点搜索词统计Demo1、数据格式：日期用户搜索词城市平台版本2、需求：1、筛选出符合查询条件（城市、平台、版本）的数据2、统计出每天搜索uv排名前3的搜索词3、按照每天的top3搜索词的uv搜索总次数，倒序排序4、将数据保存到hive表中3、实现思路：1、针对原始数据（HDFS文件），获取输入的RDD2、使用filter算子，去针对输入RDD中的数据，进行数据过滤，过滤出符合查询条件
雪飘千里·2024-02-09 06:34

大数据 - Spark系列《五》- Spark常用算子

Spark系列文章：大数据-Spark系列《一》-从Hadoop到Spark：大数据计算引擎的演进-CSDN博客大数据-Spark系列《二》-关于Spark在Idea中的一些常用配置-CSDN博客大数据
王哪跑nn·2024-02-09 05:25

SQL、Hive中的SQL和Spark中的SQL三者联系与区别

SQL、Hive中的SQL和Spark中的SQL（即SparkSQL）都是用于处理和分析数据的查询语言，但它们在实现、性能、应用场景等方面存在一些明显的区别和联系。
大数据ＳＱＬｂｏｙ·2024-02-09 05:20

pyspark操作示例

前置pipinstallpyspark为了支持py4j的使用，需要进行如下设置，并修改了java_gateway.py中的env['_PYSPARK_DRIVER_CALLBACK_HOST']='127.0.0.1
佛系小懒·2024-02-09 05:15

二值图像分析：轮廓形状逼近与拟合

二值图像分析：轮廓形状逼近与拟合1.二值图像轮廓逼近1.1轮廓逼近函数1.2轮廓逼近算法原理分析2.代码实践3.最小外接圆拟合4.最大内接圆拟合4.1点轮廓位置测试函数4.2获取轮廓最大内接圆1.二值图像轮廓逼近
stdcoutzrh·2024-02-09 05:44

spark从入门到放弃二十八:Spark Sql (1)Data Set

文章地址：http://www.haha174.top/article/details/257834项目源码：https://github.com/haha174/spark.git1.简介SparkSql
意浅离殇·2024-02-09 03:17

再聊阴影裁剪与高性能视锥剔除

【USparkle专栏】如果你深怀绝技，爱“搞点研究”，乐于分享也博采众长，我们期待你的加入，让智慧的火花碰撞交织，让知识的传递生生不息！
UWA·2024-02-09 03:24

spark原理总体介绍

拿到系统后，部署系统是第一件事，那么系统部署成功以后，各个节点都启动了哪些服务？部署图image.png从部署图中可以看到整个集群分为Master节点和Worker节点，相当于Hadoop的Master和Slave节点。Master节点上常驻Master守护进程，负责管理全部的Worker节点。Worker节点上常驻Worker守护进程，负责与Master节点通信并管理executors。Driv
tracy_668·2024-02-09 03:48

SpringBoot源码解读与原理分析(七)BeanFactory

文章目录3SpringBoot的IOC容器3.1SpringFramework的IOC容器3.1.1BeanFactory3.1.1.1BeanFactory根接口3.1.1.2HierarchicalBeanFactory3.1.1.3ListableBeanFactory3.1.1.4AutowireCapableBeanFactory3.1.1.5ConfigurableBeanFactor
灰色孤星A·2024-02-09 03:53

SpringBoot源码解读与原理分析(二十五)IOC容器的刷新(六)

文章目录7.12完成容器的创建工作7.12.1LifecycleProcessor7.12.2getLifecycleProcessor().onRefresh()7.13清除缓存7.14IOC容器初始化中的扩展点7.14.1invokeBeanFactoryPostProcessors7.14.1.1ImportSelector和ImportBeanDefinitionRegistrar7.14
灰色孤星A·2024-02-09 03:22

SpringBoot源码解读与原理分析(十四)SpringApplication的总体设计

文章目录4SpringBoot的核心引导：SpringApplication4.1总体设计4.1.1启动失败的错误报告4.1.2Bean的延迟初始化4.1.3SpringApplication的定制4.1.4Web类型推断4.1.5监听与回调1.核心监听类SpringApplicationRunListener2.SpringBoot新引入的事件4.1.6应用退出4SpringBoot的核心引导：
灰色孤星A·2024-02-09 03:52

SpringBoot源码解读与原理分析(二十二)IOC容器的刷新(三)ConfigurationClassPostProcessor

文章目录7.5.7ConfigurationClassPostProcessor7.5.7.1processConfigBeanDefinitions的主体逻辑7.5.7.2ConfigurationClassParser7.5.7.3ConfigurationClassParser的parse方法（1）处理@Component注解（2）处理@PropertySource注解（3）处理@Compo
灰色孤星A·2024-02-09 03:52

SpringBoot源码解读与原理分析(二十四)IOC容器的刷新(五)

文章目录7.11初始化所有剩下的单实例bean对象7.11.1beanFactory.preInstantiateSingletons7.11.2getBean7.11.2.1别名的解析处理7.11.2.2判断是否已注册过7.11.2.3创建前的检查7.11.2.4标记准备创建的bean对象7.11.2.5合并BeanDefinition7.11.2.6bean对象的创建7.11.2.7getSi
灰色孤星A·2024-02-09 03:52

SpringBoot源码解读与原理分析(十一)BeanDefinition

文章目录3.5BeanDefinition3.5.1BeanDefinition概述3.5.3BeanDefinition的结构与设计3.5.3.1AttributeAccessor3.5.3.2BeanMetadataElement3.5.3.3AbstractBeanDefinition3.5.3.4GenericBeanDefinition3.5.3.5ChildBeanDefinition
灰色孤星A·2024-02-09 03:51

SpringBoot源码解读与原理分析(十二)后置处理器

文章目录3.6后置处理器3.6.1后置处理器概述3.6.2BeanPostProcessor3.6.2.1BeanPostProcessor概述1.postProcessBeforeInitialization2.postProcessAfterInitialization3.6.2.2BeanPostProcessor的扩展1.InstantiationAwareBeanPostProcesso
灰色孤星A·2024-02-09 03:51

SpringBoot源码解读与原理分析(十三)IOC容器的启动流程

文章目录3.7IOC容器的启动流程1.prepareRefresh——初始化前的预处理2.obtainFreshBeanFactory——初始化BeanFactory3.prepareBeanFactory——BeanFactory的预处理动作4.postProcessBeanFactory——BeanFactory的后置处理5.invokeBeanFactoryPostProcessors——执
灰色孤星A·2024-02-09 03:51

SpringBoot源码解读与原理分析(九)SpringBoot对IOC容器的拓展

文章目录3.2SpringBoot对IOC容器的拓展3.2.1WebServerApplicationContext3.2.2AnnotationConfigServletWebServerApplicationContext3.2.3ReactiveWebApplicationContext3.3SpringBoot选择注解驱动的原因3.3.1配置方式的对比3.3.1.1历史背景的比较3.3.1
灰色孤星A·2024-02-09 03:50

SpringBoot源码解读与原理分析（入门）

SpringBoot源码解读与原理分析（入门）简介：由Pivotal团队提供的全新框架其设计目的是用来简化新Spring应用的初始搭建以及开发过程使用了特定的方式来进行配置快速应用开发领域运行原理以及特点特点
果办办·2024-02-09 03:49

SpringBoot源码解读与原理分析(八)ApplicationContext

文章目录3.1.2ApplicationContext3.1.2.1ApplicationContext根接口3.1.2.2ConfigurableApplicationContext3.1.2.3EnvironmentCapable3.1.2.4MessageSource3.1.2.5ApplicationEventPublisher3.1.2.6ResourcePatternResolver3
灰色孤星A·2024-02-09 03:18

Spring AOP实现原理分析

Spring的核心是IOC与AOP，IOC主要是依赖关系的管理，依赖查询，依赖注入，在之前bean的生命周期文章中已经对bean的生命周期做了相对多的分析，这里以前探讨下AOP的实现原理。关键类AspectJAwareAdvisorAutoProxyCreatorSpring启动时的beanPostProcessor，bean生命周期中经常可以看到beanPostProcessor在起作用，AOP
Zal哥哥·2024-02-09 02:23

PDF如何页面插入

操作软件：旋风PDF编辑器下载地址：http://www.679sparkle.com/pdfeditor1.运行旋风PDF编辑器，打开你想要编辑的文件。
六号_db7a·2024-02-09 00:18

Flink状态编程

SparkStreaming在状态管理这块做的不好,很多时候需要借助于外部存储(例如Redis)来手动管理状态,增加了编程的难度.访问redis需要通过网络访问，增大处理时间状态一致性问题，可能会造成数据的不一致
万事万物·2024-02-08 22:41

7.0 MapReduce编程实例教程

MapReduce主要是依靠开发者通过Spark来实现功能的，开发者可以通过实现Map和Reduce相关的方法来进行数据处理。为了简单的展示这个过程，我们将手工编写一个字数统计程序。
二当家的素材网·2024-02-08 18:11

Spark经典案例之非结构数据处理

需求：根据tomcat日志计算url访问了情况，具体的url如下，要求：区别统计GET和POSTURL访问量结果为：访问方式、URL、访问量测试数据集：在CODE上查看代码片派生到我的代码片196.168.2.1--[03/Jul/2014:23:36:38+0800]“GET/course/detail/3.htmHTTP/1.0”200384350.038182.131.89.195--[03
张明洋_4b13·2024-02-08 15:57

Tomcat 原理分析

1、Tomcat的组成如下图：Tomcat组成Server：Tomcat封装的、对外提供完整的、基于组件的web服务，包含Connectors、Container两个核心组件，以及多个功能组件，各个Service之间是独立的，但是共享同一JVM的资源；Connector：Tomcat与外部世界的连接器，监听固定端口接收外部请求，传递给Container，并将Container处理的结果返回给外部；
A゛孤青·2024-02-08 15:38

深入理解Spark的前世今生

文章来源：https://blog.csdn.net/qq_42107047/article/details/80239094感谢大神分享~~~~~一：大数据的概述1.1Spark是什么？ 
闲云野鹤~~~·2024-02-08 14:01

【Spark重点难点】你以为的Shuffle和真正的Shuffle

我们的【Spark重点难点】系列继续更新。以往的系列：我们在学习Spark的时候，到底在学习什么？
王知无(import_bigdata)·2024-02-08 14:00

深入理解Spark BlockManager：定义、原理与实践

深入理解SparkBlockManager：定义、原理与实践1.定义Spark是一个开源的大数据处理框架，其主要特点是高性能、易用性以及可扩展性。
涤生大数据·2024-02-08 14:57

spark spark.shuffle.service.enabled

操作场景Spark系统在运行含shuffle过程的应用时，Executor进程除了运行task，还要负责写shuffle数据，给其他Executor提供shuffle数据。
不搬砖的程序员不是好程序员·2024-02-08 13:59

spark好的文章链接

https://blog.51cto.com/u_16099325/6763760`javaspark官方文档sparkjavaapi手册http://www.17bigdata.com/book/spark
Trank-Lw·2024-02-08 13:18

Nacos 配置实时更新原理分析

上篇文章《Nacos配置中心原理分析》我和大家分析了Nacos的配置中心原理，主要分析了Nacos客户端是如何感知到服务端的配置变更的，但是只是从客户端的角度进行了分析，并没有从服务端的角度进行分析，本篇文章我将结合服务端从两个角度来分析配置变更是如何通知到客户端的
骆孝宇·2024-02-08 12:03

史上最全OLAP对比

目录1.什么是OLAP2.OLAP引擎的常见操作3.OLAP分类MOLAP的优点和缺点ROLAP的优点和缺点4.并发能力与查询延迟对比5.执行模型对比5.OLAP引擎的主要特点5.2SparkSQL、FlinkSQL5.3Clickhouse5.4Elasticsearch5.5Presto5.6Impala5.7Doris5.8Druid5.9Kylin
只会写demo的程序猿·2024-02-08 11:04

Spark：基于莱文斯坦（Levenshtein）距离计算字符串相似度

以下程序代码基于spark，使用scala语言，测试时间：2018-08-03str1和str2相似度=1-Levenshtein距离/max(length(str1),length(str2))valdf
xuejianbest·2024-02-08 11:25

MMLSpark+Spark：pyspark+lightGBM应用实践

MMLSpark，即MicrosoftMachineLearningforApacheSpark，是微软开源的一个针对ApacheSpark的深度学习和数据可视化的库。
bensonrachel·2024-02-08 10:38

spark sql 数据类型转换_spark sql时间类型转换以及其他

1.sparksql的日期转换一般使用两种形式第一种使用to_timestamp(REACHTIME1,"yyyy-MM-ddHH24:mi:ss")//它将字符串时间转换为日期类型例如2018-10-
weixin_39535527·2024-02-08 10:02

Spark streaming写入delta数据湖问题

但项目上线到生产环境，检查sparkstreaming的job，发现数据在merge写入到数据湖时，往往超过1小时。
kk_io·2024-02-08 10:01

Spark streaming batch运行时间过长问题02

排查Sparkstreaming数据写入时间过长问题，一方面是因为程序写数据湖小文件问题。在解决了小文件问题后，还是不能达到预期的1分钟一个batch。
kk_io·2024-02-08 10:01

企业Spark案例--酒店数据分析实战提交

第1关：数据清洗--过滤字段长度不足的且将出生日期转：packagecom.yyimportorg.apache.spark.rdd.RDDimportorg.apache.spark.sql.
cz学java·2024-02-08 10:30

Spark的timestamp 数据时间问题

使用Spark来处理国际业务数据，涉及到数据时区转换，在实际项目中出现时区转换问题。
kk_io·2024-02-08 10:29

大数据毕业设计PySpark+PyFlink航班预测系统 飞机票航班数据分析可视化大屏 机票预测 机票爬虫 飞机票推荐系统 大数据毕业设计 计算机毕业设计

博主介绍：✌全网粉丝100W+,前互联网大厂软件研发、集结硕博英豪成立工作室。专注于计算机相关专业毕业设计项目实战6年之久，选择我们就是选择放心、选择安心毕业✌由于篇幅限制，想要获取完整文章或者源码，或者代做，可以给我留言或者找我聊天。感兴趣的可以先收藏起来，还有大家在毕设选题，项目以及论文编写等相关问题都可以给我留言咨询，希望帮助更多的人。1.DrissionPage自动化Python爬虫工具采
B站计算机毕业设计超人·2024-02-08 09:17

【项目实战】Flink+InfluxDB+Grafana实现对YARN集群队列资源进行画像

一、Flink实时计算第一章：Flink快速入门1.Flink架构2.Flink应用场景3.FlinkVSSpark4.实时计算技术选型第二章：Flink项目构建与测试1.快速构建Flink项目2.第一个
大数据研习社·2024-02-08 08:56

spark运行失败The directory item limit of /spark_dir/spark_eventLogs is exceeded: limit=1048576 items=104

org.apache.hadoop.hdfs.protocol.FSLimitException$MaxDirectoryItemsExceededException):Thedirectoryitemlimitof/spark_dir
不会吐丝的蜘蛛侠。·2024-02-08 08:58
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他