spark生态圈

spark-flink设计思想之吸星大法-1

Spark和Flink都是大数据处理框架，它们的设计思想有一些不同之处。以下是对它们设计思想的简要对比：数据模型和计算模型：Spark：Spark使用弹性分布式数据集（RDD）作为其核心数据结构。
{BOOLEAN}·2024-01-24 07:47

reduceByKey应用举例

PhotobyStefanStefancikfromPexels在进行Spark开发算法时，最有用的一个函数就是reduceByKey。
学习之术·2024-01-24 05:16

全球看点五个月，第一次减产！

我们的技术团队一如既往的不分白天黑夜开发着一个个版块,我们的客服团队每日依然排查着一切不利平台的违规现象,我们所做的一切只为一个初衷、一个目的:打造全球看点活粉生态圈!!整个阶段,我们看到了用户对
青山子木·2024-01-24 05:39

Spark - 动态注册UDF

>昨天有位大哥问小弟一个Spark问题，他们想在不停Spark程序的情况下动态更新UDF的逻辑，他一问我这个问题的时候，本猪心里一惊，Spark**还能这么玩?
kikiki4·2024-01-24 03:22

Spark 编程模型 RDD

Spark编程模型有两个主要的抽象，第一个是弹性数据集RDD（ResilientDistributedDataset），第二个是共享变量：广播变量和累加器。首先了解以下RDD。
Alex90·2024-01-23 23:44

2019-05-05

（来源：美女时尚生态圈）一枚穿高跟的金发小姐姐，远远的就被她时尚的穿搭，窈窕的身材和独特的气质所吸引。既然风儿吹乱了小姐姐的头发，那我们只能欣赏下小姐姐的身材了。好想知道是什么吸引了小姐姐的
主父眼·2024-01-23 21:10

Grafana panel之Singlestat

它还可以将单个数字转换为文本值，并显示该时间序列的sparkline摘要。在Grafana7.0中已将Stat面板代替Singlestat。但由于我用的还是老版的grafana所以还是决定
jeongee0328·2024-01-23 19:15

Spark - 动态注册UDF

>昨天有位大哥问小弟一个Spark问题，他们想在不停Spark程序的情况下动态更新UDF的逻辑，他一问我这个问题的时候，本猪心里一惊，Spark**还能这么玩?
kikiki5·2024-01-23 16:08

Spark Core源码精读计划#22：BlockInfoManager与其实现的块锁机制

目录前言BlockInfoManager的成员属性及构造方法BlockInfoManager提供的锁方法获取读锁获取写锁释放锁锁降级删除BlockInfo总结前言在上一篇文章中，我们对与块相关的BlockId、BlockData和BlockInfo有了比较全面的理解。前面已经提到过，块在读写时有锁机制，并且委托给BlockInfoManager来管理。虽然BlockInfoManager的字面意思
LittleMagic·2024-01-23 15:23

Spark RDD分区数和分区器

一、分区数如何决定1、数据源RDD数据源RDD的分区数由数据源的读取器决定,比如sc.textFile产生的rdd,分区数由TextInputFormat.getInputSplits()方法决定,具体源码追踪及解析如下:valrdd1=sc.textFile("data/tbPerson.txt")①Ctrl+B进入textFiletextFile底层其实就是通过hadoopFile去读文件②C
maplea2012·2024-01-23 15:40

AI绘画Midjourney绘画提示词Prompt入门到精通【宝藏级收藏】

一、AI绘画工具SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。
白云如幻·2024-01-23 15:35

2024最新AI系统ChatGPT网站源码+搭建部署教程文档，Midjourney绘画，GPT语音对话+ChatFile文档对话总结+DALL-E3文生图+GPT-4识图理解/自定义知识库

一、前言SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。
白云如幻·2024-01-23 15:05

2024最新AI创作系统ChatGPT源码，支持Midjourney绘画，GPT语音对话+ChatFile文档对话总结+DALL-E3文生图+GPT-4识图理解

一、前言SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。
白云如幻·2024-01-23 15:04

最新ChatGPT商业运营版源码，AI绘画，Midjourney绘画，GPT-4V多模态模型识图理解+GPT语音对话+ChatFile文档对话总结+DALL-E3文生图

一、前言SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。
只恨天高·2024-01-23 15:03

最新AI系统ChatGPT网站系统源码,支持AI绘画,GPT语音对话,ChatFile文档对话总结,DALL-E3文生图,MJ绘画局部编辑重绘

一、前言SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。
白云如幻·2024-01-23 15:32

DataFrame的基本使用--学习笔记

方法其中包括的方法有：select(),selectExpr(),groupby()/groupBy()where,orderBy(),sort(),limit(),withColumn(),frompyspark.sqlimportSparkSession
祈愿lucky·2024-01-23 14:59

NVIDIA与 Sparkfun 的合作伙伴在 Hackster.io 上发起了人工智能创新挑战赛，喊你来参加！

NVIDIA与Sparkfun的合作伙伴在Hackster.io上发起了人工智能创新挑战赛，喊你来参加！
扫地的小何尚·2024-01-23 14:28

Stuuctured Streaming基础--学习笔记

Structuredstreaming介绍spark进行实时数据流计算时有两个工具：SparkStreaming：编写rdd代码处理数据流,可以解决非结构化的流式数据StructuredStreaming
祈愿lucky·2024-01-23 14:58

五分钟了解常见的黑客设备

2.Digispark：Attiny85Digispark开发板可以模拟成日常使用的USB键盘进行模拟输入。利用Win系统，按下WIN+R打开并锁定到CMD的
网安攻城狮-小李·2024-01-23 13:50

Pyspark

文章目录一、SparkCore1.SparkContext:2.SparkSession3.RDD4.Broadcast、Accumulator:5.Sparkconf6.SparkFiles7.StorageLevel
李明朔·2024-01-23 12:24

Spark(三十四)troubleshooting之解决yarn-cluster模式的JVM内存溢出无法执行问题

一、背景实践经验，碰到的yarn-cluster的问题：1、有的时候，运行一些包含了sparksql的spark作业，可能会碰到yarn-client模式下，可以正常提交运行；yarn-cluster模式下
文子轩·2024-01-23 12:06

鸿蒙开发-OpenHarmony轻量系统之获取当地时间

环境OpenHarmony3.1润和hispark_pegasusHi3861开发板DevEcoDeviceTool串口调试助手SNTP
移动开发技术栈·2024-01-23 11:21

大数据开发之Spark（入门）

第1章：Spark概述1.1什么是spark回顾：hadoop主要解决，海量数据的存储和海量数据的分析计算。spark是一种基于内存的快速、通用、可扩展的大数据分析计算引擎。
Key-Key·2024-01-23 09:45

Spark解析JSON文件，写入hdfs

一、用Sparkcontext读入文件，map逐行用Gson解析，输出转成一个caseclass类，填充各字段，输出。解析JSON这里没有什么问题。
gegeyanxin·2024-01-23 09:42

Spark UI中 Shuffle Exchange 和 BroadcastExchange 中的 dataSize 值为什么不一样

背景Spark3.5最近在看SparkUI上的一些指标看到一个很有意思的东西,相邻的ShuffleExechange和BroadcastExechange中的datasize居然不一样，前者为765KB
鸿乃江边鸟·2024-01-23 09:07

kafka的基本使用--学习笔记

catalyst引擎作用：将SparkSql转换成sparkrdd任务提交进行计算解析器将sparksql代码解析成语法树(未解析的逻辑查询计划)分析器将语法树解析成解析后的逻辑查询计划对逻辑查询计划进行属性和关系关联检验优化器将解析后的逻辑查询计划进行优化
祈愿lucky·2024-01-23 08:32

map与flatmap区别

Spark中map函数会对每一条输入进行指定的操作，然后为每一条输入返回一个对象；-而flatMap函数则是两个操作的集合——正是“先映射后扁平化”：操作1：同map函数一样：对每一条输入进行指定的
不加班程序员·2024-01-23 06:25

用graphx实现Bronkerbosch计算极大团

 请结合Bronkerbosch算法描述查看，该方法是在朴素的Bronkerbosch算法上进行改进，属于 带轴的Bron_Kerbosch算法importorg.apache.spark.graphx
不加班程序员·2024-01-23 06:25

Spark中字符串和json、map格式相互转化

Spark中字符串和json格式相互转化字符串转为mapimportorg.json4s.DefaultFormatsimportorg.json4s.jackson.JsonMethods.parsevalad
不加班程序员·2024-01-23 06:54

zeppelin部署文档

后台支持接入多种数据处理引擎，如spark，hive等。
不加班程序员·2024-01-23 06:54

通过Spark向Kafka写入数据

1、·将KafkaProducer利用lazyval的方式进行包装packagecn.com.m.utilimportjava.util.concurrent.Futureimportorg.apache.kafka.clients.producer.{KafkaProducer,ProducerRecord,RecordMetadata}classKafkaSink[K,V](createPro
不加班程序员·2024-01-23 06:24

Spark运行流程

参考博文：https://blog.csdn.net/qq_17677907/article/details/88685705ApacheSpark是专为大规模数据处理而设计的快速通用的计算引擎。
Cool_Pepsi·2024-01-23 02:12

数据操作——无类型的转换算子

无类型的转换算子以下算子有@Test的前置条件//1.创建SparkSessionvalspark=SparkSession.builder().appName("trans_test").master
我像影子一样·2024-01-23 02:36

数据操作——Column 对象

对每条数据都生成一个值2.Column对象如何创建’单引号’在Scala中是一个特殊的符号,通过’会生成一个Symbol对象,Symbol对象可以理解为是一个字符串的变种,但是比字符串的效率高很多,在Spark
我像影子一样·2024-01-23 02:34

小记44 | 抢菜风波

村镇市集小城市人流量小，人员流动也缓慢，加上三年来生活方式的改变，居民们在自给自足的小生态圈里安居乐业，日子过得清减无趣，轻易不会走出和走进。这样一汪近乎死水的静潭，随便扔进一小
一朵云里·2024-01-23 01:18

评《避风港》

今天要说的这本小说名字叫《避风港》，作者是尼古拉斯•斯帕克思（NicholasSparks）尼古拉斯•斯帕克思（NicholasSparks），美国超级畅销小说作家，美国纯爱小说天王，被称为“全世界最擅长说故事的人
是斑大人呀·2024-01-22 21:01

(转)Spark Streaming遇到问题分析

parkStreaming遇到问题分析1、Spark2.0之后搞了个StructuredStreaming还没仔细了解,可参考：https://github.com/lw-lin/Coo...2、Spark
达微·2024-01-22 20:06

大数据学习之 Flink

目录一：简介二：为什么选择Flink三：哪些行业需要四：Flink的特点五：与sparkStreaming的区别六：初步开发七：Flink配置说明八：环境九：运行组件一：简介Flink是一个框架和分布式得计算引擎
会编程的海贼王·2024-01-22 19:58

大数据之Flink的看了就可入门

2Flink对比SparkSpark是一种基于内存的
大数据的江湖·2024-01-22 19:56

大数据学习之Flink，10分钟带你初步了解Flink

流式数据处理的发展和演变1.流处理和批处理2.传统事务处理2.1传统事务处理架构编辑3.有状态的流处理4.Lambda架构5.新一代流处理器七、Flink的特性总结1.Flink的核心特性2.分层API八、FlinkVSSpark1
十二点的泡面·2024-01-22 19:23

Spark消费Kafka的两种方式

原理如何保证数据不丢失但是会导致数据重复问题优点缺点Direct(NoReceiver)方式code特点优点缺点介绍kafka版本，kafka0.8支持Receiver和DirectKafka版本大于等于0.10.0，且Spark
这个程序猿可太秀了·2024-01-22 17:57

AQE优化和源码

介绍AQE全称是AdaptiveQueryExecution，官网介绍如下PerformanceTuning-Spark3.5.0DocumentationAQE做了什么AQE是SparkSQL的一种动态优化机制
这个程序猿可太秀了·2024-01-22 17:56

Impala：基于内存的MPP查询引擎

Impala主要用于解决Hadoop生态圈无法支持交互式查询数据的痛点，
对许·2024-01-22 17:26

Spark简介

1、什么是SparkSpark是大数据的调度，监控和分配引擎。
shinelord明·2024-01-22 17:17

spark web框架--play framework 安装与运行

目前网上关于playframework框架的安装配置都是低版本的，现就高版本问题进行编写：1、下载https://www.playframework.com/（1）play2.3之前的版本都是压缩包zip，解压后，命令行运行play旧版本，即早于2.2的Play版本打包在zip文件中。提供了play创建新应用程序、运行测试和运行应用程序的命令。（2）playframework高版本配置高版本的Pl
huazi99·2024-01-22 13:37

30、Spark内核源码深度剖析之Spark内核架构深度剖析

Spark内核架构深度剖析.png就上面这幅图，详细解释一下自己编写的Application，就是我们自己写的程序，拷贝到用来提交spark应用的机器，使用spark-submit提交这个Application
ZFH__ZJ·2024-01-22 12:43

48、Spark性能优化之性能优化概览

Spark性能优化概览由于Spark的计算本质是基于内存的，所以Spark性能程序的性能可能因为集群中的任何因素出现瓶颈：CPU、网络带宽、或者是内存。
ZFH__ZJ·2024-01-22 11:31

“多维度生活提案圈”/ “多维度生活提案便利店”

前言：“多维度生活提案圈”从多个纬度提供生活提案资讯的“信息生态圈”/（“多维度生活提案便利店”）！
CrazyLiu生活提案·2024-01-22 11:23

Spark - 升级版数据源JDBC2

>在spark的数据源中，只支持Append,Overwrite,ErrorIfExists,Ignore,这几种模式，但是我们在线上的业务几乎全是需要upsert功能的，就是已存在的数据肯定不能覆盖，
kikiki5·2024-01-22 10:41

Spark groupByKey和reduceByKey

我们通过简单的WC看看两者的区别groupByKey实现WCscala>valrdd=sc.parallelize(List(1,1,2,2,3,3)).map((_,1))rdd:org.apache.spark.rdd.RDD
喵星人ZC·2024-01-22 09:23
上一页 12 13 14 15 16 17 18 19 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他