Spark系统性学习专栏

常见的实时数仓方案

实时部分以消息队列的方式实时增量消费，一般以Flink+Kafka的组合实现，维度表存在关系型数据库或者HBase；离线部分一般采用T+1周期调度分析历史存量数据，每天凌晨产出，更新覆盖前一天的结果数据，计算引擎通常会选择Hive或者Spark
北极冰雨·2024-08-30 05:27

Linux系统性能调优技巧

Linux系统性能调优是一个复杂的过程，涉及到多个层面的优化，包括硬件、操作系统、应用程序等。以下是一些常见的Linux系统性能调优技巧：1.
jie201107·2024-08-30 05:52

Spark MLlib 数据预处理－特征变换

2019独角兽企业重金招聘Python工程师标准>>>Tokenizer（分词器）算法介绍：Tokenization将文本划分为独立个体（通常为单词）。RegexTokenizer基于正则表达式提供更多的划分选项。默认情况下，参数“pattern”为划分文本的分隔符。或者可以指定参数“gaps”来指明正则“patten”表示“tokens”而不是分隔符，这样来为分词结果找到所有可能匹配的情况。调用
weixin_33841722·2024-08-29 14:40

spark应用程序转换_4.Spark特征提取、转换和选择 - 简书

在实际机器学习项目中，我们获取的数据往往是不规范、不一致、有很多缺失数据，甚至不少错误数据，这些数据有时又称为脏数据或噪音，在模型训练前，务必对这些脏数据进行处理，否则，再好的模型，也只能脏数据进，脏数据出。这章我们主要介绍对数据处理涉及的一些操作，主要包括：特征提取特征转换特征选择4.1特征提取特征提取一般指从原始数据中抽取特征。4.1.1词频－逆向文件频率(TF-IDF)词频－逆向文件频率(T
weixin_39956182·2024-08-29 14:10

软件产品必须要进行鉴定测试吗?测试流程和作用简析

鉴定测试是指针对某一软件产品进行的系统性测试和评估，以确定其质量、性能和功能是否符合用户需求和预期目标。通过鉴定测试，对软件产品进行全面的评估和分析，从而找出其中的问题和潜在风险，
卓码测评·2024-08-29 13:07

Nginx负载均衡中静态与动态内容分离策略与实践

本文将详细探讨如何在Nginx中实现负载均衡时对静态和动态内容进行有效分离，以及如何通过这种分离提高整体的系统性能。
夜色呦·2024-08-29 12:29

Spark权威指南读书笔记（二）：结构化API

API主要指三种核心分布式集合类型API：Dataset、DataFrame、SQL表和视图DataFrame和Dataset类型DataFrame和Dataset是具有行和列的类似于数据表的集合类型Spark
kaiker·2024-08-29 11:23

Spark-RDD迭代器管道计算

一、上下文《Spark-Task启动流程》中讲到我们提交Stage是传入的是这个Stage最后一个RDD，当Task中触发ShuffleWriter、返回Driver数据或者写入Hadoop文件系统时才触发这个
隔着天花板看星星·2024-08-29 07:24

每天一个数据分析题（五百零五）- 提升方法

A.AdaboostB.GBDTC.XGBOOSTD.随机森林数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学，数据分析理论，深度学习，可视化，机器学习，Spark
跟着紫枫学姐学CDA·2024-08-29 05:43

每天一个数据分析题（五百零六）- 装袋方法

A.AdaboostB.GBDTC.XGBOOSTD.随机森林数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学，数据分析理论，深度学习，可视化，机器学习，Spark
跟着紫枫学姐学CDA·2024-08-29 05:43

代码随想录系统性一刷总结

代码随想录系统性一刷总结数组指针思想很重要day01二分查找+移除元素day02数组平方+长度最小子数组+螺旋矩阵II链表链表结点的增删改查，头结点的运用，灵活运用指针day03移除链表元素+设计链表+
snoooooooooooooopy·2024-08-29 04:08

spark mllib 特征学习笔记 （一）

PySparkMLlib特征处理详解PySparkMLlib提供了丰富的特征处理工具，帮助我们进行特征提取、转换和选择。以下是PySparkMLlib中常用的特征处理类及其简要介绍。
路人与大师·2024-08-29 03:57

Spark MLlib 特征工程系列—特征转换VectorSizeHint

SparkMLlib特征工程系列—特征转换VectorSizeHintVectorSizeHint是Spark提供的一个特征转换器，用于指定向量列的大小（即维度）。
不二人生·2024-08-29 03:56

Linux 系统性能调优 1

Linux系统性能调优涉及多个方面，包括CPU、内存、I/O子系统、网络等。以下是一些常见的Linux系统性能调优技巧，可以帮助提升系统的整体性能。###1.
Wade_Crab·2024-08-28 19:01

每天一个数据分析题（五百零二）- 分割式聚类算法

B.CentroidMethodC.Ward’sMethodD.以上皆非数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学，数据分析理论，深度学习，可视化，机器学习，Spark
跟着紫枫学姐学CDA·2024-08-28 13:19

【Linux 从基础到进阶】 SSD与HDD存储优化

SSD与HDD存储优化引言在现代计算机系统中，存储性能对整体系统性能的影响至关重要。固态硬盘（SSD）和传统机械硬盘（HDD）是两种常见的存储设备，它们在速度、寿命和价格上各有优劣。
爱技术的小伙子·2024-08-28 10:05

如何释放服务器内存

服务器内存的管理对于维持系统性能和稳定运行至关重要。当服务器内存不足时，可能导致系统变得缓慢、不稳定或甚至崩溃。因此，释放服务器内存是一项重要的任务。本文将介绍几种常用的方法来释放服务器内存。
查拉图斯特拉面条·2024-08-28 10:05

SparkStreaming 如何保证消费Kafka的数据不丢失不重复

目录SparkStreaming接收Kafka数据的方式有两种：Receiver接收数据和采用Direct方式。
K. Bob·2024-08-28 10:02

SparkSql

SparkSQL基本介绍什么是SparkSQL?用于处理结构化数据的Spark模块。可以通过DataFrame和DataSet处理数据。
李思缘的大数据之路·2024-08-28 09:00

SparkSQL优化查询性能的方法

一、PySpark如何提高程序的运行效率和性能PySpark的运行效率和性能受到多个因素的影响，包括数据大小、算法复杂度、硬件资源等。
大数据海中游泳的鱼·2024-08-28 09:57

Spark on YARN

ApacheSpark和ApacheHadoopYARN是两个紧密相关的项目，它们经常一起使用来处理大规模数据集。
静听山水·2024-08-28 09:26

FlexSim：FlexSim仿真优化方法与策略

它通过模拟现实世界中的系统和流程，帮助用户分析、预测和优化系统性能。FlexSim的核心优势在于其直观的用户界面、强大的建模功能和深入的分析工具，使得即使是复杂的系统，也能被精确地建模和优化。
kkchenjj·2024-08-28 08:25

你一定有你独特的人生意义，拍下来吧！

大多数人的日常没有那么多大起大落，但每个人的日子都有其独特的意义，你得向内向外挖掘出来，一旦你每日都有心去思索，去记录你的灵感，你的系统性拍摄方法就会抽丝剥茧地越来越清晰。我目前就是
欧阳风Plus·2024-08-28 07:20

缓存雪崩与缓存击穿：理解、影响与应对策略

在现代互联网应用中，缓存是提升系统性能、减少数据库访问压力的重要手段。然而，缓存机制并非万无一失，缓存雪崩与缓存击穿是两种常见的缓存失效问题，它们可能严重影响系统的稳定性和性能。
张某布响丸辣·2024-08-28 02:41

分享一个基于Spark的招聘数据可视化与分析系统Hadoop大数据源码（源码、调试、LW、开题、PPT）

作者：计算机源码社个人简介：本人八年开发经验，擅长Java、Python、PHP、.NET、Node.js、Android、微信小程序、爬虫、大数据、机器学习等，大家有这一块的问题可以一起交流！学习资料、程序开发、技术解答、文档报告如需要源码，可以扫取文章下方二维码联系咨询Java项目微信小程序项目Android项目Python项目PHP项目ASP.NET项目Node.js项目选题推荐项目实战|基
计算机源码社·2024-08-27 20:05

spark采坑集锦之用kafka作为DStream数据源，并行度问题

在SparkStreaming中作为数据源的Kafka怎样接收多主题发送的数据呢？
方兵兵·2024-08-27 16:41

Hbase BulkLoad用法

要导入大量数据，Hbase的BulkLoad是必不可少的，在导入历史数据的时候，我们一般会选择使用BulkLoad方式，我们还可以借助Spark的计算能力将数据快速地导入。
kikiki4·2024-08-27 15:42

Linux系统性能调优技巧

Linux系统性能调优技巧Linux系统作为服务器和桌面操作系统的主流选择之一，其性能调优是系统管理员和开发人员的重要任务。
shiming8879·2024-08-27 15:03

Spark -- 基础开发和RDD相关知识总结!!!

目录一、基础开发1.Anaconda2.案例(基本代码)3.案例(链式编程)3.spark-submit3.StandAlone模式4.SparkOnYarn模式二、RDD1.RDD模型2.RDD常用算子
Alfie-·2024-08-27 12:13

Spark-第三周

1.sparkcontext初始化源码分析Spark源码（7）-SparkContext初始化源码分析_太与旅spark源码-CSDN博客Spark源码学习(一)：SparkContext初始化源码分析
fightingD&W·2024-08-27 12:13

Spark-第五周

sparkonyarn运行流程SparkonYarn模式下执行过程_sparkonyarn作业执行流程-CSDN博客yarnclient与yarncluster区别SparkonYarn用执行流程图解（
fightingD&W·2024-08-27 12:13

Spark-第六周

1.sparksql运行流程【Spark精讲】一文讲透SparkSQL执行过程_sparksql执行过程-CSDN博客摸鱼大数据——SparkSQL——SparkSQL的运行机制-CSDN博客2.熟练使用
fightingD&W·2024-08-27 12:13

Hbase BulkLoad用法

要导入大量数据，Hbase的BulkLoad是必不可少的，在导入历史数据的时候，我们一般会选择使用BulkLoad方式，我们还可以借助Spark的计算能力将数据快速地导入。
kikiki1·2024-08-27 04:22

PySpark，一个超级强大的 Python 库

也许能够开启我们的智慧之门，一个普通的方法，也许能在危急时刻挽救我们于水深火热，一个新颖的思维方式，也许能激发我们无尽的创造力，一个独特的技巧，也许能成为我们的隐形盾牌……神奇的Python库之旅，第14章目录一、初识PySpark
炒青椒不放辣·2024-08-26 22:18

（十五）Flink 内存管理机制

在大数据领域，很多开源框架（Hadoop、Spark、Storm）都是基于JVM运行，但是JVM的内存管理机制往往存在着诸多类似OutOfMemoryError的问题，主要是因为创建大量的实例，超过JVM
springk·2024-08-26 16:27

面试笔记8.24

正确答案：在我的项目中涉及大数据开发时，我通常会采用分布式的架构，比如使用Hadoop或者Spark等大数据处理框架。我会在集群中部署多台服务器，通过分布式计算和存储来处理大规模数据。
励志秃头码代码·2024-08-26 16:55

计算机毕业设计Hadoop+Spark知识图谱体育赛事推荐系统 体育赛事热度预测系统 体育赛事数据分析 体育赛事可视化 体育赛事大数据 机器学习 大数据毕业设计 大数据毕设 机器学习 人工智能

开发技术前端：vue.js、element-ui、echarts后端：springboot、mybatis大数据：spark、hadoop数据库：mysql关系型数据库、neo4j图数据库算法：协同过滤推荐算法
计算机毕业设计大全·2024-08-26 13:43

Kylin系列-入门

Kylin系列-入门ApacheKylin是一个开源的分布式分析引擎，提供Hadoop/Spark之上的SQL查询接口及多维分析（OLAP）能力，以支持超大规模数据。
Dingdangr·2024-08-26 13:34

导购电商平台的服务发现与负载均衡策略

然而，随着用户数量和交易量的不断增长，如何有效地管理服务资源、提高系统性能和稳定性，成为了平台开发者需要面对的挑战。本文
省赚客APP开发者@聚娃科技·2024-08-26 12:02

【赵渝强老师】Spark中的RDD

  RDD（ResilientDistributedDataset）叫做弹性分布式数据集，它是Spark中最基本、也是最重要的的数据模型。
赵渝强老师·2024-08-26 11:52

基于spark+hadoop+hive大数据分析的电影推荐系统的设计与实现

开发介绍1.1开发环境二、系统介绍2.1图片展示三、部分代码设计3.1.部分代码如下：**总结****大家可以帮忙点赞、收藏、关注、评论啦****有问题评论区交流**一、开发介绍1.1开发环境技术栈：spark
毕设木哥·2024-08-26 06:26

如何进行有效的故障复盘（1）

故障复盘是对故障的发生、发现、解决的全过程复演，找出故障的根因，系统性的分析设计研发测试过程、运维流程手段、故障处理及恢复过程的不足，从管理、技术、业务、执行各个角度，深入进行优化，列出解决措施，最大程度的避免故障的再次发生
能得·2024-08-26 06:01

每天一个数据分析题（五百）- 关联规则

.预测（Prediction）数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学，数据分析理论，深度学习，可视化，机器学习，Spark
跟着紫枫学姐学CDA·2024-08-26 04:40

每天一个数据分析题（四百九十）- 主成分分析与因子分析

C.协方差矩阵D.相关系数矩阵数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学，数据分析理论，深度学习，可视化，机器学习，Spark
跟着紫枫学姐学CDA·2024-08-26 04:07

Jmeter性能分析及调优详解（入门）

一、系统性能理解如果说需求、开发、DB、运维、测试是单一一门学科，那么性能就是综合学科，它包含了需求分析、DB、开发、测试、运维的所有学科。
追求测试的光·2024-08-26 02:27

Linux系统性能调优详细讲解和案例示范

本文将深入探讨Linux系统性能调优的核心概念，介绍一些常用的性能定位命令，并结合实际案例详细说明如何解决常见的性能问题。
J老熊·2024-08-25 23:42

12.Spark Core-Spark-RDD持久化

(1)persist算子使用方法：varrdd=sc.textFile("test")rdd=rdd.persist(StorageLevel.MEMORY_ONLY)valcount=rdd.count()//或者其他操作StorageLevel说明：StorageLevel的构造函数：classStorageLevelprivate(privatevar_useDisk:Boolean,#是否
__元昊__·2024-08-25 23:43

《人工智能时代：金融投资决策的潜在系统性风险及防范策略》

然而，随着其影响力的不断扩大，我们也必须警惕潜在的系统性风险。人工智能在金融投资决策中的应用，凭借其强大的数据处理能力和复杂的算法模型，能够快速分析海量的金融数据，识别市场趋势和潜在的投资机会。
程序猿阿伟·2024-08-25 22:03

vue2上传大文件到minio分片上传

项目中使用到的类库：spark-md5、axios、element-ui；npminstallspark-md5--Snpminstallaxios--S页面上传示例文件上传任务数：{{taskQueueRunningNum
zhou周大哥·2024-08-25 17:35

小确幸

确切的说从前一阵子开始我就一直在反复思考家和万事兴这个事，特别是前几天回家的时候，对于家族的传承有了深刻的体会和更深层的理解，然而通过周末的这次讲座让我系统性的加深了对家族文化传承的理解和延续，恍然开悟未何尝不是小确幸
浩瀚海洋William·2024-08-25 17:39
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他