大数据—Spark

企业信息化5：后勤管理系统

前言：随着企业各业务板块在信息化的浪潮中积极转型升级，后勤板块往往成为了一个企业信息化的短板，后勤业务大数据无法融入企业信息化数据湖，进而影响企业整体运营的效率和质量。
mosquito_lover1·2025-01-27 02:52

大数据Lambda架构

Lambda架构介绍Lambda是用于同时处理离线和实时数据，可容错、可扩展的分布式系统架构。有批处理层、加速层、服务层。同时以流计算和批处理计算合并视图。Lambda架构的批处理层采用不可变存储模型，不断地往主数据集后追加新的数据。Lambda架构优缺点<
奋进学堂·2025-01-26 23:00

Lambda架构

原文地址：https://www.cnblogs.com/xiaodf/p/11642555.html首先我们来看一个典型的互联网大数据平台的架构，如下图所示：在这张架构图中，大数据平台里面向用户的在线业务处理组件用褐色标示出来
leveretz·2025-01-26 22:54

ES聚合分析原理与代码实例讲解

ES聚合分析原理与代码实例讲解作者：禅与计算机程序设计艺术/ZenandtheArtofComputerProgramming1.背景介绍1.1问题的由来随着大数据时代的到来，企业级应用需要处理的数据量呈爆炸式增长
AI大模型应用之禅·2025-01-26 22:21

大数据技术4：Lambda和Kappa架构区别_lambda架构和kappa架构区别

Lambda架构缺点：虽然Lambda架构使用起来十分灵活，并且可以适用于很多的应用场景，但在实际应用的时候，Lambda架构也存在着一些不足，主要表现在它的维护很复杂。（1）同样的需求需要开发两套一样的代码：这是Lambda架构最大的问题，两套代码不仅仅意味着开发困难（同样的需求，一个在批处理引擎上实现，一个在流处理引擎上实现，还要分别构造数据测试保证两者结果一致），后期维护更加困难，比如需求变
2401_84181501·2025-01-26 22:50

Scala简介

hadoop生态圈—>javaspark生态圈—>scala1.scala是面向对象的、面向函数的基于静态类型的编程语言。
醉游江湖·2025-01-26 18:21

spark官方配置参数详解

以下是整理的Spark中的一些配置参数，官方文档请参考SparkConfiguration。
我丶怀念的·2025-01-26 18:21

【spark床头书系列】如何在YARN上启动Spark官网权威详解说明

【spark床头书系列】如何在YARN上启动Spark官网权威详解说明点击这里看全文文章目录添加其他JAR文件准备工作配置调试应用程序Spark属性重要说明KerberosYARN特定的Kerberos
BigDataMLApplication·2025-01-26 18:20

xgboost在spark集群使用指南

简介XGBoost是一个优化的分布式梯度增强库，具有高效、灵活和可移植性。在梯度增强框架下实现了机器学习算法。XGBoost提供了一种并行树增强(也称为GBDT、GBM)，可以快速、准确地解决许多数据科学问题。相同的代码在主要的分布式环境(Hadoop、SGE、MPI)上运行，可以解决数十亿个示例的训练问题。xgb相对于gbt所做的改进：1.2.3.XGBoost可以使用R、python、java
一颗小草333·2025-01-26 17:49

Redis线上阻塞要如何排查

哪些情况会让指令变慢：1.指令获取的数据很多，比如大数据量下执行keys、hgetall、smembers等指令。
思静鱼·2025-01-26 17:12

Apache Hive 聚合函数与 OVER 窗口函数：从基础到高级应用

在大数据时代，ApacheHive是处理和分析海量数据的强大工具。Hive提供了丰富的聚合函数和强大的OVER窗口函数，能够帮助我们高效地进行数据分析。
大鳥·2025-01-26 11:04

大数据治理实战指南：数据质量、合规与治理架构

个人主页：一ge科研小菜鸡-CSDN博客期待您的关注引言随着企业数字化转型的加速，大数据已成为驱动业务决策的核心资产。然而，数据治理的缺失或不完善，可能导致数据质量问题、合规风险以及业务价值的流失。
一ge科研小菜鸡·2025-01-26 11:28

性能优化案例：通过合理设置spark.default.parallelism参数的值来优化PySpark程序的性能

在PySpark中，spark.default.parallelism是一个关键参数，直接影响作业的并行度和资源利用率。
weixin_30777913·2025-01-26 06:52

Redis学习笔记

NoSQL数据库的产生就是为了解决大规模数据集合多重数据种类带来的挑战，特别是大数据应用难题。NoSQL特点方便扩展（
csdn_bobo_6·2025-01-26 06:47

性能优化案例：通过合理设置spark.storage.memoryFraction参数的值来优化PySpark程序的性能

优化PySpark程序的性能时，合理设置spark.storage.memoryFraction（或相关内存参数）是关键。
weixin_30777913·2025-01-26 05:14

转：Spark RDD算子练习题

版权声明：本文为博主原创文章，遵循CC4.0BY-SA版权协议，转载请附上原文出处链接和本声明。本文链接：https://blog.csdn.net/qq_40825218/article/details/83720732给定数据如下：12张三25男chinese5012张三25男math6012张三25男english7012李四20男chinese5012李四20男math5012李四20男e
爱萨萨·2025-01-26 05:42

spark sql的练习题

1、使用StructuredStreaming读取Socket数据，把单词和单词的反转组成json格式写入到当前目录中的file文件夹中2、请使用StructuredStreaming读取student_info文件夹写的csv文件，2.1、统计出文件中的男女生各有多少人2.2、统计出姓“王”男生和女生的各有多少人3、请使用StructuredStreaming读取department_info文
a大数据yyds·2025-01-26 05:39

Spark>sql练习题

练习题-------------------------------以下使用StructuredStreaming：-------------------------------1、请使用StructuredStreaming读取Socket数据，统计出每个单词的个数2、请使用StructuredStreaming读取student_info文件夹写的csv文件，2.1、统计出文件中的男女生各有多
BigMoM1573·2025-01-26 05:38

《Spark大数据分析与内存计算》——第三章

(单选题)并不是所有企业都能自己产生数据，从而用于决策辅助，而更多的互联网企业如电商等大部分是要靠什么来抓取互联网数据进行分析A.HadoopB.pythonC.SparkD.网路爬虫正确答案:D:网路爬虫
阿万古·2025-01-26 05:07

PySpark之金融数据分析（Spark RDD、SQL练习题）

目录一、数据来源二、PySparkRDD编程1、查询特定日期的资金流入和流出情况2、活跃用户分析三、PySparkSQL编程1、按城市统计2014年3月1日的平均余额2、统计每个城市总流量前3高的用户四
唯余木叶下弦声·2025-01-26 04:02

探秘FreeMovie：一个开源的电影推荐系统

技术分析FreeMovie的核心架构包括以下关键组件：数据处理-项目采用Hadoop进行大数据预处
孟振优Harvester·2025-01-26 02:39

Lambda离线实时分治架构深度解析与实战

一、引言在大数据技术日新月异的今天，Lambda架构作为一种经典的数据处理模型，在应对大规模数据应用方面展现出了强大的能力。
喜欢猪猪·2025-01-26 01:36

“大模型横扫千军”背后的大数据挖掘--浅谈MapReduce

文章目录O背景知识1数据挖掘2邦费罗尼原则3TF.IDF4哈希函数5分布式文件系统一、MapReduce基本介绍1.Map任务2.按键分组3.Reduce任务4.节点失效处理5.小测验：在一个大型语料库上有100个map任务和若干reduce任务：二、基于MapReduce的基本运算1.选择（Selection）2.交（Intersection）3.并（Union）4.补（Difference）5
绒绒毛毛雨·2025-01-26 01:35

基于大数据的电影数据分析可视化系统设计与应用

基于大数据的电影数据分析可视化系统设计与应用作者：禅与计算机程序设计艺术1.背景介绍1.1大数据时代的电影行业随着互联网技术和数字化的发展,电影行业已经进入大数据时代。
AI架构设计之禅·2025-01-26 00:02

Command Center AI

它集成了大数据处理、实时情报分析、优化调度、决策模拟等功能，为指挥官提供多维度的决策支持。
由数入道·2025-01-26 00:53

用 Docker 搭建 Spark 集群

简介Spark是Berkeley开发的分布式计算的框架，相对于Hadoop来说，Spark可以缓存中间结果到内存而提高某些需要迭代的计算场景的效率，目前收到广泛关注。
yeasy·2025-01-26 00:22

【2025优质学术推荐】征稿控制科学、仪器、智能系统、通信、计算机、电子信息、人工智能、大数据、机器学习、软件工程、网络安全方向

【2025优质学术推荐】征稿控制科学、仪器、智能系统、通信、计算机、电子信息、人工智能、大数据、机器学习、软件工程、网络安全方向【2025优质学术推荐】征稿控制科学、仪器、智能系统、通信、计算机、电子信息
努力学习的大大·2025-01-25 22:43

Github上最热门的11个Java开源项目你会了吗

2dolphinscheduler（地址见文末）ApacheDolphinScheduler是一个可视化的分布式大数据工作流任务调
Java小叮当·2025-01-25 22:37

2025年新出炉的MySQL面试题

作者简介：CSDN\阿里云\腾讯云\华为云开发社区优质创作者，专注分享大数据、Python、数据库、人工智能等领域的优质内容个人主页：长风清留杨的博客形式准则：无论成就大小，都保持一颗谦逊的心，尊重他人
长风清留扬·2025-01-25 20:00

精选了几道MySQL的大厂面试题，被提问的几率很高！

作者简介：CSDN\阿里云\腾讯云\华为云开发社区优质创作者，专注分享大数据、Python、数据库、人工智能等领域的优质内容个人主页：长风清留杨的博客形式准则：无论成就大小，都保持一颗谦逊的心，尊重他人
长风清留扬·2025-01-25 20:00

有史以来最全的异常类讲解没有之一！第二部分爆肝2万字，终于把Python的异常类写完了！最全Python异常类合集和案例演示，第二部分

最全Python异常类合集和案例演示，第一部分博客主页：长风清留扬-CSDN博客系列专栏：Python基础专栏每天更新大数据相关方面的技术，分享自己的实战工作经验和学习总结，尽量帮助大家解决更多问题和学习更多新知识
长风清留扬·2025-01-25 20:30

有史以来最全的异常类讲解没有之一！第三部分爆肝4万字，终于把Python的异常类写完了！最全Python异常类合集和案例演示，第三部分

最全Python异常类合集和案例演示，第二部分博客主页：长风清留扬-CSDN博客系列专栏：Python基础专栏每天更新大数据相关方面的技术，分享自己的实
长风清留扬·2025-01-25 20:30

还在为Python“运算符”中遇到的BUG而发愁吗？，变量相关的问题和解决办法看这篇文章就够了！

博客主页：长风清留扬-CSDN博客系列专栏：Python疑难杂症百科-BUG编年史每天更新大数据相关方面的技术，分享自己的实战工作经验和学习总结，尽量帮助大家解决更多问题和学习更多新知识，欢迎评论区分享自己的看法感谢大家点赞收藏
长风清留扬·2025-01-25 20:00

金融数据有哪些，有用的股票API接口数据

一、金融数据有哪些，有用的股票API接口行情数据金融大数据是为金融机构、个人投资者以及金融应用开发者提供专业的数据和行情报价API服务，满足不同用户在投资过程中丰富多样的行情数据分析和投资研究，以API
nance99·2025-01-25 20:28

2024 年 MathorCup 数学应用挑战赛——大数据竞赛 赛道 B：电商品类货量预测及品类分仓规划 思路和代码 持续更新中

会结合最新的chatgpt发布思路,开赛一天后恢复原价99,不代写论文,不回复私信.没有群,只需订阅一次目录问题分析与解决思路问题1：货量预测模型问题2：一品一仓分仓规划问题3：一品多仓分仓规划总结这类大数据竞赛的重点在于构建一个全面的预测和优化模型
2025年数学建模美赛·2025-01-25 20:28

基于知识图谱的用户画像构建与应用

实体节点构建2.2.2关系建模2.3用户画像生成2.3.1静态特征2.3.2动态特征2.3.3关系网络3.基于知识图谱的用户画像应用场景3.1精准营销3.2内容推荐3.3用户需求预测3.4风险控制结语前言随着大数据
cooldream2009·2025-01-25 20:56

智能运维分析决策系统：赋能数字化转型的智慧引擎

智能运维分析决策系统（AIOps，ArtificialIntelligenceforITOperations）作为这一转变的核心驱动力，通过融合大数据、机器学习、人工智能等先进技术，实现了对运维数据的深度洞察与智能决策
我的运维人生·2025-01-25 19:49

第11篇：你知道ElasticSearch聚合分析能力有多强?

除了搜索功能之外，Elasticsearch还结合Kibana、Logstash、ElasticStack还被广泛运用在大数据近实时分析领域，包括日志分析、指标监控等多个领域。
老王随聊·2025-01-25 19:47

Elasticsearch聚合分析：未来发展趋势

1.背景介绍1.1大数据时代的分析需求随着互联网、物联网、移动互联网等技术的快速发展，全球数据量呈现爆炸式增长，我们正步入一个前所未有的大数据时代。
AI天才研究院·2025-01-25 19:17

软件工程之信息系统集成

（2）数据集成（大数据）重点是系统中异构数据集的互通使用和统一管理。
我叫吴桂鑫·2025-01-25 18:11

网络安全态势感知：企业数字化转型的 “安全密钥”

它借助大数据分析、机器学习这些先进技术，就像是拥有了超级强大的“洞察力
知白守黑V·2025-01-25 17:35

Apache Flink 替换 Spark Stream的架构与实践( bilibili 案例解读)_streamsparkflink加载udf

3.基于ApacheFlink的流式计算平台为解决上述问题，bilibili希望根据以下三点要求构建基于ApacheFlink的流式计算平台。第一点，需要提供SQL化编程。bilibili对SQL进行了扩展，称为BSQL。BSQL扩展了Flink底层SQL的上层，即SQL语法层。**第二点，**DAG拖拽编程,一方面用户可以通过画板来构建自己的Pipeline，另一方面用户也可以使用原生Jar方式
2501_90243308·2025-01-25 16:58

Kafka：架构与核心机制

ApacheKafka是一种高吞吐量的分布式消息队列，广泛应用于实时数据流处理和大数据架构中。本文将详细探讨Kafka的架构、Replica管理、消息读取、分区策略、可靠性保障等核心机制。
J老熊·2025-01-25 11:49

车联网安全

然而车联网技术应用过程中却会带来信息安全问题，具体可分为以下三种：一、用户隐私汽车智能化是建立在车辆动态数据收集及应用上的，如车辆行驶、车体、动力、安全及环境数据等层面，尤其是车辆行驶数据一直都被视为变现的大数据金矿
黄一113530·2025-01-25 11:46

【趋势】《2024—2026金融科技十大趋势预测》一览

此外，金融机构也越来越需要借助大数据和AI技术来提升业务的
学客汇·2025-01-25 09:36

【爬虫】使用 Scrapy 框架爬取豆瓣电影 Top 250 数据的完整教程

前言在大数据和网络爬虫领域，Scrapy是一个功能强大且广泛使用的开源爬虫框架。它能够帮助我们快速地构建爬虫项目，并高效地从各种网站中提取数据。
m0_74825360·2025-01-25 08:57

CDH大数据平台

CDH是一个大数据平台，简化和加速了大数据处理分析的部署和管理。CDH提供Hadoop的核心元素-可伸缩存储和分布式计算-以及基于web的用户界面和重要的企业功能。
梦龙zmc·2025-01-25 06:44

免费AI大模型API汇总（非常详细），零基础入门到精通，看这一篇就够了

前言一、免费大模型API一览大模型免费版本免费限制控制台（api_key等）讯飞星火大模型spark-litetokens：总量无限；QPS：2；(每秒发送的请求数)有效期：不限访问链接百度千帆大模型平台
大模型扬叔·2025-01-25 06:08

Spring Boot集成RocketMQ实现分布式事务

RocketMQ的设计旨在满足互联网业务场景中的海量消息传递需求，尤其擅长处理高并发、大数据量以及实时计算场景。
missterzy·2025-01-25 04:30

Java 大视界 -- Java 大数据中的自然语言生成技术与实践（63）

一、欢迎加入【福利社群】点击快速加入：青云交灵犀技韵交响盛汇福利社群点击快速加入2：2024CSDN博客之星创作交流营（NEW)二、本博客的精华专栏：大数据新视
青云交·2025-01-25 03:52
上一页 19 20 21 22 23 24 25 26 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他