大数据流式实时处理Spark

Python大数据学习day01——大数据开发概论

目录大数据概念大数据特点大数据应用场景大数据分析业务步骤大数据职业规划大数据学习路线1.大数据解决问题海量数据存储——海量数据运算——海量数据迁移2.大数据特点（大、多、值、快、信）数据体量大种类和来源多源化实现低价值密度速度快数据的质量准确可信
笨小孩124·2024-08-28 12:46

Python大数据之Python爬虫学习总结——day16 数据可视化

数据可视化Map_地图基础地图知识点:基础示例:实战练习:知识点:自定义模块:制作中国地图data1.txt文件内容python代码示例制作区域地图data2.txt文件内容python代码示例Line_折线图基础折线图实战练习:Bar_柱状图基础柱状图反转以及主题设置Json数据python数据转为json数据知识点:示例:json数据转为python数据知识点:json文件:示例:Map_地图
笨小孩124·2024-08-28 12:46

SparkStreaming 如何保证消费Kafka的数据不丢失不重复

目录SparkStreaming接收Kafka数据的方式有两种：Receiver接收数据和采用Direct方式。
K. Bob·2024-08-28 10:02

SparkSql

SparkSQL基本介绍什么是SparkSQL?用于处理结构化数据的Spark模块。可以通过DataFrame和DataSet处理数据。
李思缘的大数据之路·2024-08-28 09:00

SparkSQL优化查询性能的方法

一、PySpark如何提高程序的运行效率和性能PySpark的运行效率和性能受到多个因素的影响，包括数据大小、算法复杂度、硬件资源等。
大数据海中游泳的鱼·2024-08-28 09:57

Spark on YARN

ApacheSpark和ApacheHadoopYARN是两个紧密相关的项目，它们经常一起使用来处理大规模数据集。
静听山水·2024-08-28 09:26

知识分享系列三：大数据技术（上）

本文系统地介绍了大数据技术的相关知识，由于篇幅比较长，分为上下两部分，其中上半部分先介绍基本概念、核心领域，下半部分介绍主要技术、平台架构，以及相关企业案例。
jinruimeng·2024-08-28 07:43

Django后端架构开发：Django 与 Celery 的深度集成

Celery是一个简单、灵活且可靠的分布式任务队列系统，它支持任务的实时处理和定时任务调度。Celery的工作原理非常简单：它将任务发送到消息队
Switch616·2024-08-28 06:41

MongoDB适用场景

MongoDB适用场景：大数据量存储：MongoDB非常适合存储PB级的数据。高性能：MongoDB能够实现高
Rverdoser·2024-08-28 06:05

大模型企业应用落地系列三》基于大模型的对话式推荐系统》技术架构实现》大数据平台层

注：此文章内容均节选自充电了么创始人，CEO兼CTO陈敬雷老师的新书《自然语言处理原理与实战》（人工智能科学与技术丛书）【陈敬雷编著】【清华大学出版社】文章目录大模型企业应用落地系列三技术架构实现》大数据平台层大模型底座层具体实现大模型推荐技术发展趋势探讨总结大模型企业应用落地系列三技术架构实现
陈敬雷-充电了么-CEO兼CTO·2024-08-28 03:49

淘宝网购省钱技巧分享淘宝怎么买东西更省钱？

很早之前就已经开始实行网购返利，但还是有那么一部分人不愿意相信，戒备心的驱使下网购一直都是原价，但用大数据告诉你淘宝一年返利好几亿，就我本人一个月返利都好几百，特别是在双十一那种电商节的时候返利提现上千很容易
测评君高省·2024-08-28 03:17

大数据学习路线基础指南‌

随着信息技术的迅猛发展，‌大数据已成为当今社会的热门话题。‌无论是企业决策、‌市场分析还是科学研究，‌大数据都扮演着举足轻重的角色。‌
一马什么梅一·2024-08-27 23:24

kafka(一)Kafka概述

定义Kafka是一个的基于的（MessageQueue），主要应用于大数据实时处理领域。
万事万物·2024-08-27 23:57

图数据库Neo4j从入门到精通视频教程（含Neo4j+D3.js完整实战项目）

Neo4j+D3.js完整实战项目）课程观看地址：http://www.xuetuwuyou.com/course/302课程出自学途无忧网：http://www.xuetuwuyou.com图数据库是目前大数据领域最火热的方向
菜花小噗噗·2024-08-27 23:23

快速收集信息，Python爬虫教你一招爬取豆瓣Top250信息！

随着科技不断发展，互联网已经进入了大数据时代。我们过去只能通过报刊杂志、电视广播获取到有限的信息，而现在，互联网上的海量数据，让我们享受到了信息自由。
不想秃头的里里·2024-08-27 22:45

分享一个基于Spark的招聘数据可视化与分析系统Hadoop大数据源码（源码、调试、LW、开题、PPT）

作者：计算机源码社个人简介：本人八年开发经验，擅长Java、Python、PHP、.NET、Node.js、Android、微信小程序、爬虫、大数据、机器学习等，大家有这一块的问题可以一起交流！
计算机源码社·2024-08-27 20:05

Nodejs中流的操作，实现简单的pipe

fs与流都可以处理文件，为什么还要用流：fs模块处理文件的缺点：将文件的数据全读到内存中，在把数据写到文件内，会大量占用内存流：流（stream）是Node.js中处理流式数据的抽象接口，是一组有序的，
balu5955·2024-08-27 20:34

Distrii办伴：空间+科技+服务 解决企业办公全生命周期需求

随着人工智能、大数据技术的应用场景逐步扩大，更丰富、更落地的企业服务场景将在不远的未来不断涌现。
娱扒小公主·2024-08-27 19:11

我用Ehcache本地缓存把查询性能提升100倍，真香

目录业务背景如何通过缓存优化查询接口基于大数据离线平台进行缓存预热本地缓存框架Ehcache今天给大家来分享一个知识，那就是平时我们开发系统的时候，如何运用Ehcache这款本地缓存框架，把我们的查询性能大幅度提升优化
石杉的架构笔记·2024-08-27 19:26

一分钟了解Galaxybase银河图数据库先锋版升级功能！

Galaxybase银河图数据库是一款创邻科技自主研发的商用图数据库，具有高性能、高可用、企业级安全等特性，支持大规模数据查询实时返回，快速挖掘关联关系，发现深层商业洞见，可广泛应用于金融、能源、电信、政企等行业中的大数据分析场景等场景
创邻科技·2024-08-27 18:51

国内首个图计算平台团体标准发布，创邻科技参与编撰

2024年，由中国通信标准协会批准的团体标准《大数据图计算平台技术要求与测试方法》（编号：T/CCSA470—2023）（下称：标准）正式实施。
创邻科技·2024-08-27 18:21

Flink SQL w/ Blink Planner执行流程解析（上篇）

Foreword大数据领域SQL化的风潮方兴未艾(所谓"EverybodyknowsSQL")，Flink自然也不能“免俗”。
码农老K·2024-08-27 17:44

大数据计算-SQL优化手段(CBO)-以Flink为例

文章目录背景理论知识示例结果展示结果解释背景大数据计算中，SQL生成的执行计划第一轮会经过固定规则的优化，第二轮会根据原计划，生成多条结合成本的的执行计划，根据cost进行排序，选出最优的执行计划。
wending-Y·2024-08-27 17:12

spark采坑集锦之用kafka作为DStream数据源，并行度问题

在SparkStreaming中作为数据源的Kafka怎样接收多主题发送的数据呢？
方兵兵·2024-08-27 16:41

（二十）Flink Paimon

数据湖、湖仓一体是当前大数据领域技术发展的重要趋势。
springk·2024-08-27 16:38

Hbase BulkLoad用法

要导入大量数据，Hbase的BulkLoad是必不可少的，在导入历史数据的时候，我们一般会选择使用BulkLoad方式，我们还可以借助Spark的计算能力将数据快速地导入。
kikiki4·2024-08-27 15:42

挑战应对：携手共赢的未来——《无限的可能：世界高等教育数字化发展报告（2023）》

面向未来，数字技术在高等教育中的应用呈现新一代互联网强化教育要素新联结、物联网助力打造数字教育新空间、大数据有力支撑精准化教育服务新范式、区块链加速释能学习新评价、生成式人工智能重构教育教学新形态、元宇宙推动形成虚实一体教育新场域等发展趋势
罗思付之技术屋·2024-08-27 14:55

基层医疗云HIS系统源码：云计算、大数据等现代信息技术研发

云HIS源码，基层云HIS系统源码，基层医疗云HIS系统利用云计算、大数据等现代信息技术研发的基层医疗云HIS系统实现了医院信息化从局域网向互联网转型，重新定义医疗卫生信息化建设的理念、构架、功能和运维体系
项目源码库·2024-08-27 14:24

探索未来数据流处理的基石 - Pravega开源项目深度解析

项目地址:https://gitcode.com/gh_mirrors/pr/pravega在大数据和实时处理领域，一个强大的数据流管理工具
施业任Luna·2024-08-27 13:46

Navicat for MySQL：卓越的跨平台数据库管理开发工具

NavicatforMySQL是一款专为数据库管理员和开发人员设计的强大数据库管理开发工具，支持Mac和Windows操作系统，为用户提供了高效、便捷的数据库操作体验。
平安喜乐616·2024-08-27 13:45

Spark -- 基础开发和RDD相关知识总结!!!

目录一、基础开发1.Anaconda2.案例(基本代码)3.案例(链式编程)3.spark-submit3.StandAlone模式4.SparkOnYarn模式二、RDD1.RDD模型2.RDD常用算子
Alfie-·2024-08-27 12:13

Spark-第三周

1.sparkcontext初始化源码分析Spark源码（7）-SparkContext初始化源码分析_太与旅spark源码-CSDN博客Spark源码学习(一)：SparkContext初始化源码分析
fightingD&W·2024-08-27 12:13

Spark-第五周

sparkonyarn运行流程SparkonYarn模式下执行过程_sparkonyarn作业执行流程-CSDN博客yarnclient与yarncluster区别SparkonYarn用执行流程图解（
fightingD&W·2024-08-27 12:13

Spark-第六周

1.sparksql运行流程【Spark精讲】一文讲透SparkSQL执行过程_sparksql执行过程-CSDN博客摸鱼大数据——SparkSQL——SparkSQL的运行机制-CSDN博客2.熟练使用
fightingD&W·2024-08-27 12:13

游卡，三七互娱，得物，顺丰，快手，oppo，莉莉丝，康冠科技，途游游戏，埃科光电25秋招内推

游卡，三七互娱，得物，顺丰，快手，oppo，莉莉丝，康冠科技，途游游戏，埃科光电25秋招内推①顺丰【招聘岗位】研发、算法、大数据、产品、项管、设计、人资等【官方内推码】4FOLXH【一键内推】https
2401_86288678·2024-08-27 12:39

拆解十点课堂10万+爆文2019离婚大数据曝光：打败婚姻的，不是出轨，不是婆婆，而是……

拆解:2019离婚大数据曝光：打败婚姻的，不是出轨，不是婆婆，而是……一、大标题和小标题的关系全文分4个小节，第一节为引言第一句很关键:必须用3秒的时间吸引打开率，诉诸感性与理性对比，构成反差:一句经典爱情歌曲开篇
财气横溢·2024-08-27 08:28

以数据安全筑牢新时代旅游安全之基,硬盘文件数据销毁，硬盘销毁

在数字化高速发展的时代，旅游行业也迎来了大数据的浪潮。全国旅游标准化技术委员会近日发布标准《旅游大数据安全与隐私保护要求（征求意见稿）》，并公开征求意见，截止时间为2024年10月8日。
硬盘文件数据销毁海龙·2024-08-27 08:47

大数据挖掘的步骤是怎样的呢？

大数据挖掘是一个复杂而系统的过程，它利用计算机科学的方法和技术，对大量、多样化、高速增长的数据进行深入挖掘，以发现有价值的信息和知识。
weixin_54503231·2024-08-27 08:46

【大数据】数据仓库的定义、数据模型及其建设与设计

1.数据仓库1.1定义数据仓库不是数据的简单堆积，而是从大量的事务型数据库中抽取数据，并将其清理、转换为新的存储格式,即为决策目标把数据聚合在一种特殊的格式中。公认的数据仓库之父W.H.Inmon将其定义为：“数据仓库是支持管理决策过程的、面向主题的、集成的、随时间而变的、持久的数据集合”。1.2体系结构数据仓库的体系结构如下图：数据源：是数据仓库系统的基础，是整个系统的数据源泉。通常包括企业内部
牧心.·2024-08-27 07:10

大数据技术之Flume 企业开发案例——负载均衡和故障转移（6）

目录负载均衡和故障转移1）案例需求2）需求分析3）实现步骤负载均衡和故障转移1）案例需求使用Flume1监控一个端口，其sink组中的sink分别对接Flume2和Flume3，采用FailoverSinkProcessor，实现故障转移的功能。2）需求分析故障转移案例3）实现步骤准备工作在/opt/module/flume/job目录下创建group2文件夹[lzl@hadoop12job]$c
大数据深度洞察·2024-08-27 05:58

初识大数据（二）医疗大数据

此篇文章主要跟大家介绍一下大数据在医疗行业内的应用与和落地，给我们的日常生活带和医疗行业带来什么样的变化、适合初入者了解大数据在行业内的应用落地，增加大数据从业人员的业务能力主要内容为大数据在医疗行业中应用价值
9eb8afdad681·2024-08-27 05:35

Hbase BulkLoad用法

要导入大量数据，Hbase的BulkLoad是必不可少的，在导入历史数据的时候，我们一般会选择使用BulkLoad方式，我们还可以借助Spark的计算能力将数据快速地导入。
kikiki1·2024-08-27 04:22

PySpark，一个超级强大的 Python 库

也许能够开启我们的智慧之门，一个普通的方法，也许能在危急时刻挽救我们于水深火热，一个新颖的思维方式，也许能激发我们无尽的创造力，一个独特的技巧，也许能成为我们的隐形盾牌……神奇的Python库之旅，第14章目录一、初识PySpark
炒青椒不放辣·2024-08-26 22:18

Linux shell编程学习笔记73：sed命令——沧海横流任我行（上）

0前言在大数据时代，我们要面对大量数据，有时需要对数据进行替换、删除、新增、选取等特定工作。在Linux中提供很多数据处理命令，如果我们要以行为单位进行数据处理，可以使用sed。
紫郢剑侠·2024-08-26 19:18

WPF 使用DrawingVisual绘制高性能曲线图

一、前言项目中涉及到了心率监测，而且数据量达到了百万级别，通过WPF实现大数据曲线图时，尝试过最基础的Canvas来实现，但是性能堪忧，而且全部画出来也不实际。
dotNET跨平台·2024-08-26 19:44

（十五）Flink 内存管理机制

在大数据领域，很多开源框架（Hadoop、Spark、Storm）都是基于JVM运行，但是JVM的内存管理机制往往存在着诸多类似OutOfMemoryError的问题，主要是因为创建大量的实例，超过JVM
springk·2024-08-26 16:27

面试笔记8.24

项目你的项目中涉及大数据开发，那你的代码工程是怎么搭建的？正确答案：在我的项目中涉及大数据开发时，我通常会采用分布式的架构，比如使用Hadoop或者Spark等大数据处理框架。
励志秃头码代码·2024-08-26 16:55

Spring Boot实战：使用Spring Cloud Stream处理实时交易数据

随着金融市场的快速发展以及大数据技术的广泛应用，实时处理交易数据变得越来越重要。SpringBoot和SpringCloudStream为开发者提供了一个强大的工具组合来构建这样的系统。
潘多编程·2024-08-26 15:17

山东大学大数据管理与分析知识点总结

大数据概述大数据(bigdata)，或称巨量资料，指的是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产大数据指不用随机分析法（抽样调查）这样的捷径，而采用所有数据进行分析处理大数据四个本质特征大量化
weixin_51565263·2024-08-26 14:46

大数据技术之Zookeeper安装 （2）

目录下载地址本地模式安装1）安装前准备2）配置修改3）操作Zookeeper配置参数解读Zookeeper集群操作集群规划解压安装配置服务器编号配置zoo.cfg文件集群操作Zookeeper集群启动停止脚本创建脚本增加脚本执行权限Zookeeper集群启动脚本Zookeeper集群停止脚本Zookeeper选举机制（面试重点）首次启动选举非首次启动选举关键术语解释下载地址官网首页：ApacheZ
大数据深度洞察·2024-08-26 14:43
上一页 6 7 8 9 10 11 12 13 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他