大数据-Spark

132java ssm springboot基于大数据的吉林省农村产权交易数据分析可视化平台系统（源码+文档+运行视频+讲解视频）

文章目录系列文章目录目的前言一、详细视频演示二、项目部分实现截图三、技术栈后端框架springboot前端框架vue持久层框架MyBaitsPlus系统测试四、代码参考源码获取目的摘要：本文介绍了基于JavaSSM和SpringBoot开发的吉林省农村产权交易数据分析可视化平台系统，为农村产权交易市场提供决策支持。系统前端利用HTML、CSS和JavaScript构建直观的可视化界面，后端运用Ja
QQ2279239102·2025-03-05 23:36

系统对接方案_浅谈RPA系统

首先本文是有感而发，其次是我本身是大数据和人工智能领域产品多年从业者，并不局限于RPA领域，做过一些RPA项目也和客户沟通并且提供过顾问和咨询服务，所以有一定理解。
weixin_39881760·2025-03-05 23:34

一文揭秘！Java 如何与 Elasticsearch 完美 “牵手”？

在当今大数据和高并发的时代，高效的数据检索与分析变得愈发关键。Elasticsearch作为一款强大的分布式搜索和分析引擎，受到了广泛青睐。
程序员顾茗·2025-03-05 21:49

【AI深度学习基础】Pandas完全指南入门篇：数据处理的瑞士军刀 （含完整代码）

Pandas系列文章导航入门篇进阶篇终极篇一、引言在大数据与AI驱动的时代，数据预处理和分析是深度学习与机器学习的基石。
arbboter·2025-03-05 20:08

对“预训练”的理解

在平常的任务或者项目中，我们可能并没有大量数据，只有少量数据，在这时我们就可以通过“借用”有大数据支持的模型的参数，作为基准，这样就能提高效率和准确率。
衣衣困·2025-03-05 18:59

Java 大视界 -- Java 大数据机器学习模型的可解释性增强技术与应用（107）

一、欢迎加入【福利社群】点击快速加入：青云交灵犀技韵交响盛汇福利社群点击快速加入2：2024CSDN博客之星创作交流营（NEW)二、本博客的精华专栏：大数据新视
青云交·2025-03-05 18:55

Java 大视界 -- Java 大数据在智慧环保污染源监测与预警中的应用（104）

一、欢迎加入【福利社群】点击快速加入：青云交灵犀技韵交响盛汇福利社群点击快速加入2：2024CSDN博客之星创作交流营（NEW)二、本博客的精华专栏：大数据新视
青云交·2025-03-05 18:25

Java 大视界 -- Java 大数据分布式文件系统的性能调优实战（101）

一、欢迎加入【福利社群】点击快速加入：青云交灵犀技韵交响盛汇福利社群点击快速加入2：2024CSDN博客之星创作交流营（NEW)二、本博客的精华专栏：大数据新视
青云交·2025-03-05 18:25

Java 大视界 -- 深入剖析 Java 大数据实时 ETL 中的数据质量保障策略（97）

一、欢迎加入【福利社群】点击快速加入：青云交灵犀技韵交响盛汇福利社群点击快速加入2：2024CSDN博客之星创作交流营（NEW)二、本博客的精华专栏：大数据新视
青云交·2025-03-05 18:25

Java 大视界 -- 绿色大数据：Java 技术在节能减排中的应用与实践（90）

一、欢迎加入【福利社群】点击快速加入：青云交灵犀技韵交响盛汇福利社群点击快速加入2：2024CSDN博客之星创作交流营（NEW)二、本博客的精华专栏：大数据新视
青云交·2025-03-05 18:55

Java 大视界 -- 大数据伦理与法律：Java 技术在合规中的作用与挑战（87）

一、欢迎加入【福利社群】点击快速加入：青云交灵犀技韵交响盛汇福利社群点击快速加入2：2024CSDN博客之星创作交流营（NEW)二、本博客的精华专栏：大数据新视
青云交·2025-03-05 18:25

Java 大视界 -- 区块链赋能 Java 大数据：数据可信与价值流转（84）

一、欢迎加入【福利社群】点击快速加入：青云交灵犀技韵交响盛汇福利社群点击快速加入2：2024CSDN博客之星创作交流营（NEW)二、本博客的精华专栏：大数据新视
青云交·2025-03-05 18:24

Java 大视界 -- 基于 Java 的大数据流处理容错机制与恢复策略（113）

一、欢迎加入【福利社群】点击快速加入：青云交灵犀技韵交响盛汇福利社群点击快速加入2：2024CSDN博客之星创作交流营（NEW)二、本博客的精华专栏：大数据新视
青云交·2025-03-05 17:50

大智能：大数据+大模型+大算力_大算力大数据大模型

在近日举行的“2022中国人工智能产业年会”主论坛上，中国人工智能学会监事长、中国工程院院士蒋昌俊在报告中表示，人工智能的发展已经历了数十年的过程，大模型ChatGPT在今年春节前后突然出现，大家还没有来得及深度思考就已经“扑面而来”。蒋昌俊大智能的研究进展科学技术的研究约分为两大范式，一是牛顿力学奠定了理论计算的范式，二是开普勒开启数据的范式。之后经历了实验归纳、理论的逻辑推演，以及计算模拟、最
AI学习不迷路·2025-03-05 14:13

（一）spark是什么？

1.spark是什么？spark是一个用来实现快速，通用的集群计算平台spark适用于各种各样原先需要多种不同的分布式平台的场景，包括批处理，迭代算法，交互式查询，流处理。
一智哇·2025-03-05 11:21

场景题：有40亿个QQ号如何去重？仅1GB内存

仅1GB内存场景题也有一些套路可以考虑，比如去重、判断给定数据是否存在1.大数据去重1.1现在有40亿个QQ号如何去重？
·2025-03-05 11:11

spark hdfs 常用命令

目录lsrmgettext以下按照使用频率和使用先后顺序排序（纯个人习惯）ls列出hdfs文件系统路径下的目录和文件hdfsdfs-ls列出hdfs文件系统路径下所有的目录和文件hdfsdfs-ls-Rrmhadoopfs-rm...hadoopfs-rm-r...每次可以删除多个文件或目录getlocalfile不能和hdfsfile名字不能相同，否则会提示文件已存在，没有重名的文件会复制到本地
毛球饲养员·2025-03-05 11:19

常用spark命令

--spark启动localhost$spark-sql--masteryarn启动主节点yarn模式--查看hdfs文件hdfsdfs-ls/spark/myDatabase.db查看我们建的表其实是是建立在
会拉小提琴的左脚·2025-03-05 11:19

国产化替代 | 星环科技TDH替代IBM数仓，助力城商行构建湖仓一体平台

某城市商业银行在此背景下，启动数据仓库系统升级项目，将数据仓库从IBMNetezza迁移到星环科技大数据基础平台TDH，不但成功实现了数据仓库的国产化替代，还建设了新一代的湖仓一体平台，为银行业务发展提供新
·2025-03-05 11:08

Spark详解二

八、Spark部署模式1、Local本地模式：运行于本地spark-shell--masterlocal[2]（local[2]是说，执行Application需要用到CPU的2个核）2、Standalone
卢子墨·2025-03-05 11:13

Spark基本命令

一、spark所在目录cdusr/local/spark二、启动spark/usr/local/spark/sbin/start-all.sh启动Hadoop以及Spark：bash.
chenworeng5605·2025-03-05 10:42

大数据与网络安全讲座

点击文末小卡片，免费获取网络安全全套资料，资料在手，涨薪更快大数据的价值为大家公认。
黑客Jack·2025-03-05 10:10

spark vi基本使用

打开文件与创建文件是Linux的内置命令，以命令的方式来运行。命令格式：vi/路径/文件名注意以下两种情况：1.如果这个文件不存在，此时就是新建文件，编辑器的左下角会提示：newfile2.如果文件已存在，此时就打开这个文件，进入命令模式。把文本内容添加到一个全新的文件的快捷方式：echo1>>1.txt三种模式vi编辑器有三种工作模式，分别为：命令模式，输入模式，底线模式。命令模式：所敲按键编辑
忧伤火锅麻辣烫·2025-03-05 10:09

FlinkCEP社区资源指南：学习与交流平台

FlinkCEP社区资源指南：学习与交流平台1.背景介绍ApacheFlink是一个开源的分布式大数据处理引擎,支持有状态计算和准确一次的流处理语义。
AI大模型应用之禅·2025-03-05 10:09

深入探秘FlinkCDC：实时数据处理的新利器

一、写在前面在大数据领域持续蓬勃发展的当下，数据的实时处理与分析变得愈发关键。
lucky_syq·2025-03-05 10:08

Spark是什么？可以用来做什么？

ApacheSpark是一个开源的分布式计算框架，专为处理大规模数据而设计。它最初由加州大学伯克利分校开发，现已成为大数据处理领域的核心工具之一。
Bugkillers·2025-03-05 10:37

spark 常见操作命令

配置虚拟机配置即让自己的虚拟机可以联网，和别的虚拟机通讯一、配置vm虚拟机网段。具体设置为：虚拟机左上角点击编辑→虚拟网络编辑器选择VMnet8，要改动两个地方（注意：它会需要管理员权限）：1.子网IP改成192.168.10.02.NAT设置→192.168.10.2让所有的VM配置的虚拟机使用NAT时，它们的网段都是一致的。注意:这里的第三个部分的10并不是固定的，我们自己可以约定，但是
小冻梨！！！·2025-03-05 10:07

PySpark实现获取S3上Parquet文件的数据结构，并自动在Snowflake里建表和生成对应的建表和导入数据的SQL

PySpark实现S3上解析存储Parquet文件的多个路径，获取其中的数据Schema，再根据这些Schema，参考以下文本，得到创建S3路径Stage的SQL语句和上传数据到Snowflake数据库的
weixin_30777913·2025-03-05 08:25

遨游防爆智能终端“问诊”工业制造，开出数据采集“良方”

在数据驱动的时代，唯有采集足够规模的工业数据，方能支撑起基于工业大数据的深度分析与智能决策，从而驱动传统产业的蜕变与升级。但是，数据采集之路并非坦途，面临着设备协议多样、接口不一等挑战。
AORO_BEIDOU·2025-03-05 00:51

Elasticsearch冷热分离与索引生命周期管理

背景信息当今大数据时代，数据时刻在更新变化。尤其是随着时间的积累，存储在Elasticsearch中的数据会越来越多，当数据达到一
Cloud_Tech·2025-03-04 23:44

什么是预训练？

一、介绍预训练模型诞生背景:对于某种特殊任务只存在少量的相关训练数据，以至于模型不能从中学习到有用的规律（标注资源稀缺，无大数据支持）举例：想对一批法律领域的文件进行关系抽取，就需要投入大量的精力（意味着时间和金钱的大量投入
卡卡大怪兽·2025-03-04 23:44

37.索引生命周期管理—kibana 索引配置

37.1背景引入索引生命周期管理的一个最重要的目的就是对大量时序数据在es读写操作的性能优化如通过sparkstreaming读取Kafka中的日志实时写入es，这些日志高峰期每天10亿+，每分钟接近100w
大勇任卷舒·2025-03-04 23:42

如何使用DeepSeek进行高效数据挖掘与分析

##摘要随着大数据时代的到来，数据挖掘与分析技术在各行各业中扮演着越来越重要的角色。DeepSeek作为一种先进的数据挖掘工具，能够帮助用户从海量数据中提取有价值的信息。
Small踢倒coffee_氕氘氚·2025-03-04 22:09

通过spark-redshift工具包读取redshift上的表

spark数据源API在spark1.2以后，开始提供插件诗的机制，并与各种结构化数据源整合。
stark_summer·2025-03-04 22:02

大数据面试临阵磨枪不知看什么？看这份心理就有底了-大数据常用技术栈常见面试100道题

4Spark和HadoopMapReduce的区别是什么？5如何在Spark中实现数据的持久化？6SparkStreaming的工作原理是什么？7如何优化Spark作业的性能？
大模型大数据攻城狮·2025-03-04 21:59

Spark复习八：简述Spark运行流程以及Spark分区以及简述SparkContext

1.简述Spark运行流程：1.构建SparkApplication的运行环境,启动SparkContext2.SparkContext向资源管理器(可以是Standalone,Mesos,Yarm)申请运行
IT change the world·2025-03-04 21:28

Spark使用Parqute存储方式有什么好处

列式存储：压缩效率和查询效率谓词下推存储层：查询数据块生态兼容性高：Spark，hadoop等都兼容
冰火同学·2025-03-04 21:27

2023年上海市浦东新区网络安全管理员决赛理论题样题

正确（1）保护对象改变等保1.0保护的对象是信息系统，等保2.0增加为网络和信息系统，增加了云计算、大数据、工业控制系统、物联网、移动物联技术、网络基础设施等保护对象，实现了全方面的覆盖。
afei00123·2025-03-04 20:50

基于springboot+vue在线小说阅读平台系统(源码+lw+部署文档+讲解等)

等平台优质作者、专注于Java、小程序技术领域和毕业项目实战✌主要内容：SpringBoot、Vue、SSM、HLMT、Jsp、PHP、Nodejs、Python、爬虫、数据可视化、小程序、安卓app、大数据
QQ3295391197·2025-03-04 20:16

《DataWorks：为人工智能算法筑牢高质量数据根基》

阿里巴巴的DataWorks，作为一款强大的大数据开发治理平台，在
·2025-03-04 19:16

基于Generator生成器的分离式导出CSV

在这个过程中，我发现了PHP中的生成器（Generator），这是一个非常强大的工具，特别适合处理大数据场景。本文将详细介绍生成器的概念、工作原理、优势以及如何利用生成器
·2025-03-04 18:15

DAMA数据管理知识体系全接触-数据治理-大数据

第1章数据管理1.1引言数据管理的定义：是为了交付、控制、保护并提升数据和信息资产的价值，在其整个生命周期中制定计划、制度、规程和实践活动，并执行和监督的过程。数据管理专业人员的定义：是指从事数据管理各方面的工作（从数据全生命周期的技术管理工作，到确保数据的合理利用及发挥作用），并通过其工作1.1.1业务驱动因素数据管理的主要驱动力：使组织能够从其数据资产中获取价值。1.1.2目标1）理解并支撑企
我思故我在6789·2025-03-04 18:38

【大数据专题】Flink题库

1.简述什么是ApacheFlink？ApacheFlink是一个开源的基于流的有状态计算框架。它是分布式地执行的，具备低延迟、高吞吐的优秀性能，并且非常擅长处理有状态的复杂计算逻辑场景2.简述Flink的核心概念？Flink的核心概念主要有四个：EventStreams、State、Time和Snapshots。（1）EventStreams：即事件流，事件流可以是实时的也可以是历史的。Flin
我思故我在6789·2025-03-04 18:37

工作流调度必看！2025年这四大核心趋势你不能不懂

而大数据工作流调度系统，就像是一位精准的指挥家，协调着数据处理流程中的各个环节，确保数据的高效流动与价值释放。那么，究竟什么是大数据工作流调度系统？它在当前的技术版图中处于何种地位？
·2025-03-04 18:36

Java软件架构中的服务拆分与数据库分片实践

随着电商、金融等行业系统规模的不断扩大，传统的单体架构往往难以满足性能和扩展性要求，服务拆分与数据库分片已成为高并发、大数据场景下的核心解决方案。
省赚客app开发者·2025-03-04 16:50

初学者如何用 Python 写第一个爬虫？

大数据技术：涵盖Hadoop（HDFS）、Hive、Spark
ADFVBM·2025-03-04 16:19

14个Flink SQL性能优化实践分享

在大数据处理领域，ApacheFlink以其流处理和批处理一体化的能力，成为许多企业的首选。然而，随着数据量的增长，性能优化变得至关重要。
快乐非自愿·2025-03-04 15:40

LeetCode 题目 49：字母异位词分组 5种算法实现与典型应用案例【python】

会一些的技术：数据分析、算法、SQL、大数据相关、python欢迎加入社区：码上找工作作者专栏每日更新：LeetCode解锁1000题:打怪升级之旅python数据分析可视化：企业实战案例备注说明：方便大家阅读
数据分析螺丝钉·2025-03-04 15:07

Spark架构都有那些组件

Spark组件架构主要采用主从结构，分别是driver驱动器，Excutor执行器,和clusterManager集群管理器这个三个架构组件其中driver驱动器主要负责spark执行Excutor的任务分配
冰火同学·2025-03-04 11:37

树莓集团董事长谋略：构建全国第五代产业园的智慧

在智慧方面，引入物联网、大数据、人工智能等先进技术，实现园区的智能化管理。例如，通过智能传感器实时监测园区内的能源消耗、环境质量等数据，进行智能化调控，提高园区的运营效率和管理水平。
树莓集团·2025-03-04 09:21
上一页 4 5 6 7 8 9 10 11 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他