E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
MongoBD大数据处理
2023计算机毕业设计题目 毕设选题大全
文章目录0前言1javaweb管理系统毕设选题2javaweb平台/业务系统毕设选题3游戏设计、动画设计类毕设选题(适合数媒的同学)4算法开发5数据挖掘毕设选题6
大数据处理
、云计算、区块链毕设选题7网络安全毕设选题
DanCheng-studio
·
2023-09-09 08:37
毕业设计
python
毕设
Apache Spark:了解Apache Spark,Hadoop Distributed File System (HDFS),Cassandra、HBase等
ApacheSparkHadoopDistributedFileSystem(HDFS)CassandraHBaseApacheSparkApacheSpark是由Apache软件基金会开发的一个快速、通用、可扩展并支持高级数据处理的
大数据处理
框架
Solitary_孤影照惊鸿
·
2023-09-09 06:39
Apache
Spark
计算机
/
人工智能
apache
spark
大数据
介绍 Apache Spark 的基本概念和在大数据分析中的应用。
ApacheSpark是一种快速、可扩展的
大数据处理
框架,利用了内存计算技术,以及良好的并行化和分布式计算模型,Spark能够有效地处理大规模的数据。
kkkliaoo
·
2023-09-09 05:36
开发语言
GEE/PIE遥感
大数据处理
与典型案例
随着航空、航天、近地空间等多个遥感平台的不断发展,近年来遥感技术突飞猛进。由此,遥感数据的空间、时间、光谱分辨率不断提高,数据量也大幅增长,使其越来越具有大数据特征。对于相关研究而言,遥感大数据的出现为其提供了前所未有的机遇,但同时也提出了巨大的挑战。传统的工作站和服务器已经无法满足大区域、多尺度海量遥感数据处理的需要。为解决这一问题,国内外涌现了许多全球尺度地球科学数据(尤其是卫星遥感数据)在线
_遇见jia
·
2023-09-08 19:11
生态
遥感
模型专栏
生态
遥感
碳排放
GEE遥感
经验分享
初识Flink
1、统一的批处理与流处理系统在
大数据处理
领域,批处理任务与流处理任务一般被认为是
霸道小柴总
·
2023-09-08 17:08
新汽车电子技术图谱
OEM来讲的“卖车即结束”的模式;会员模式、共享模式、租赁模式、运营模式等各种新型的数字出行体验模式;OTA云:远程刷新、远程诊断、远程车控、远程数据上传、第三方App、应用商店、边缘计算、多级云计算、
大数据处理
zeloas
·
2023-09-08 14:05
car
大规模数据处理平台架构
数据采集与存储数据采集是
大数据处理
的第一步。在大规模数据处理平台中,常见的数据采集方式包括日志收集、传感器数据采集、用户行为数据采集等。
AlianBlank
·
2023-09-08 09:17
大数据
架构
linq
c#
大数据
GoPlus Go的数据处理方言
Go+https://github.com/goplus/gop是GO面向
大数据处理
一个方言,可以做到几乎100%兼容Go的同时,提供很多语法上的便利以处理各种大数据的数据结构,例如矩阵等。
步子哥
·
2023-09-08 04:09
golang
ai
深入浅出的实践大数据DAG图
在
大数据处理
中,DAG计算常常指的是将计算任务在内部分解成为若干个子任务,将这些子任务之间的逻辑关系或顺序构建成DAG(有向无环图)结构。
数新网络
·
2023-09-08 04:34
大数据
数据湖_Hudi概述
您可以按原样存储数据(无需先对数据进行结构化处理),并运行不同类型的分析–从控制面板和可视化到
大数据处理
、实时分析和机器学习,以指导做出更好的决策。从数据仓库看数据湖引用一下AWS数据仓库和数据
高达一号
·
2023-09-06 16:21
数据湖
大数据
大数据概念解析:分布式计算与服务器集群
大数据技术当中,分布式是非常核心的概念,从存储到计算到分析,
大数据处理
的整个流程当中,分布式不可或缺。关于分布式计算对于如何实现
大数据处理
,有集中式和分布式两种思路。
成都加米谷大数据
·
2023-09-06 14:25
【数据结构与算法】【算法思想】分治算法
贪心算法回溯算法分治算法动态规划MapReduce本质就是分治算法,是Google
大数据处理
的三驾马车之一,另外两个是GFS和Bigtable。
CryptWinter
·
2023-09-06 02:38
算法
分治算法
算法思想
数据结构
java
es倒排索引深入解读
全文搜索引擎:自然语言处理(NLP)、爬虫、网页处理
大数据处理
如谷歌、百度、搜狗、必应等等垂
呆萌小新@渊洁
·
2023-09-05 23:59
elasticsearch
大数据
搜索引擎
vscode上搭建go开发环境
前言Go语言介绍:Go语言适合用于开发各种类型的应用程序,包括网络应用、分布式系统、云计算、
大数据处理
等。由于Go语言具有高效的并发处理能力和内置的网络库,它特别适合构建高并发、高性能的服务器端应用。
浅笑一斤
·
2023-09-05 06:36
Go
vscode
golang
ide
人邮出版社《人工智能改变中国》读书摘记
2018年1月,教育部召开发布会,将人工智能、物联网、
大数据处理
正式划入高中新课标。201
乐僧书田
·
2023-09-05 04:47
Python GUI设计-PyQt5从入门到实践(第1-3章)
第一章Python与Pyqt5良好的开端,等于成功的一半————柏拉图1.1python语言简介1.1.3Python的应用领域Web开发、
大数据处理
、人工智能、自动化运维开发、云计算、爬虫、游戏开发。
zgwzgw
·
2023-09-04 14:44
python学习笔记
Python
python
qt
开发语言
做为一名大数据新手,应该通过这篇文章了解大数据
这句话至少传递两种信息:1、大数据是海量的数据2、
大数据处理
无捷径,对分析处理技术提出了更高的要求二、大数据的处理流程下图是数据处理流程:1、底层是数以千亿计的数据源,数据源可以是SCM(供应链数据),
大数据小火老师
·
2023-09-04 05:40
大数据专业毕业能从事什么工作
大数据开发分两类,编写Hadoop、Spark的应用程序和对
大数据处理
系统本身进行开发。
我想去吃ya
·
2023-09-02 16:36
大数据
学习
人工智能
python
开发语言
消息中间件 MQ详解及四大MQ比较
2.1Broker2.2Producer2.3Consumer2.4Topic2.5Queue2.6Message3消息中间件模式分类3.1点对点3.2发布/订阅4消息中间件的优势4.1系统解耦4.2提高系统响应时间4.3为
大数据处理
架构提供服务
℡tang
·
2023-09-02 13:49
消息中间件
消息中间件
四大MQ比较
MQ详解
使用Java编写Spark Streaming来做
大数据处理
(一)
写在前面:一般来说spark都是由Scala来实现,但Java一手遮天,非要以一己之力实现(不是)一、使用JAVA编写有哪几部组成?1.获取数据//往往文件都是根据配置文件修改的时间,动态获取对应的文件来处理StringfilePath="/租户目录/指标/指标分类/指标分类子分支"+startTime.substring(0,6)+".csv";//通过调用JavaSparkContext的获取
斯特凡今天也很帅
·
2023-09-02 11:47
spark
大数据
java
spark
大数据
java版Spring Cloud之Spark 离线开发框架设计与实现
一、背景随着Spark以及其社区的不断发展,Spark本身技术也在不断成熟,Spark在技术架构和性能上的优势越来越明显,目前大多数公司在
大数据处理
中都倾向使用Spark。
微服务技术分享
·
2023-09-02 11:16
直播电商
spark
java
spring
cloud
2 | Window 搭建单机 Hadoop 和Spark
搭建单机Hadoop和Spark环境可以学习和测试
大数据处理
的基础知识。
小 森
·
2023-09-02 09:43
大数据系列
hadoop
Spark
系列
hadoop
spark
大数据
探索云原生容器编排技术:如Kubernetes如何为
大数据处理
和AI模型的自动化部署带来便利
Kubernetes是一个强大的容器编排和自动化部署工具,它为
大数据处理
程序员 小侯
·
2023-09-02 09:39
云计算
云原生
容器
Apache Spark进行
大数据处理
-- 第一部分:介绍
什么是SparkApacheSpark是一个围绕着处理速度,易使用及复杂分析构建的开源
大数据处理
框架。它最早由加州大学伯克利分校的AMPLab在2009年开发,2010年成为Apache的开源项目。
zlEven
·
2023-09-02 08:39
大数据
大数据
spark
介绍 Apache Spark 的基本概念和在大数据分析中的应用。
ApacheSpark是一个快速的开源
大数据处理
引擎,可以用于
大数据处理
、机器学习、图形计算等领域。它可以在多种计算环境中运行,包括独立模式、YARN、Mesos、Kubernetes等云计算平台。
沉默是金~
·
2023-09-02 08:34
大数据
PowerQuery动态加载M公式
PowerQuery是Excel中的强
大数据处理
与转换工具,如果需要“动态”处理数据,大家第一时间想到的是可以使用VBA,利用代码创建M公式,进而创建PQ查询,但是复杂的M公式可能有很多行,使用VBA处理起来并不是很方便
taller_2000
·
2023-09-02 08:55
数据清洗
VBA
Power
Query
动态加载
PQ公式
加载M公式
加载PQ公式
动态公式
【校招VIP】前端算法考点之大数据相关
大数据的关键技术分为分析技术和处理技术,可用于大数据分析的关键技术主要包括A/B测试,关联规则挖掘,数据挖掘,集成学习,遗传算法,机器学习,自然语言处理,模式识别,预测模型,信号处理,空间分析,监督式学习,时间序列分析等,可用于
大数据处理
的关键技术主要是商业智能
校招VIP
·
2023-09-01 13:14
前端专题
算法
大数据
前端
GEE/PIE遥感
大数据处理
与典型案例丨数据整合Reduce、云端数据可视化、数据导入导出及资产管理、机器学习算法等
随着航空、航天、近地空间等多个遥感平台的不断发展,近年来遥感技术突飞猛进。由此,遥感数据的空间、时间、光谱分辨率不断提高,数据量也大幅增长,使其越来越具有大数据特征。对于相关研究而言,遥感大数据的出现为其提供了前所未有的机遇,但同时也提出了巨大的挑战。传统的工作站和服务器已经无法满足大区域、多尺度海量遥感数据处理的需要。为解决这一问题,国内外涌现了许多全球尺度地球科学数据(尤其是卫星遥感数据)在线
天青色等烟雨..
·
2023-09-01 11:38
遥感
信息可视化
机器学习
算法
基于AI智能分析网关EasyCVR视频汇聚平台关于能源行业一体化监控平台可实施应用方案
许多大型能源企业已开始抓住机遇,逐步将视频监控、云计算、大数据和人工智能技术广泛应用于生产、维护、运输、配送等环节,实现数据采集、业务监控、
大数据处理
分析和智能化的生产和运营。
EasyNTS
·
2023-09-01 09:52
EasyCVR
人工智能
音视频
视频监控管理平台
视频汇聚平台
安防监控
说说Lambda架构
分析&回答Lambda架构是由Storm的作者NathanMarz提出的一个实时
大数据处理
框架。
学一次
·
2023-09-01 07:28
大数据
架构
大数据
kafka
深入MaxCompute -第十弹 -IF ELSE分支语句
MaxCompute(原ODPS)是阿里云自主研发的具有业界领先水平的分布式
大数据处理
平台,尤其在集团内部得到广泛应用,支撑了多个BU的核心业务。
阿里云大数据AI技术
·
2023-08-31 19:41
阿里云
大数据
云计算
深入MaxCompute -第十一弹 -QUALIFY
MaxCompute(原ODPS)是阿里云自主研发的具有业界领先水平的分布式
大数据处理
平台,尤其在集团内部得到广泛应用,支撑了多个BU的核心业务。MaxCompute除了持续优化性能外,也致力于提
阿里云大数据AI技术
·
2023-08-31 19:41
阿里云
云计算
大数据
深入MaxCompute -第十二弹 -PIVOT/UNPIVOT
MaxCompute(原ODPS)是阿里云自主研发的具有业界领先水平的分布式
大数据处理
平台,尤其在集团内部得到广泛应用,支撑了多
阿里云大数据AI技术
·
2023-08-31 19:36
阿里云
大数据
云计算
数据流水线的成本自适应算子
简介披露一个
大数据处理
技术。如今我们构建很多的数据流水线(datapipeline)来把数据从一处移动到另一处,并且可以在其中做一些转换处理。
·
2023-08-31 18:38
大数据
深入MaxCompute -第十二弹 -PIVOT/UNPIVOT
MaxCompute(原ODPS)是阿里云自主研发的具有业界领先水平的分布式
大数据处理
平台,尤其在集团内部得到广泛应用,支撑了多
·
2023-08-31 17:01
大数据
深入MaxCompute -第十一弹 -QUALIFY
MaxCompute(原ODPS)是阿里云自主研发的具有业界领先水平的分布式
大数据处理
平台,尤其在集团内部得到广泛应用,支撑了多个BU的核心业务。MaxCompute除了持续优化性能外,也致力于提
·
2023-08-31 14:18
大数据
深入MaxCompute -第十弹 -IF ELSE分支语句
MaxCompute(原ODPS)是阿里云自主研发的具有业界领先水平的分布式
大数据处理
平台,尤其在集团内部得到广泛应用,支撑了多个BU的核心业务。
·
2023-08-31 10:52
大数据处理
Python
大数据处理
利器之Pyspark详解
而pyspark作为一个强大的分布式计算框架,为
大数据处理
提供了一种高效的解决方案。本文将详细介绍pyspark的基本概念和使用方法,并给出实际案例。什么是pyspark?
Rocky006
·
2023-08-30 16:34
python
开发语言
pyspark
Flink on Yarn Kerberos安全认证
点击上方"zhisheng"关注,星标或置顶一起成长Flink从入门到精通系列文章Flink作为新一代的
大数据处理
引擎,其批流一体化的设计与出色的流处理性能,在业界得到了很多头部公司的青睐。
zhisheng_blog
·
2023-08-30 00:41
数据库
hadoop
java
linux
安全
全面剖析各类大数据的处理框架
前言:说起
大数据处理
,一切都起源于Google公司的经典论文:《MapReduce:SimpliedDataProcessingonLargeClusters》。
丨程序之道丨
·
2023-08-29 19:24
【分布式技术专题】「OSS中间件系列」Minio的文件服务的存储模型及整合Java客户端访问的实战指南
此特性对于机器学习与
大数据处理
非常重要。数据管理元数据与数据一起存放在磁盘上:数据部分纠删分片以后存储在磁盘上,元数据以明文形式存放在元数据文件里(xl.json)。
夏壹-10分分享
·
2023-08-29 08:13
分布式&微服务技术体系
分布式
中间件
java
分布式系统和
大数据处理
架构的设计与实现
作者:禅与计算机程序设计艺术1.简介ApacheHadoop(TM)是由Apache基金会推出的开源分布式文件系统(HadoopDistributedFileSystem),它是一个基于Java开发的一个框架,提供了分布式计算环境。Hadoop支持在廉价的PC服务器上运行,并可以在多台机器上存储超大的数据集,同时它也提供高容错性、高可用性等特性。然而,作为一个框架,它仍然需要被进一步地封装、优化和
禅与计算机程序设计艺术
·
2023-08-29 02:44
大数据AI人工智能
自然语言处理
人工智能
语言模型
编程实践
开发语言
架构设计
大数据处理
平台的架构演进:从批处理到实时流处理
大数据处理
平台的架构演进经历了从批处理到实时流处理的转变,这种转变主要是为了应对越来越多的数据、更快的分析需求和实时决策的要求。以下是从批处理到实时流处理的架构演进过程:
程序员 小侯
·
2023-08-28 23:41
大数据系列
架构
大数据
PostgreSQL优化技巧:加速
大数据处理
本文介绍了优化PostgreSQL数据库的一些技巧,例如使用索引、连接池、分区表、复制、预处理语句和分析工具。这些技术可以帮助您更快地处理大量数据和提高数据库性能。PostgreSQL是一款强大的开源关系型数据库管理系统,它以其可扩展性、高级性能和丰富的功能而闻名。但是,在处理大量数据时,它可能会变得缓慢。为了解决这个问题,我们可以使用一些技术来优化它。以下是一些PostgreSQL优化技术和示例
蓝色心灵-海
·
2023-08-28 21:16
postgresql
数据库
开源在大数据和分析中的角色
文章目录开源在大数据和分析中的角色摘要引言开源技术在
大数据处理
中的应
猫头虎
·
2023-08-28 19:37
#
开源视界专栏
开源
大数据
大数据框架-Hadoop
这些数据集合通常需要使用先进的计算和分析技术才能够处理和分析,因此大数据技术包括了大数据存储、
大数据处理
和大数据分析等方面的技术和工具。
学习才能变得强大
·
2023-08-28 06:02
大数据
大数据
hadoop
hdfs
Spark学习(3)-Spark环境搭建-Standalone
模式是Spark自带的一种集群模式,不同于前面本地模式启动多个进程来模拟集群的环境,Standalone模式是真实地在多个机器之间搭建Spark集群的环境,完全可以利用该模式搭建多机器集群,用于实际的
大数据处理
技术闲聊DD
·
2023-08-27 23:42
大数据
spark
学习
大数据
Spark on Yarn集群模式搭建及测试
大数据学习专栏持续更新中,感谢各位前辈朋友们支持学习~文章目录1.SparkonYarn集群模式介绍2.搭建环境准备3.搭建步骤1.SparkonYarn集群模式介绍ApacheSpark是一个快速的、通用的
大数据处理
框架
beixi@
·
2023-08-27 23:10
大数据技术学习
spark
大数据
分布式
运维
服务器
linux
Spark Standalone环境搭建及测试
SparkLocal环境搭建及测试文章目录1.SparkStandalone环境搭建介绍2.搭建环境准备:3.搭建步骤:1.SparkStandalone环境搭建介绍ApacheSpark是目前最流行的
大数据处理
框架之一
beixi@
·
2023-08-27 23:08
大数据技术学习
spark
大数据
分布式
运维
服务器
linux
GEE/PIE遥感
大数据处理
与典型案例
如今,GEE/PIE等遥感云平台凭借其强大的功能正受到越来越多国内外科技工作者的关注,应用范围也在不断扩大。本教程致力于帮助科研工作者掌握GEE和PIE的实际应用能力,以JavaScript编程语言为基础,结合实例讲解遥感云的基本概念知识、影像大数据分析、经典应用案例等方面的进阶技能。为了提高教学质量,将融合最先进的ChatGPT等AI自然语言模型辅助教学,协助学员解答疑惑、提供针对性建议和指导,
小艳加油
·
2023-08-27 12:08
遥感
GEE
PIE
遥感大数据处理
上一页
7
8
9
10
11
12
13
14
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他