E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
spark边缘计算
边缘计算
与联邦学习驱动医疗金融预测及模型可解释性技术突破
内容概要当前人工智能技术正经历多维度融合与迭代升级,
边缘计算
与联邦学习的协同创新成为突破性方向。
智能计算研究中心
·
2025-02-23 11:10
其他
搭建
Spark
On YARN集群
一、
Spark
OnYARN架构二、搭建
Spark
OnYARN集群(一)搭建
Spark
Standalone集群(二)修改
Spark
环境配置文件
Spark
OnYARN模式的搭建比较简单,仅需要在YARN集群的一个节点上安装
snow323H
·
2025-02-23 07:05
spark
big
data
hadoop
对应chd5.14的
spark
_carbonData使用文档(基于CDH 的
spark
-yarn模式)
一、部署(基于CDH的
spark
-yarn模式)下载源码编译(目前官网已经提供编译好的jar包了)【https://dist.apache.org/repos/dist/release/carbondata
颜语一声
·
2025-02-22 22:22
对应chd5.14的spark
yarn模式运行
spark
作业所有属性详解
摘要:
Spark
参数调优,可以大大提高工作中程序的运行效率。
weixin_34248487
·
2025-02-22 22:22
大数据
Spark
on YARN的重要参数
Spark
属性或者去源码找Class类
Spark
SubmitArguments,最全了属性名称默认含义
spark
.yarn.am.memory512m用于客户端模式下的YARNApplicationMaster
大米饭精灵
·
2025-02-22 21:50
Spark
Yarn
Spark
Yarn
大数据-257 离线数仓 - 数据质量监控 监控方法 Griffin架构
已更完)HDFS(已更完)MapReduce(已更完)Hive(已更完)Flume(已更完)Sqoop(已更完)Zookeeper(已更完)HBase(已更完)Redis(已更完)Kafka(已更完)
Spark
m0_74823705
·
2025-02-22 21:50
面试
学习路线
阿里巴巴
大数据
架构
spark
sql随记
1、
spark
sql访问hive将hive-site.xml放入到${
SPARK
_HOME}/conf下如果是
spark
onyarn的cluster模式,由于driver是运行于哪个executor未知
cxy1991xm
·
2025-02-22 21:18
spark
计算机毕业设计吊炸天Python+
Spark
地铁客流数据分析与预测系统 地铁大数据 地铁流量预测
开发技术
Spark
HadoopPython爬虫Vue.jsSpringBoot机器学习/深度学习人工智能创新点
Spark
大屏可视化爬虫预测算法功能1、登录注册界面,用户登录注册,修改信息2、管理员用户:
qq_80213251
·
2025-02-22 08:35
java
javaweb
大数据
课程设计
python
Python 的 WebSocket 实现详解
大数据技术:涵盖Hadoop(HDFS)、Hive、
Spark
、Fli
王子良.
·
2025-02-22 03:23
经验分享
python
websocket
网络协议
网络
Spark
MLlib中的机器学习算法及其应用场景
Spark
MLlib是Apache
Spark
框架中的一个机器学习库,提供了丰富的机器学习算法和工具,用于处理和分析大规模数据。
Java资深爱好者
·
2025-02-21 20:47
深度学习
推荐算法
Spark
源码分析
Spark
源码分析
Spark
onYarnclientCluster本质区别,driver位置不同1)有哪些不同得进程?2)分别有什么作用?
陈同学�
·
2025-02-21 15:07
spark
big
data
scala
Spark
源码分析 – Shuffle
参考详细探究
Spark
的shuffle实现,写的很清楚,当前设计的来龙去脉HadoopHadoop的思路是,在mapper端每次当memorybuffer中的数据快满的时候,先将memory中的数据,按
weixin_34292924
·
2025-02-21 15:06
大数据
边缘安全加速平台 EO(Edge Optimization)
腾讯云边缘安全加速平台EO(EdgeOptimization)是腾讯云推出的一项基于
边缘计算
的安全加速解决方案,旨在提升企业网站、应用、服务等的访问速度、安全性和稳定性。
HaoHao_010
·
2025-02-21 13:13
腾讯云
云计算
加速
功能
大厂云
【大数据分析】
Spark
SQL查询:使用SQL命令
在
Spark
SQL编写SQL命令时,它们将被转换为DataFrame上的操作。通过连接到
Spark
的Thrift服务器,它们可以通过标准的JDBC或ODBC协议从应用服务器连接到
Spark
。
sword_csdn
·
2025-02-21 02:58
Spark
spark
数据分析
sql
如何使用
Spark
SQL进行复杂的数据查询和分析
使用
Spark
SQL进行复杂的数据查询和分析是一个涉及多个步骤和技术的过程。
Java资深爱好者
·
2025-02-21 01:22
spark
sql
大数据
如果MLlib 中没有所需要的模型,如何使用
Spark
进行分布式训练?
如果MLlib中没有你所需要的模型,并且不打算结合更强大的框架(如TensorFlowOn
Spark
或Horovod),仍然可以使用
Spark
进行分布式训练,但需要手动处理训练任务的分配、数据准备、模型训练
是纯一呀
·
2025-02-20 08:57
WSL
Docker
AI
spark
分布式
mllib
使用 Docker 部署 Apache
Spark
集群教程
简介Apache
Spark
是一个强大的统一分析引擎,用于大规模数据处理。
努力的小T
·
2025-02-19 20:48
docker
docker
spark
linux
运维
服务器
云计算
容器
笔记:DataSphere Studio安装部署流程
一、标准版部署标准版:有一定的安装难度,体现在Hadoop、Hive和
Spark
版本不同时,可能需要重新编译,可能会出现包冲突问题。适合于试用和生产使用,2~3小时即可部署起来。
右边com
·
2025-02-19 13:15
Java
大数据
HIVE-
SPARK
日常记录备忘Hive修改字段类型之后(varchar->string)Hive可以查到数据,Presto查询报错;分区字段数据类型和表结构字段类型不一样;
spark
-sql分区表和非分区表兼容问题,不能关联可以建临时表把分区数据导入
流川枫_
·
2025-02-19 13:14
20210706
hdfs
hive
spark
最新技术趋势:2025年的无服务器架构发展方向
随着云计算和
边缘计算
的深入融合,无服务器架构的发展方向也更加明确。理解这些趋势可以帮助开发者和企业在技术演进中抢占先机。首先是边缘无服务器计算的兴起。
zxzy_org
·
2025-02-19 11:29
serverless
架构
云原生
算法
spark
为什么比mapreduce快?
作者:京东零售吴化斌
spark
为什么比mapreduce快?
·
2025-02-19 11:55
程序员
spark
为什么比mapreduce快?
作者:京东零售吴化斌
spark
为什么比mapreduce快?
·
2025-02-19 11:22
程序员
Spark
中Dataset方法详解
一、数据清洗核心方法1.处理缺失值方法说明示例代码na().drop()删除包含空值的行Datasetcleaned=dataset.na().drop();na().fill(value)用指定值填充所有空值Datasetfilled=dataset.na().fill(0);na().fill(Map)按列填充不同值Mapfills=newHashMapunique=dataset.dropD
小巫程序Demo日记
·
2025-02-19 10:53
Spark+Hadoop学习
spark
ajax
java
分布式
探索大数据处理:利用 Apache
Spark
解锁数据价值
探索大数据处理:利用Apache
Spark
解锁数据价值大家好,我是你们熟悉的大数据领域自媒体创作者Echo_Wish。今天,我们来聊聊如何利用Apache
Spark
进行大规模数据处理。
Echo_Wish
·
2025-02-19 07:59
实战高阶大数据
apache
spark
大数据
最新Apache Hudi 1.0.1源码编译详细教程以及常见问题处理
1.最新ApacheHudi1.0.1源码编译2.Flink、
Spark
、Hive集成Hudi1.0.13.flinkstreaming写入hudi目录1.版本介绍2.安装maven2.1.下载maven2.2
Toroidals
·
2025-02-19 06:51
大数据组件安装部署教程
hudi1.0.1
源码编译
教程
最新
使用Docker安装
Spark
集群(带有HDFS)
本实验在CentOS7中完成第一部分:安装Docker这一部分是安装Docker,如果机器中已经安装过Docker,可以直接跳过[root@VM-48-22-centos~]#systemctlstopfirewalld[root@VM-48-22-centos~]#systemctldisablefirewalld[root@VM-48-22-centos~]#systemctlstatusfi
Sicilly_琬姗
·
2025-02-18 10:52
云计算
大数据
docker
spark
hdfs
使用Docker部署
Spark
集群
使用Docker部署
Spark
集群克隆包含启动脚本的git仓库启动
Spark
0.8.0集群并切换至
Spark
Shell环境不带参数运行部署脚本*运行一些小的例子终止集群克隆包含启动脚本的git仓库*gitclone-bblogpostgit
小孩真笨
·
2025-02-18 10:17
工程开发技术
Cloud
Data
Docker
Spark
从0开始使用Docker搭建
Spark
集群
utm_campaign=maleskine&utm_content=note&utm_medium=seo_notes&utm_source=recommendation最近在学习大数据技术,朋友叫我直接学习
Spark
吃鱼的羊
·
2025-02-18 10:16
SPARK
Hadoop
Hbase深入浅出
大家熟知的
Spark
、以及Hadoop的MapReduce,可以理解为一种计算框架。而HDFS,我们可以认为是为计算框架服务的存
天才之上
·
2025-02-18 03:13
数据存储
Hbase
大数据存储
深入浅出了解HBase及RDD编程
HBase为什么能存储海量数据创建一个HBase表配置
Spark
编写程序读取HBase数据编写程序向HBase写入数据关于搭建HBase高可用集群的图文教程,可参考我的另一篇博文——安装并配置HBase
山海王子
·
2025-02-18 03:11
大数据
hbase
无线工业物联数据交互优化方案,基于巨控GRM240
无线工业物联数据交互优化方案1.方案背景与技术优势广州巨控科技深耕工业物联领域十余年,依托4G+
边缘计算
技术打造新一代无线传输体系。
何工13763355074
·
2025-02-17 19:39
巨控GRM240
巨控GRM230
GRM241Q-4D4I4Q
如何运用
边缘计算
控制器提升智能工厂的竞争力?
其中,
边缘计算
作为一项关键技术,在提升生产效率、降低成本以及实现智能制造方面发挥着至关重要的作用。本文将探讨
边缘计算
在智能工厂中的应用场景及其带来的价值。
钡铼技术物联网关
·
2025-02-17 16:44
人工智能
arm开发
linux
自动化
边缘AI架构提升LLM应用的响应速度
边缘AI架构提升LLM应用的响应速度关键词
边缘计算
、边缘AI、LLM、响应速度、模型压缩、分布式计算摘要本文探讨了如何通过边缘AI架构提升大型语言模型(LLM)应用的响应速度。
AI天才研究院
·
2025-02-17 15:08
计算
ChatGPT
DeepSeek
R1
&
大数据AI人工智能大模型
java
python
javascript
kotlin
golang
架构
人工智能
大厂程序员
硅基计算
碳基计算
认知计算
生物计算
深度学习
神经网络
大数据
AIGC
AGI
LLM
系统架构设计
软件哲学
Agent
程序员实现财富自由
Spark
性能优化(四):Cache
在
Spark
中,缓存是一种将计算结果存储在内存中的方式,目的是加速后续操作。当你执行迭代算法或查询时,如果多次重复使用相同的数据集,缓存可以避免每次都重新计算相同的转换操作。
LevenBigData
·
2025-02-17 00:04
spark
性能调优
spark
性能优化
大数据
使用Docker搭建Flink集群
我们知道,像
spark
、flink这些计算框架都有多种运行模式:在本地使用多线程模拟集群真正的分布式集群如果直接在IDE(Intellj)里面编译和运行写好的程序,实际上是用的前一种运行模式;如果想尝试真正的生产环境中任务的提交和管
O_1CxH
·
2025-02-16 20:34
Flink大数据
Kafka大数据
docker
flink
容器
Spark
和 Flink
Spark
和Flink都是目前流行的大数据处理引擎,但它们在架构设计、应用场景、性能和生态方面有较大区别。
信徒_
·
2025-02-16 12:04
spark
flink
大数据
spark
任务运行
运行环境在这里插入代码片[root@hadoop000conf]#java-versionjavaversion"1.8.0_144"Java(TM)SERuntimeEnvironment(build1.8.0_144-b01)[root@hadoop000conf]#echo$JAVA_HOME/home/hadoop/app/jdk1.8.0_144[root@hadoop000conf]#
冰火同学
·
2025-02-16 11:56
Spark
spark
大数据
分布式
如何通过5G和
边缘计算
提升工业远程运维效能?
边缘计算
工控机结合5G网络技术,为工业远程运维提供了一个全新的软硬件协同解决方案。本文将探讨这一方案的具体实施方式及其带来的变革,并通过实例展示其应用效果。
钡铼技术物联网关
·
2025-02-16 09:15
linux
arm开发
自动化
大数据
人工智能
python
【Redis】golang操作Redis基础入门
【Redis】golang操作Redis基础入门大家好我是寸铁总结了一篇【Redis】golang操作Redis基础入门
spark
les:喜欢的小伙伴可以点点关注Redis的作用Redis(RemoteDictionaryServer
寸 铁
·
2025-02-16 07:24
go
数据库
Redis
redis
golang
数据库
CRUD
基本操作
分布式
键值对
hive
spark
读取hive hbase外表报错分析和解决
问题现象使用
Spark
shell操作hive关联Hbase的外表导致报错;hive使用tez引擎操作关联Hbase的外表时报错。
spring208208
·
2025-02-16 07:21
hive
hive
spark
hbase
spark
-广播变量
当本地数据极大的时候,可以使用广播变量,使得减少内存。本地集合对象和分布式集合对象(RDD)进行关联的时候,需要将本地集合对象广播变量。本地的数据传输到集群上,会发到每一个线程,每一个分区。每一个进程executor,有多个线程分区,进程内的线程数据共享因此,给每一个线程发送数据会导致数据占用,浪费资源。所有,出现了广播变量,使得只发送给进程代码使用:broadcast=sc.broadcast(
哈哈哈哈q
·
2025-02-16 05:12
+spark
hdfs
hadoop
大数据
spark
明远智睿核心板在智能家居与工业网关中的应用实践
**——从硬件支持到场景落地的技术路径**SSD2351在智能家居与工业物联网领域,设备需具备实时响应、多协议兼容及
边缘计算
能力。
myzr123
·
2025-02-15 17:11
智能家居
探索数据云的无缝桥梁:Apache
Spark
与 Snowflake 的完美结合
探索数据云的无缝桥梁:Apache
Spark
与Snowflake的完美结合
spark
-snowflakeSnowflakeDataSourceforApache
Spark
.项目地址:https://gitcode.com
窦育培
·
2025-02-15 12:32
maven插件学习(maven-shade-plugin和maven-antrun-plugin插件)
整合
spark
3.3.x和hive2.1.1-cdh6.3.2碰到个问题,就是
spark
官方支持的hive是2.3.x,但是cdh中的hive确是2.1.x的,项目中又计划用
spark
-thrift-server
catcher92
·
2025-02-15 08:00
java
maven
maven
学习
大数据
使用
Spark
LLM实现智能聊天:技术原理与实战演示
在本篇文章中,我们将探讨如何使用iFlyTek的
Spark
LLM模型来实现智能聊天功能。我们将详细介绍
Spark
LLM的技术背景、核心原理,并通过实际代码展示如何进行实现。
shuoac
·
2025-02-15 06:41
java
Spark
性能优化 (三):RBO 与 CBO
1.RBO的核心概念在Apache
Spark
的查询优化过程中,规则优化(Rule-BasedOptimization,RBO)是Catalyst优化器的一个关键组成部分。
LevenBigData
·
2025-02-15 02:09
spark
性能调优
spark
性能优化
ajax
江苏地区电子制造行业首选的设备运行监测系统SKF IMAX-8
边缘计算
盒子与DuodooBMS实现高效预测性维护
引言在电子制造行业中,设备高精度、高复杂度、高频率换线的生产特点对设备稳定性提出了严苛要求。传统维护方式依赖人工巡检和定期检修,存在响应滞后、成本高昂等问题。预测性维护(PredictiveMaintenance,PdM)通过实时数据分析和AI算法,能够提前识别设备潜在故障,大幅降低停机风险。然而,实现这一目标需要解决设备数据采集、边缘实时计算、平台深度融合等关键问题。本文将结合SKFIMAX-8
邹工转型手札
·
2025-02-14 22:07
Duodoo开源
企业信息化
开源
开源
人工智能
制造
江苏地区纺织机械行业首选的设备运行监测系统基于SKF IMAX-8与开源DuodooBMS的纺织机械预测性维护全流程方案
本文将结合SKFIMAX-8
边缘计算
盒子与开源DuodooBMS(基于Odoo的设备数采方案)
邹工转型手札
·
2025-02-14 22:07
Duodoo开源
企业信息化
开源
开源
制造
人工智能
python 并行框架_基于python的高性能实时并行机器学习框架之Ray介绍
这种框架名为Ray,看起来有望取代
Spark
,业界认为
Spark
对于一些现实的人工智能应用而言速度太慢了;过不了一年,Ray应该会准备好用于生产环境。目前ray已经发布了0.3.0
weixin_39778582
·
2025-02-14 20:54
python
并行框架
边缘计算
网关平台发展现状综述
边缘计算
网关平台发展现状综述一、
边缘计算
简介随着边缘端侧设备的计算与存储能力的逐渐提升以及端侧设备通信与交互能力的进一步开放,
边缘计算
正在逐步兴起,各个厂家正在逐渐推出自家的
边缘计算
相关软硬件产品。
嫌疑人X的解忧杂货店
·
2025-02-14 20:23
边缘计算
边缘计算
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他