E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
apache京东云flink
dubbo实战之一:准备和初体验,Java进阶
org.
apache
.dubbodubbo-dependencies-bom${dubbo.version}pomimportio.nettynetty-all4.1.25.Finalorg.
apache
.dubbodubbo
阿伦Java
·
2025-02-08 04:09
java
zookeeper
rpc
Apache
Kafka:高吞吐分布式流平台的深度解析
流数据时代的挑战在实时推荐、物联网数据处理、金融交易监控等场景中,传统消息队列面临三大核心挑战:海量数据吞吐:日均千亿级消息处理需求超低延迟要求:毫秒级端到端传递延迟数据持久保障:故障恢复后消息零丢失
Apache
Kafka
lozhyf
·
2025-02-08 04:07
学习
工作
分布式
apache
kafka
三、大数据之Zookeeper完全分布式集群搭建
配置文件分发(7)集群启动(8)zookeeper群启脚本(9)Zookeeper官方文档说明:Zookeeper安装包Zookeeper简介:Zookeeper是一个开源的分布式的,为分布式应用提供协调服务的
Apache
尘.埃
·
2025-02-08 03:37
大数据生态框架搭建
zookeeper
大数据
一文搞懂 CDC(Change Data Capture)同步原理解析
source---------->CDC---------->sink
Apache
SeaTunneCDCSeaTunnelCDC的数据同步分为两种:快照读
SeaTunnel
·
2025-02-08 01:25
大数据
DeepSeek R1 × SeaTunnel:引领下一代智能数据集成革命
Apache
SeaTunnel,这一由国人主导、全球社区共建的顶级开源数据集成项目,凭借其对大模型能力的原生支持、向量数据处理能力的突破,以及无缝衔接百种数据源的开放生态,正成为企业迈向智能化数据处理的核心引擎
SeaTunnel
·
2025-02-08 01:25
大数据
RocketMQ 底层原理
RocketMQ底层原理概述RocketMQ是阿里巴巴开源的分布式消息中间件,后来捐赠给
Apache
基金会。它具备高性能、高可靠、低延迟等特点,广泛应用于分布式系统中。
·
2025-02-07 22:49
一文搞懂Kafka的设计与实现
作者:禅与计算机程序设计艺术1.背景介绍
Apache
Kafka是一个开源流处理平台,主要用于实时数据传输、存储、分析和应用的一种分布式消息系统。
AI天才研究院
·
2025-02-07 21:27
AI大模型企业级应用开发实战
Java实战
编程实践
大数据
人工智能
语言模型
Java
Python
架构设计
顺丰大数据开发面试题及参考答案
Flink
的提交过程是怎样的?
Flink
的提交过程通常包含以下步骤:代码编写与打包:开发人员首先使用
Flink
提供的API编写数据处理逻辑,包括定义数据源、转换操作和数据sink等。
大模型大数据攻城狮
·
2025-02-07 19:15
大数据
大厂面试
大数据面试
牛客网
手撕
离线数仓
leetcode
案例1.spark和
flink
分别实现作业配置动态更新案例
目录目录一、背景二、解决1.方法1:sparkbroadcast广播变量a.思路b.案例①需求②数据③代码2.方法2:
flink
RichSourceFunctiona.思路b.案例①需求②数据③代码④测试验证测试
wguangliang
·
2025-02-07 19:44
Spark
flink
spark
大数据
分布式
flink
etl工程师
02.
Flink
内存模型以及细粒度的资源管理
本文主要介绍下
Flink
对内存是怎么分配的以及相应的配置优化,还会介绍下
Flink
对资源更细粒度的管理策略1.
Flink
的内存组成
Flink
的内存从功能上包括
Flink
总内存和JVM特定内存两部分,其中重要的是
抛砖者
·
2025-02-07 18:40
fink相关
flink
大数据
flink
on yarn模式下的,
flink
中的slot,taskmanage,parallelism,以及yarn中的container,vcore,memory它们之间的关系
第一点yarn集群上同时能跑多少任务是有限定的,这个限定就是yarn上的vcore和memory这两个参数。但是它是可以根据你的配置文件可以调的,修改yarn-site.xml文件中的(这个是yarn默认的,就算不配置也是这样)yarn.nodemanager.resource.cpu-vcores8yarn.nodemanager.resource.memory-mb8192`基本可以这样认为:
抛砖者
·
2025-02-07 18:40
container
flink
on
yarn模式
yarn
solt
taskmanage
tomcat配置Catalina.out日志和access访问日志滚动和最大保存天数
配置前:1catalina.org.
apache
.juli.FileHandler.level=FINE1catalina
stpice
·
2025-02-07 16:59
java
tomcat
java
catalina.out
access.log
maxDays
大数据-267 实时数仓 - ODS Lambda架构 Kappa架构 核心思想
已更完)MapReduce(已更完)Hive(已更完)Flume(已更完)Sqoop(已更完)Zookeeper(已更完)HBase(已更完)Redis(已更完)Kafka(已更完)Spark(已更完)
Flink
m0_74823336
·
2025-02-07 16:57
面试
学习路线
阿里巴巴
大数据
架构
配置
Apache
本地服务支持PHP8--易错点
配置
Apache
本地服务--易错点到
apache
的bin目录下(cmd)安装服务配置
apache
支持php参考:Windows11本地php开发环境搭建:PHP+
Apache
+MySQL+VSCode安装和环境配置到
不喝可乐_
·
2025-02-07 15:18
apache
一文带你了解Spark4新特性,开启大数据处理新篇章
一文带你了解Spark4新特性,开启大数据处理新篇章在大数据处理的广袤天地中,
Apache
Spark始终是熠熠生辉的存在,宛如一颗璀璨的明星框架,吸引着无数开发者与数据分析师的目光。
敏叔V587
·
2025-02-07 12:59
大数据
介绍10个比较优秀好用的Qt相关的开源库
记录下比较好用的一些开源库1.Qt中的日志库“log4qt”log4qt是一个基于
Apache
Log4j设计理念的Qt日志记录库,它为Qt应用程序提供了强大而灵活的日志记录功能。
牵牛老人
·
2025-02-07 10:17
qt学习
qt
开源
开发语言
Debezium系列之:处理decimal数据类型org.
apache
.kafka.connect.data.Decimal
Debezium系列之:处理decimal数据类型org.
apache
.kafka.connect.data.Decimal一、背景二、Debezium处理decimal数据类型三种方式三、precise
快乐骑行^_^
·
2025-02-07 08:00
debezium
Debezium系列
decimal数据类型
kafka.connect
data.Decimal
C06S01-Docker架设
Docker是一个开源的应用容器引擎,基于go语言开发的,使用
Apache
的协议,是在linux里面运行的容器化的开源工具。是一种轻量级的虚拟机。
林农
·
2025-02-07 06:18
docker
深度解读Kafka数据可靠性
Kafka起初是由LinkedIn公司开发的一个分布式的消息系统,后成为
Apache
的一部分,它使用Scala编写,以可水平扩展和高吞吐率而被广泛使用。
程序の之道
·
2025-02-07 06:17
kafka
hive
yarn
spark
hadoop
java实现文件上传功能详解
可以选择
apache
的commons-fileupload包作为文件上传组件,commons-fileupload包依赖于commons-io包。
于歌852
·
2025-02-07 05:39
JavaWeb
java
开发语言
javaweb
如何处理大规模数据集中的数据处理:Spark和
Apache
Flink
文章目录1.简介2.基本概念术语说明数据处理(DataProcessing)任务调度(TaskScheduling)Hadoop
Apache
Spark
Apache
Flink
3.核心算法原理和具体操作步骤以及数学公式讲解
AI天才研究院
·
2025-02-07 01:43
DeepSeek
R1
&
大数据AI人工智能大模型
自然语言处理
人工智能
语言模型
编程实践
开发语言
架构设计
Oracle ora-12514报错解决方法
内容涵盖服务器硬件(如IBMSystem3650M5)、云服务平台(如腾讯云、华为云)、服务器软件(如Nginx、
Apache
、GitLab、Redis、Elasticsearch、Kubernetes
奔跑吧邓邓子
·
2025-02-07 01:43
数据迁移
数据库深入浅出
oracle
数据库
Hive-Container killed by YARN for exceeding memory limits. 9.2 GB of 9 GB physical memory used. Cons...
Causedby:org.
apache
.spark.SparkException:Jobabortedduetostagefailure:Task3instage0.0failed4times,mostrecentfailure
嘣嘣嚓
·
2025-02-07 01:41
spark
hive
boosting
scala
big
data
Spark -- 执行器后端 & 调度器后端
在
Apache
Spark中,coarseGrainedExecutorBackend和coarseGrainedschedulerBackend是两个重要的组件,它们在spark的集群调度和执行过程中扮演着不同的角色
Cynthiaaaaalxy
·
2025-02-07 00:36
spark
大数据
分布式
Apache
MXNet:灵活高效的深度学习库
Apache
MXNet是一个开源的深度学习框架,适用于灵活的研究原型设计和生产。它提供了一个混合前端,可以无缝地在Gluon(动态图)和Symbolic(静态图)模式之间转换,以提供灵活性和速度。
零 度°
·
2025-02-06 21:48
python
深度学习
apache
mxnet
Apache
MXNet 深度学习框架教程
Apache
MXNet深度学习框架教程mxnetLightweight,Portable,FlexibleDistributed/MobileDeepLearningwithDynamic,Mutation-awareDataflowDepScheduler
娄妃元Kacey
·
2025-02-06 21:17
MXNet深度学习框架:高效与灵活性的结合
标题:MXNet深度学习框架:高效与灵活性的结合MXNet是一个由
Apache
软件基金会支持的开源深度学习框架,以其高效性能和灵活性而闻名。
原机小子
·
2025-02-06 20:44
深度学习
mxnet
人工智能
升级AMH7.1后,无法升级其他组件和软件的解决办法
你可以按照以下步骤进行排查和操作:1.检查依赖和冲突确认在升级AMH7.1之后,是否有其他组件或软件与其发生冲突,尤其是与PHP、MySQL、Nginx/
Apache
等相关的版本问题。
·
2025-02-06 17:47
chrome-devtools
2025年全国CTF夺旗赛-从零基础入门到竞赛,看这一篇就稳了!
目录一、CTF简介二、CTF竞赛模式三、CTF各大题型简介四、CTF学习路线4.1、初期1、html+css+js(2-3天)2、
apache
+php(4-5天)3、mysql(2-3天)4、python
白帽安全-黑客4148
·
2025-02-06 15:36
网络安全
web安全
linux
密码学
CTF
2天的
Flink
Forward Asia 有什么值得关注的点
11月29号和30号,
Flink
ForwardAsia在上海举行。这篇文章给大家搞个省流版,聊聊有什么值得关注的点。
·
2025-02-06 13:05
Hive安装教程
元数据配置到MySQL拷贝驱动配置Metastore到MySQL再次启动Hive写在前面Linux版本:CentOS7.5Hive版本:Hive-3.1.2安装下载下载地址:http://archive.
apache
.org
WHYBIGDATA
·
2025-02-06 13:25
Hive
hive
hadoop
大数据
Flink
&& Spark SQL提效神器双双更新
大家新年好,在这里先祝大家开工大吉,今年少bug少加班多赚钱!本次SparkSQLHelper主要更新了对于Hints的补全支持,Release版本为2025.2.0。插件地址:https://plugins.jetbrains.com/plugin/26079-spark-sql-helper或者直接在Jetbrains插件市场搜索SparkSQLHelepr。用户QQ群:782150013。而
·
2025-02-06 13:32
flinkspark大数据
【starrocks学习】之将starrocks表同步到hive
目录方法1:通过HDFS导出数据1.将StarRocks表数据导出到HDFS2.在Hive中创建外部表3.验证数据方法2:使用
Apache
Spark同步1.添加StarRocks和Hive的依赖2.使用
chimchim66
·
2025-02-06 12:52
学习
hive
hadoop
30、
Flink
中操作已经配置好的远程文件系统
背景:
flink
作业中既配置了obs作为chk的远程文件系统,又在作业中读取obs文件内容时,使用obsclient会导致任务无法创建chk目录而启动失败。
梦想养猫开书店
·
2025-02-06 08:50
胡思乱想
flink
华为云
6
Flink
状态管理
6
Flink
状态管理1.State-KeyedState2.State-OperatorState3.BroadcastState我们前面写的wordcount的例子,没有包含状态管理。
TTXS123456789ABC
·
2025-02-06 07:48
#
Flink
flink
python
大数据
Flink
报错Caused by: java.io.FileNotFoundException: /home/wc.txt
当在提交一个
flink
任务报如下的错误时:Causedby:java.io.FileNotFoundException:/home/wc.txt(没有那个文件或目录)atjava.io.FileInputStream.open0
songqq27
·
2025-02-06 07:47
flink
大数据
Ubuntu18安装zabbix
Ubuntu18安装zabbix所需工具MySQL5.7PHP7.2
apache
2准备工作出于安全考虑,zabbix只使用普通用户运行,假如你当前用户叫dog,运行zabbix后,便以dog身份运行。
qq_41872848
·
2025-02-06 05:59
运维
zabbix
CVE-2021-42013 路径穿越漏洞复现并反弹shell
Apache
httpdCVE-2021-42013路径穿越漏洞
Apache
HTTPServer是
Apache
基金会开源的一款流行的HTTP服务器。
小彭爱学习
·
2025-02-06 04:50
网络安全
网络安全
web安全
线上
Flink
执行失败,Heartbeat Timeout异常分析
1.问题现象程序执行不稳当,时而正常,时而异常。对应的异常信息如下:执行过程中出现java.util.concurrent.TimeoutException:HeartbeatofTaskManagerwithidtimedoutjava.util.concurrent.TimeoutException:HeartbeatofTaskManagerwithidcontainer_e05_15788
spring208208
·
2025-02-06 04:19
大数据组件线上问题分析
flink
大数据
Hadoop1.0和2.0的主要区别
Hadoop1.0指的是版本为
Apache
Hadoop0.20.x、1.x或者CDH3系列的Hadoop,组件主要由HDFS和MapReduce两个系统组成,HDFS是一个分布式文件存储系统,MapReduce
web_15534274656
·
2025-02-06 03:43
java
hadoop
大数据
hdfs
dubbo
java-zookeeper
Hadoop1.0-HDFS介绍
Hadoop是
Apache
软件基金会所开发的并行计算框架与分布式文件系统。最核心的模块包括HadoopCommon、HDFS与MapReduce。
szjianzr
·
2025-02-06 03:13
HADOOP介绍
hadoop
HDFS
rocketmq集群启动和下线
mqbroker-nlocalhost:9876&tail-f~/logs/rocketmqlogs/broker.log-n:nameserver生产/消费测试消息shbin/tools.shorg.
apache
.roc
小虾米 ~
·
2025-02-06 03:39
RocketMQ
rocketmq
skywalking获取traceId(tid)的方式
,可以通过skywalking手动追踪API来获取参考文献:https://blog.csdn.net/jilo88/article/details/81355265步骤:1,引入依赖jar包org.
apache
.skywalkingapm-toolkit-trace6.5.02
野木香
·
2025-02-06 01:56
Zabbix5.0LTS配置
Apache
Kafka by JMX模板监控Kafka
目录部署环境安装zabbix-java-gateway编译安装zabbix-java-gateway修改zabbix-java-gateway配置settings.sh修改Zabbixserver配置文件Kafka添加JMX监控端口启动服务重启Kafka重启Javagateway重启ZabbixserverZabbix页面配置Kafka监控部署环境Zabbix和Kafka部署情况如下:主机名big
ErbaoLiu
·
2025-02-05 23:39
Prometheus
kafka
zabbix5.0
zabbix监控kafka
JMX
60款顶级大数据开源工具
一、Hadoop相关工具1.Hadoop
Apache
的Hadoop项目已几乎与大数据划上了等号。它不断壮大起来,已成为一个完整的生态系统,众多开源工具面向高度扩展的分布式计算。
La victoria
·
2025-02-05 17:33
大数据
python有类似mybatis的框架_【MyBatis】 MyBatis入门
MyBatis是这个框架现在的名字,而此框架最早的名字是IBatis,其名字的含义是“internet”、“abatis”两个单词的组合,是在2002年的时候开始的一个开源项目,在2010年6月16日
Apache
weixin_39917811
·
2025-02-05 14:40
【2025年】全国CTF夺旗赛-从零基础入门到竞赛,看这一篇就稳了!
基于入门网络安全/黑客打造的:黑客&网络安全入门&进阶学习资源包目录一、CTF简介二、CTF竞赛模式三、CTF各大题型简介四、CTF学习路线4.1、初期1、html+css+js(2-3天)2、
apache
白帽黑客鹏哥
·
2025-02-05 14:35
web安全
CTF
网络安全大赛
python
Linux
maven源国内镜像
aliyunmaven华为云公共仓库https://mirrors.huaweicloud.com/repository/maven/
apache
mavenexternal:*,!
陈勇劲
·
2025-02-05 11:13
tool
maven
阿里云
java
SpringBoot 整合 Mybatis:提升你的Java项目开发效率
第一章:数据自动管理引入JDBC的依赖和SpringBoot的应用场景:org.springframework.bootspring-boot-starter-jdbcorg.
apache
.commonscommons-dbcp2mysqlmysql-connector-javaruntime
苏-言
·
2025-02-05 11:42
java
spring
boot
mybatis
第12章
Flink
Flink
是一种具有代表性的开源流处理架构,它实现了GoogleDataflow流计算模型,是一种兼具高吞吐、低延迟和高性能的实时流计算框架,并且同时支持批处理和流处理。
wyz191
·
2025-02-04 23:17
大数据技术原理与应用
-
概念
存储
处理
分析与应用
big
data
hadoop
数据仓库
flink
大数据
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他