spark分布式

区块链1——区块链基础概念

区块链索引目录一、介绍区块链技术1、什么是区块链区块链是一种基于分布式数据库和加密技术的技术，它的特点包括去中心化、不可篡改、安全可靠等。
风不归Alkaid·2024-09-08 15:52

大数据面试题：说下为什么要使用Hive？Hive的优缺点？Hive的作用是什么？

Hive是Hadoop生态系统中比不可少的一个工具，它提供了一种SQL(结构化查询语言)方言，可以查询存储在Hadoop分布式文件系统（HDFS）中的数据或其他和Hadoop集成的文件系统，如MapR-FS
蓦然_·2024-09-08 15:50

java 实现前后端分离_详解前后端分离之Java后端

那么问题来了，用户很多时，服务器压力很大，如果采用分布式存储session，又可能会出现不同步问题，那么前后端分离就很好的
bfecoder·2024-09-08 13:08

ES elasticsearch集群入门

每个分片都会分布式部署在多个不同的节点上进行部署，该分片成为primaryshards。注意：索引的主分片primaryshards定义好后，后面不能
小P聊技术·2024-09-08 12:40

【无标题】大数据之批处理，流处理，批流一体概念

Spark和Flink都支持批处理，其中Spark使用的是批处理模型，即将一批数据一次性读入内存，然后对其进行处理，处理完成后再将结果写入磁盘。
数字天下·2024-09-08 09:43

python flink_《Flink官方文档》Python 编程指南测试版

操作执行的结果通过数据池以写入数据到(分布式)文件系统或标准输出(例如命令行终端)的形式返回。Flink程序可以运行在不同的环境中，既能够独立运行，也可以嵌入到其他程序中运行。
weixin_39846361·2024-09-08 08:04

TortoiseGit软件与TortoiseSvn

分布式与集中式：Git是一种分布式版本控制系统，每个开发者都有完整的版本库副本，可以在本地进行提交和分支操作。而SVN是一种集中式版本控制系统，版本
汽车软件工程师001·2024-09-08 08:03

JAVA - 关于防重复提交探讨

1、前端提交按钮做单次点击2、后端接收判断请求的数据包，生成唯一key存redis，设置几秒的过期时间（缺陷：带时间戳的数据，需要做些逻辑判断）3、后端代码逻辑redis分布式锁（缺陷：redis崩溃后会造成脏数据
Teln_小凯·2024-09-08 05:11

pyspark kafka mysql_数据平台实践①——Flume+Kafka+SparkStreaming(pyspark)

蜻蜓点水Flume——数据采集如果说，爬虫是采集外部数据的常用手段的话，那么，Flume就是采集内部数据的常用手段之一(logstash也是这方面的佼佼者)。下面介绍一下Flume的基本构造。Agent：包含Source、Channel和Sink的主体，它是这3个组件的载体，是组成Flume的数据节点。Event：Flume数据传输的基本单元。Source：用来接收Event，并将Event批量传
weixin_39793638·2024-09-08 04:34

Go-Snowflake 项目教程

AnLockFreeIDGeneratorforGolangbasedonSnowflakeAlgorithm(Twitterannounced).项目地址:https://gitcode.com/gh_mirrors/go/go-snowflake项目介绍Go-Snowflake是一个基于Go语言实现的分布式唯一
喻季福·2024-09-08 02:23

如何使用Redis分布式锁避免秒杀活动中的订单超卖问题

1.秒杀系统的并发挑战秒杀活动介绍秒杀活动是一种在限定时间内以特价销售商品的营销手段，因其限时限量的特性，吸引大量用户参与，但也带来了巨大的并发压力。超卖问题的产生原因超卖问题指的是在秒杀活动中，由于并发访问量巨大，多个用户同时尝试购买同一商品，可能导致某个商品的库存被多次扣减，最终导致超卖，即用户实际购买的数量超过了商品的实际库存量。并发处理的常见策略在高并发场景下，处理超卖问题常见的策略包括：
一休哥助手·2024-09-08 02:52

基于 Kafka 实现分布式事件驱动

事件驱动是一种灵活的系统设计方法，在事件驱动的系统中，当数据发生变化时系统会产生、发布一个对应的事件，其它对这个事件感兴趣的部分会接收到通知，并进行相应的处理。事件驱动设计最大的好处在我看来有两点：一是它为系统提供了很好的扩展能力，比如我们可以对某类事件增加一个订阅者来对系统进行扩展，最主要的是我们并不需要修改任何已有的代码，它完全符合开闭原则；二是它实现了模块间的低偶合，系统间各个部分不是强依赖
weixin_33785972·2024-09-08 02:48

基于 React & TypeScript & Webpack 的微前端应用模板

微服务与微前端，都是希望将某个单一的单体应用，转化为多个可以独立运行、独立开发、独立部署、独立维护的服务或者应用的聚合，从而满足业务快速变化及分布式多团队并行开发的需求。
weixin_33806300·2024-09-08 02:48

深入剖析 RabbitMQ：架构深度解析、原理细节与关键特性全面掌握

旨在为开发者和架构师提供全面的RabbitMQ知识，以助其在分布式系统中有效利用该技术。
马丁的代码日记·2024-09-08 01:43

python实现rpc例子_【转】Python中实现远程调用（RPC、RMI）简单例子

远程调用是分布式系统的基础。远程调用一般分为两种，远程过程调用(RPC)和远程方法调用(RMI)。
weixin_39781186·2024-09-08 00:41

Python爬虫实战

主流的开源爬虫框架包括：1.分布式爬虫框架：Nutch2.Java单机爬虫框架：Crawler4j,WebMagic,WebCollector、Heritrix3.python单机爬虫框架：scrapy
weixin_34007879·2024-09-08 00:10

Web3.0是什么意思？普通人在Web3.0能赚到钱吗？

Web3.0，第三代互联网，意思是由DLT（分布式账本技术）支援，基于区块链的去中心化网路世界，也将是驱动元宇宙的基础建设技术。
stronger11·2024-09-08 00:59

<转>Spark体系架构

最近看到一篇关于Spark架构的博文，作者是AlexeyGrishchenko。
yongjian_luo·2024-09-07 20:11

Spark分布式计算原理

目录一、RDD依赖与DAG原理1.1RDD的转换一、RDD依赖与DAG原理Spark根据计算逻辑中的RDD的转换与动作生成RDD的依赖关系，同时这个计算链也形成了逻辑上的DAG。
NightFall丶·2024-09-07 20:40

配置管理 —— SpringCloud Config

概述Config为分布式系统提供统一的配置管理工具，应用程序在使用过程中可以像使用本地配置一样方便地添加、访问、修改配置中心的配置Config支持将配置存储在配置中心的本地服务器或Git仓库，通常将配置文件集中放置在一个
低吟不作语·2024-09-07 19:00

Python大数据：深入探索Hadoop库的使用

1.简介Hadoop是一个用于分布式处理大量数据的开源框架。尽管Hadoop主要用Java编写，但通过HadoopStreaming，Python程序员也可以利用其强大的数据处理能力。
t0_54coder·2024-09-07 17:22

先进制造业数字化转型：典型场景存储需求及实践解析

本文将从先进制造企业数字化转型中典型场景的存储需求出发，结合XSKY分布式存储的实际案例，看分布式存储如何帮助企业进行存储转型，满足相关的数据使用需求。01 本地硬盘存储方案的
XSKY星辰天合·2024-09-07 16:08

分布式全闪占比剧增 152%，2023 年企业存储市场报告发布

根据该报告，在2023年软件定义存储的市场占比进一步扩大，分布式全闪的增长尤其亮眼，其市场份额从2022年的7% 剧增到2023年的17.7%，增长了 152%。
XSKY星辰天合·2024-09-07 16:38

速盾：没有备案的网站能否接入CDN使用？

CDN作为一个分布式的网络服务器集群，可以将网站的静态资源存储在离用户最近的服务器上，从而加快资源的访问速度。然而，CDN服务提供商在为网站提供CDN服务之前，需要对网站进行一系列的备案手续。
速盾cdn·2024-09-07 13:52

速盾：选购高防cdn时应该注意些什么？

为了保护网站的安全可靠运行，很多企业和个人选择使用高防CDN（ContentDeliveryNetwork）服务来防御DDoS（分布式拒绝服务）攻击等网络威胁。
速盾cdn·2024-09-07 13:52

速盾：CDN原理 CDN技术是什么？

CDN（ContentDeliveryNetwork）是一种通过在全球分布式服务器中存储和分发静态和动态内容的技术。
速盾cdn·2024-09-07 13:52

Kafka，构建TB级异步消息系统

ArrayBlockingQueueLinkedBlockingQueuePriorityBlockingQueue、SynchronousQueue、DelayQueue等2.Kafka入门Kafka简介Kafka是一个分布式的流媒体平台应用
Fern977·2024-09-07 12:15

Apache Flink 替换 Spark Stream的架构与实践( bilibili 案例解读)_streamsparkflink加载udf(1)

bilibili早期使用的引擎是SparkStreaming，后期扩展了Flink，在开发架构中预留了一部分引擎层的扩展。最下层是状态存储
2401_84165953·2024-09-07 12:44

仿论坛项目--Kafka，构建TB级异步消息系统

Kafka入门•Kafka简介Kafka是一个分布式的流媒体平台。
HUT_Tyne265·2024-09-07 12:14

自然语言处理系列六十一》分布式深度学习实战》TensorFlow深度学习框架

注：此文章内容均节选自充电了么创始人，CEO兼CTO陈敬雷老师的新书《自然语言处理原理与实战》（人工智能科学与技术丛书）【陈敬雷编著】【清华大学出版社】文章目录自然语言处理系列六十一分布式深度学习实战》
陈敬雷-充电了么-CEO兼CTO·2024-09-07 11:11

图像去噪算法代码c语言,深度学习图像去噪代码

AI开发平台ModelArtsModelArts是面向开发者的一站式AI开发平台，为机器学习与深度学习提供海量数据预处理及半自动化标注、大规模分布式Training、自动化模型生成，及端-边-云模型按需部署能力
weixin_39777018·2024-09-07 11:40

linux搭建ceph集群

172.26.50.75node1172.26.50.112node2172.26.50.228node3ceph-mon，ceph-mgr，ceph-mds都搭建在node1上，node2和node3上搭建ceph-osd，每个机器1个osdCeph是一个分布式的存储系统
浓黑的daidai·2024-09-07 11:05

linux自动化运维之ansible实战

ansible基础介绍优点-相比于saltatack和puppet，没有客户端，更轻量级-只是一个工具，可以很容易实现分布式拓展-更强的远程执行命令特点-模块化-支持自定义模块，可以用任何语言编写模块-
浓黑的daidai·2024-09-07 11:05

jedis 与 redission 实现分布式锁

本文为博主原创，未经允许不得转载：1.Jedis实现分布式锁2.Redission实现分布式锁为了确保分布式锁可用，至少要保证锁的实现同时满足以下几个条件互斥性：在任意时刻只有一个客户端能持有锁不会死锁
不知言愁·2024-09-07 10:34

ELK7.8部署：Elasticsearch+Logstash+Kibana搭建分布式日志平台

ELK7.8部署：Elasticsearch+Logstash+Kibana搭建分布式日志平台一、前言1、ELK简介2、ELK工作流二、准备工作1、服务器&软件环境说明2、ELK环境准备三、Elasticsearch
_海风_·2024-09-07 10:33

Elasticsearch新手入门教程

Elasticsearch入门一.Elasticsearch介绍Elasticsearch是一个分布式、可扩展、实时的搜索与数据分析引擎。
超级英雄吉姆·2024-09-07 09:51

PySpark数据分析基础：PySpark基础功能及DataFrame操作基础语法详解_pyspark rdd

DataFrame.show()使用格式：df.show()df.show(1)+---+---+-------+----------+-------------------+|a|b|c|d|e|+---+---+-------+----------+-------------------+|1|2.0|string1|2000-01-01|2000-01-0112:00:00|+---+---
2401_84187537·2024-09-07 08:47

PySpark数据分析基础：PySpark基础功能及DataFrame操作基础语法详解_pyspark rdd(1)

dfDataFrame[a:bigint,b:double,c:string,d:date,e:timestamp]####通过由元组列表组成的RDD创建rdd=spark.sparkContext.parallelize
2401_84181368·2024-09-07 08:46

PySpark数据分析基础：PySpark基础功能及DataFrame操作基础语法详解_pyspark rdd(2)

轻松切换到pandasAPI和PySparkAPI上下文，无需任何开销。有一个既适用于pandas（测试，较小的数据集）又适用于Spark（分布式数据集）的代码库。
2401_84181403·2024-09-07 08:46

Pyspark DataFrame常用操作函数和示例

针对类型：pyspark.sql.dataframe.DataFrame目录1.打印前几行1.1show()函数1.2take()函数2.读取文件2.1spark.read.csv3.获取某行某列的值(
还是那个同伟伟·2024-09-07 08:15

探索Java中的分布式消息队列与事件总线：架构、实现与最佳实践

引言在现代分布式系统中，消息队列和事件总线已经成为实现松耦合、高扩展性和高可用性架构的关键组件。无论是微服务架构、事件驱动架构，还是实时数据处理，消息队列和事件总线都扮演着至关重要的角色。
๑҉ 晴天·2024-09-07 08:14

Spark概念知识笔记

最近总结了个人的各项能力，发现在大数据这方面几乎没有涉及，因此想补充这方面的知识，丰富自己的知识体系，大数据生态主要包含：Hadoop和Spark两个部分，Spark作用相当于MapReduceMapReduce
kuntoria·2024-09-07 05:21

Apache Storm：入门了解

前言Storm是一个开源的分布式实时计算系统，它能够处理无边界的数据流，类似于Hadoop对于批量数据处理的作用，但是Storm更侧重于实时数据流的处理。
布说在见·2024-09-07 03:43

分布式发号器（2）

目录数据结构最大峰值型最小粒度值型并发机器ID的分配时间同步设计验证性能需求调整时间是否会影响ID产生功能？每4年一次同步润秒会不会影响ID产生功能？数据结构1.最大峰值型：采用秒级有序，秒级时间占用30位，序列号占用20位字段：|`版本`|`类型`|`生成方式`|`秒级时间`|`序列号`|`机器ID`|位数：|*63*|*62*|*60-61*|*40-59*|*10-39*|*0-9*|2.最
lmkbuffon·2024-09-07 03:39

【架构】一款永不重复的高性能分布式发号器，实战nginxpdf

零、基本术语发号器：用于生成唯一流水号（也即俗称的唯一ID）的服务系统，称之为发号器一、技术选型UUID优点：能够保证唯一性缺点：（1）完全的时间数据=>性能比较差、比较长、占用空间大、间接导致数据库性能下降;（2）无序=>导致B+树索引在写的时候会有过多的随机写操作，不会产生有顺序的append操作，而是需要进行insert操作，这将读取整个B+树节点到内存并在插入该条记录后会将整个节点写会磁盘
m0_64867839·2024-09-07 02:39

java分布式开发面试题

正文梳理知识点，是快速提升技术的关键前面讲过，快速提升自己的技术硬实力其实是有方法的。大致就是梳理知识点+夯实基础+进阶深入学习+实战，下面我会一点点跟大家剖析，本文干货满满，大家仔细阅读。梳理知识后，夯实基础乃是刚需：深入进阶学习（28个主流Java知识点“一网打尽”）1、并发编程Java并发编程是整个Java开发体系中最难以理解，但也是最重要的知识点之一，一旦掌握你一定在市场上供不应求。Jav
spring面试题·2024-09-07 02:38

seata环境搭建以及官方示例的坑

1、seataserver搭建（windows）在建seata服务之前请搭建好nacos服务官方的最新的为2.0.0版的，这个版本暂时有些问题，管理分布式事务时会报错。所以建议使用1.8的。
qq_20546587·2024-09-07 01:32

UI 自动化分布式测试 -Docker Selenium Grid

分布式测试SeleniumGrid对于大型项目或者有大量测试用例的项目，单机的测试环境往往无法快速完成所有测试用例的执行，此时自动化测试执行效率将会成为最大的瓶颈，SeleniumGrid可以通过多机的分布式架构允许测试用例并行运行
程序员与诗人·2024-09-07 01:30

Selenium Server 中 Standalone 模式|实现分布式测试、远程驱动浏览器

实现分布式测试|远程驱动浏览器SeleniumServer介绍主要功能Standalone模式概括Standalone模式分布式测试的应用SeleniumServer介绍SeleniumServer是Selenium
cs_mengxi·2024-09-07 01:58

为什么需要分布式数据库

这些年，由于数据规模和业务访问负载越来越大，越来越多的公司无法依赖单台数据库服务器支撑其业务，越来越多的公司不得不做数据分区存储，也就是所谓的分库分表，但大量的烦恼与困惑也随之而来。令人“头都大了”的分库分表中间件10多年前阿里因此原因不得不把淘宝后台系统从OracleRAC切换到数百个MySQL集群构成的分库分表集群，不过那时的淘宝仅仅使用一个分库分表中间件，名为tddl（又名：头都大了，江湖上
KunlunBase 昆仑数据库·2024-09-06 21:08
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他