spark运维

mysql 8.0 高可用_MySQL 8.0 MGR（组复制）高可用VIP切换脚本

hcymysqlMySQL8.0MGR(组复制)高可用VIP切换脚本简介：MGR(组复制)官方推荐用MySQLrouter中间件去做MGR高可用故障转移，但其多过了一层网络，性能会下降，并且需要额外维护一套中间件，运维成本过高
错过整个世界·2024-09-08 00:11

项目遇到的难点、印象深刻点总结

1、更快地创建一个服务且免运维：大量的Node.js服务，创建服务，
橙秋筱·2024-09-07 21:15

<转>Spark体系架构

最近看到一篇关于Spark架构的博文，作者是AlexeyGrishchenko。
yongjian_luo·2024-09-07 20:11

Spark分布式计算原理

目录一、RDD依赖与DAG原理1.1RDD的转换一、RDD依赖与DAG原理Spark根据计算逻辑中的RDD的转换与动作生成RDD的依赖关系，同时这个计算链也形成了逻辑上的DAG。
NightFall丶·2024-09-07 20:40

Apache Flink 替换 Spark Stream的架构与实践( bilibili 案例解读)_streamsparkflink加载udf(1)

bilibili早期使用的引擎是SparkStreaming，后期扩展了Flink，在开发架构中预留了一部分引擎层的扩展。最下层是状态存储
2401_84165953·2024-09-07 12:44

JavaEE(3)

业务分析市场提出需求设计编码测试运维项目搭建步骤1.搭建后端项目2.登录向后端发送请求使用axios发送异步请求在vue项目中安装axios在终端输入npminstallaxios安装更换npm镜像源，
无柳丶先生·2024-09-07 12:14

CC00281.CloudKubernetes——|KuberNetes&运维.V03|——|EFK架构.v03|部署Fluentd|

一、部署Fluentd###---创建Fluentd-configmap.yaml文件~~~创建Fluentd-configmap文件[root@k8s-master01EFK]#catfluentd-configmap.yamlkind:ConfigMapapiVersion:v1metadata:name:fluentd-es-config-v0.2.0namespace:public-ser
yanqi_vip·2024-09-07 11:13

linux自动化运维之ansible实战

ansible基础介绍优点-相比于saltatack和puppet，没有客户端，更轻量级-只是一个工具，可以很容易实现分布式拓展-更强的远程执行命令特点-模块化-支持自定义模块，可以用任何语言编写模块-基于python语言实现-部署简单，基于python和ssh，agentless，无需代理-安全安装yum安装首先安装epel源：yuminstallepel-release-y下载ansible：
浓黑的daidai·2024-09-07 11:05

网络安全（黑客）自学

一、什么是网络安全网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。
白帽子凯哥·2024-09-07 09:21

PySpark数据分析基础：PySpark基础功能及DataFrame操作基础语法详解_pyspark rdd

DataFrame.show()使用格式：df.show()df.show(1)+---+---+-------+----------+-------------------+|a|b|c|d|e|+---+---+-------+----------+-------------------+|1|2.0|string1|2000-01-01|2000-01-0112:00:00|+---+---
2401_84187537·2024-09-07 08:47

PySpark数据分析基础：PySpark基础功能及DataFrame操作基础语法详解_pyspark rdd(1)

dfDataFrame[a:bigint,b:double,c:string,d:date,e:timestamp]####通过由元组列表组成的RDD创建rdd=spark.sparkContext.parallelize
2401_84181368·2024-09-07 08:46

PySpark数据分析基础：PySpark基础功能及DataFrame操作基础语法详解_pyspark rdd(2)

轻松切换到pandasAPI和PySparkAPI上下文，无需任何开销。有一个既适用于pandas（测试，较小的数据集）又适用于Spark（分布式数据集）的代码库。
2401_84181403·2024-09-07 08:46

Pyspark DataFrame常用操作函数和示例

针对类型：pyspark.sql.dataframe.DataFrame目录1.打印前几行1.1show()函数1.2take()函数2.读取文件2.1spark.read.csv3.获取某行某列的值(
还是那个同伟伟·2024-09-07 08:15

自学黑客（网络安全）

网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。
L世界凌乱了·2024-09-07 05:52

Spark概念知识笔记

最近总结了个人的各项能力，发现在大数据这方面几乎没有涉及，因此想补充这方面的知识，丰富自己的知识体系，大数据生态主要包含：Hadoop和Spark两个部分，Spark作用相当于MapReduceMapReduce
kuntoria·2024-09-07 05:21

oracle 扩容undo,【案例】Oracle RAC数据库undo使用率较高的解决思路办法

天萃荷净Oracle研究中心案例分析：运维DBA反映Oracle数据库undo使用较大，结合案例分析undo使用问题。
南门居士-杜锦刚·2024-09-07 01:33

Python psutil模块

用Python来编写脚本简化日常的运维工作是Python的一个重要用途。在Linux下，有许多系统命令可以让我们时刻监控系统运行的状态，如ps，top，free等等。
Python 学习者·2024-09-07 01:32

流程行业智能工厂系统集成总体解决方案：总体架构、SCADA厂务监控、MES、MON、EMS、数字孪生

SCADA厂务监控系统SCADA系统概述及功能数据采集与传输技术设备监控与报警机制能源管理与优化策略MES生产执行系统MES系统概念及作用生产计划与调度管理生产过程监控与追溯质量管理与控制策略MON设备运维管理系统
数字化建设方案·2024-09-06 20:05

如何搭建一个渲染农场

搭建一个渲染农场是一个复杂的事情，要考虑很多因素，本文将详细介绍如何搭建一个基本的渲染农场，包括前期规划、硬件选择、软件配置、网络设置、运维管理等方面。
炫云云渲染·2024-09-06 20:01

大数据秋招面经之spark系列

文章目录前言spark高频面试题汇总1.spark介绍2.spark分组取TopN方案总结：方案2是最佳方案。
wq17629260466·2024-09-06 19:54

第04课：基于 Redis 的分布式缓存实现及加固策略

之后，分析集群所存在的几种可靠性问题并给出解决方案，最后，介绍一个集群运维软件的实现方案。1.Redis-Cluster搭建本节将介绍基于Redis和Lettuce搭建一个分布式缓存集群的方法。
Jin_Kwok·2024-09-06 18:13

ansible实战自动化运维项目

在实际生产环境中，Ansible可以帮助运维团队高效地管理服务器、应用和服务。以下是一个详细的Ansible自动化运维项目的生产实际案例，包括代码和详细讲解。
清风 001·2024-09-06 18:11

每天一个数据分析题（五百一十四）- 决策树算法

D.叶结点（leafnode）数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学，数据分析理论，深度学习，可视化，机器学习，Spark
跟着紫枫学姐学CDA·2024-09-06 15:20

python自动化运维项目实战_全网稀缺的Python/Django/Ansible Playbook自动化运维项目实战视频课程...

配置文件properties比yml优先级高SpringBoot使用一个全句的配置文件，配置文件名是固定的；application.propertiesapplication.yml配置文件的作用：修改SpringBoot自动配置的默认值，SpringBoot在底层都给我们自动配置好了。YAML，是/不是一个标记语言标记语言：以前的配置文件：xxx.xmlyaml：以数据为中心，比json、xml
weixin_39977642·2024-09-06 14:16

ansible自动化运维

1、ansble介绍ansble为一款批量化处理系统配置的服务，对批量化系统部署、批量程序部署、批量运行命令、批量修改服务、批量安装软件包、批量修改配置等诸多功能。ansible基于SSH架构，含有丰富的模块，支持win、路由器、交换机远程操作。查看playbook的网址：https://galaxy.ansible.com2、ansble部署环境准备ansible：192.168.4.10nod
芷阳99·2024-09-06 13:11

能源交通行业ITSM案例分析报告

然而，长期以来，该行业内的信息中心普遍面临“重建设轻运维”的问题，即在基础设施建设上的投入远大于后续的运维管理。
采和精灵·2024-09-06 13:39

分布式系统实战：什么是微服务架构？微服务架构与SOA架构的区别

越来越多的企业拥抱微服务，期望通过微服务的架构来解决大型项目的管理与运维。那么什么是微服务？微服务架构与传统的SOA架构有什么区别？何时应该采用微服务架构？如何构建微服务？
程序员小英·2024-09-06 13:07

ansible自动化运维项目

Ansible是一个基于Python开发的开源自动化运维工具，它通过其模块化的架构和强大的功能，实现了配置管理、批量系统配置、程序部署和运行命令等任务，旨在帮助运维工程师提高工作效能并减少重复性劳动。
不会代码的小林·2024-09-06 13:36

ansible自动化运维项目

在MySQL中创建数据库和表是数据库管理的基础步骤，它们构成了数据存储和操作的基础结构。下面，我将详细介绍如何在MySQL中创建数据库和表，包括创建数据库的基本语法、设计表的考虑因素、表的创建过程、数据类型和约束的使用等，力求内容详尽且不少于2000字。一、创建数据库在MySQL中，数据库是一个创建简单的操作，使用CREATEDATABASE语句即可完成。这个语句允许你指定数据库的名称，并可选地指
shiming8879·2024-09-06 13:35

使用Ansible进行自动化运维

引言简介自动化运维在现代IT基础架构管理中扮演着重要角色。通过自动化，我们可以提高效率、减少人为错误和加速部署流程。
weixin_58606202·2024-09-06 12:02

关于日志数据管理

熟悉数据中心运维的人都知道，日志数据是记录IT系统操作行为的重要数据，所有的硬件设备与软件执行的所有指令都会通过日志保留下来。企业针对日志数据的管理，目前的情况是怎么样的呢？1、缺少日志管理能力。
Aichris·2024-09-06 12:03

【Spark高级应用】使用Spark进行高级数据处理与分析

Spark高级应用使用Spark进行高级数据处理与分析引言在大数据时代，快速处理和分析海量数据是每个企业面临的重大挑战。
爱技术的小伙子·2024-09-06 10:47

spark读取csv文件

测试spark读取本地和hdfs文件frompyspark.sqlimportSparkSessionspark=SparkSession.builder\.appName("ExamplePySparkScript
静听山水·2024-09-06 10:44

SparkStreaming业务逻辑处理的一些高级算子

packagecom.sparkscala.streamingimportorg.apache.log4j.{Level,Logger}impor
看见我的小熊没·2024-09-06 09:43

Spark一些个人总结

文章目录前言一、Spark是什么二、Spark用来做什么三、Spark的优势是什么四、为什么用Spark五、Spark解决了什么问题总结前言随着大数据技术的发展，一些更加优秀的组件被提了出来，比如现在最常用的
易逑实战数据·2024-09-06 09:39

spark任务优化参数整理

以下参数中有sql字眼的一般只有spark-sql模块生效，例外的时候会另行说明，此外由于总结这些参数是在不同时间段，当时使用的spark版本也不一样，因此要注意是否有效，如果本博主已经试过的会直接说明
尘世壹俗人·2024-09-06 09:08

Spark与Kafka进行连接

在Java中使用Spark与Kafka进行连接，你可以使用SparkStreaming来处理实时流数据。以下是一个简单的示例，展示了如何使用SparkStreaming从Kafka读取数据并进行处理。
傲雪凌霜，松柏长青·2024-09-06 07:27

构建专业技能：MySQL数据备份策略的培训与实践

1.数据备份策略培训的重要性在数据库的日常运维中，数据备份策略的培训有助于：提升团队技能：确保团队成员
2401_85763803·2024-09-06 06:26

Spark入门：KMeans聚类算法

聚类（Clustering）是机器学习中一类重要的方法。其主要思想使用样本的不同特征属性，根据某一给定的相似度度量方式（如欧式距离）找到相似的样本，并根据距离将样本划分成不同的组。聚类属于典型的无监督学习（UnsupervisedLearning）方法。与监督学习（如分类器）相比1，无监督学习的训练集没有人为标注的结果。在非监督式学习中，数据并不被特别标识，学习模型是为了推断出数据的一些内在结构。
17111_Chaochao1984a·2024-09-06 05:46

Spark MLlib模型训练—聚类算法 K-means

SparkMLlib模型训练—聚类算法K-meansK-means是一种经典的聚类算法，广泛应用于数据挖掘、图像处理、推荐系统等领域。
不二人生·2024-09-06 04:14

Spark MLlib模型训练—聚类算法 Bisecting K-means

SparkMLlib模型训练—聚类算法BisectingK-means由于传统的KMeans算法的聚类结果易受到初始聚类中心点选择的影响，因此在传统的KMeans算法的基础上进行算法改进，对初始中心点选取比较严格
不二人生·2024-09-06 04:14

DAG (directed acyclic graph) 作为大数据执行引擎的优点

TL;DR-ConceptuallyDAGmodelisastrictgeneralizationofMapReducemodel.DAG-basedsystemslikeSparkandTezthatareawareofthewholeDAGofoperationscandobetterglobaloptimizationsthansystemslikeHadoopMapReducewhicha
joeywen·2024-09-06 04:43

Spark的Web界面

http://localhost:4040/jobs/在顶部导航栏上，可以点击以下选项来查看不同类型的Spark应用信息：Jobs-此视图将列出所有已提交的作业，并提供每个作业的详细信息，如作业ID、名称
静听山水·2024-09-06 04:40

最全金融数据_PySpark-3(2)，大数据开发学习的三个终极问题及学习路线规划

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新需要这份系统化资料的朋友，可以戳这里获取frompyspark.ml.evaluationimportBinaryClassificationEv
2401_84185145·2024-09-05 23:38

文章汇总 | 2018

12月RIA便签学习法10月财富最好的定义Spark分布式原理及碰到的三个坑在不断解决问题(矛盾)的过程进步9月《韭菜的自我修养》-股票交易是零和游戏吗?
学习之术·2024-09-05 22:27

Ingest Pipeline & Painless Script

包含3个字段，tags用逗号间隔PUTtech_blogs/_doc/1{"title":"Introducingbigdata......","tags":"hadoop,elasticsearch,spark
折纸虚桐·2024-09-05 22:03

Spark作业提交

一.作业提交1.1作业提交模式spark作业提交使用spark-submit命令，作业提交模式有cluster和client两种。
Tom无敌宇宙猫·2024-09-05 22:26

Spark基础

一.基础1.RDD机制  1.rdd分布式弹性数据集，简单的理解成⼀种数据结构，是spark框架上的通⽤货币。所有算⼦都是基于rdd来执⾏的，不同的场景会有不同的rdd实现类，但是都可以进⾏互相转换。
Tom无敌宇宙猫·2024-09-05 22:26

字节跳动10万节点HDFS集群多机房架构演进之路(1)

如何高效运维如此超大规模的集群要回答这些问题需要HDFS从多个方向迭代优化，例如DanceNN的上线、运维平台的建设等，本文不会介绍字节跳动HDFS所有的演进方案，而是聚焦在HDFS多机房架构的演进策略上
2401_84122782·2024-09-05 21:23

网络安全（黑客）自学

一、什么是网络安全网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。
白帽子凯哥·2024-09-05 17:57
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他