spark集群

CDH 之 hive 数据迁移

当你想切换了集群想把hive迁移至新集群，两个集群之间又互不相通，一个最简单快捷的方法，就是批量导出元数据信息，同时把数据文件下载上传至新服务器的数据文件存放目录下1.导出元数据信息#database即是数据库名称
啊 这·2024-08-27 13:18

Hive 数据迁移与备份

导出到HDFS将表和数据从HDFS导出到本地服务器将表和数据从本地服务器复制到目标服务器将表和数据从目标服务器上传到目标HDFS将表和数据从目标HDFS上传到目标Hive库如果原始HDFS和目标HDFS集群连通
linzeyu·2024-08-27 13:17

Spark -- 基础开发和RDD相关知识总结!!!

目录一、基础开发1.Anaconda2.案例(基本代码)3.案例(链式编程)3.spark-submit3.StandAlone模式4.SparkOnYarn模式二、RDD1.RDD模型2.RDD常用算子
Alfie-·2024-08-27 12:13

Spark-第三周

1.sparkcontext初始化源码分析Spark源码（7）-SparkContext初始化源码分析_太与旅spark源码-CSDN博客Spark源码学习(一)：SparkContext初始化源码分析
fightingD&W·2024-08-27 12:13

Spark-第五周

sparkonyarn运行流程SparkonYarn模式下执行过程_sparkonyarn作业执行流程-CSDN博客yarnclient与yarncluster区别SparkonYarn用执行流程图解（
fightingD&W·2024-08-27 12:13

Spark-第六周

1.sparksql运行流程【Spark精讲】一文讲透SparkSQL执行过程_sparksql执行过程-CSDN博客摸鱼大数据——SparkSQL——SparkSQL的运行机制-CSDN博客2.熟练使用
fightingD&W·2024-08-27 12:13

带你详细了解Spring Cloud微架构服务的发展史

SpringCloud是一个基于SpringBoot实现的云应用开发工具，它为基于JVM的云应用开发中的配置管理、服务注册，服务发现、断路器、智能路由、微代理、控制总线、全局锁、决策竞选、分布式会话和集群状态管理等操作提供了一种简单的开发方式
武昌库里写JAVA·2024-08-27 11:07

卸载 kubeadm 方式安装的 k8s

停止服务与容器并删除镜像和容器所有节点都执行一遍以下命令：sudosystemctlstopkubelet&&sudosystemctlstatuskubeletsudosystemctlstopetcd2.清空K8S集群设置
qq_19783793·2024-08-27 10:30

HPC&AI并行计算集群Slurm作业调度系统对通用资源（GRES）的调度

一、概述Slurm支持定义和调度任意通用RESources的功能（GRES）。为特定GRES类型启用了其他内置功能，包括图形处理单元（GPU）、CUDA多进程服务（MPS）设备，并通过可扩展的插件机制进行分片。二、配置默认情况下，群集的配置中未启用任何GRES。您必须在slurm.conf配置文件中明确指定要管理的GRES。的配置参数兴趣是GresTypes和Gres。有关详细信息，请参见slur
技术瘾君子1573·2024-08-27 09:25

HBase原理和操作

目录一、HBase在Zookeeper中的存储元数据信息集群状态信息二、HBase的操作WebConsole命令行操作三、HBase中数据的保存过程一、HBase在Zookeeper中的存储元数据信息HBase
无奈ieq·2024-08-27 08:16

Hadoop：HA模式配置与实现

写的不到位的地方，欢迎评论指出不足之处一、检查系统环境1、HostName、Hosts、JDK、SSH、网络、防火墙、数据源二、集群角色分配表注：这只是实例服务器NameNodeNameNodeZookepperFailoverControllerDataNodeZookepperJournalNodeOneyes
家道消乏·2024-08-27 08:14

redisj集群之哨兵模式

首先可以搭建主从集群，再加上使用redis的哨兵模式。2.什么是哨兵模式？哨兵（sentinel）模式：可以实现主从集群的自动故障恢复。包含了主从服务的监控、自动故障恢复、通知。
求知耶·2024-08-27 06:07

mysql集群

谈论集群之前，先说明一下项目发展的不同阶段对数据库性能的要求。项目发展经历1.项目初始阶段在这个阶段，主要是单节点数据库，注重的是可靠性。此时主要避免单点故障，做法是主从复制。
唏噗·2024-08-27 06:32

LVS负载均衡群集

目录一、什么是集群二、集群使用在哪一个场景三、集群的分类四、负载均衡的集群架构五、负载均衡的工作模式六、部署安装LVS-NAT1.1步骤1.2ipvsadm工具选项1.3实际案例（这里面有很多细节，暂时没有解释说明
必叫你大败而归·2024-08-27 05:29

Haproxy搭建Web集群

目录一、Haproxy的概念二、Haproxy主要特性三、Haproxy负载均衡的策略四、HaproxyLVSNginx的区别五、编译部署Haproxy1.1haproxy配置文件中的五部分内容1.2搭建haproxy1.3日志定义一、Haproxy的概念HAProxy是可提供高可用性、负载均衡以及基于TCP和HTTP应用的代理，是免费、快速并且可靠的一种解决方案。HAProxy非常适用于并发大（
必叫你大败而归·2024-08-27 05:29

lvs+keepalived+nfs集群部署

keepalived介绍及lvs+keepalived+nfs集群部署目录一、Keepalived概述二、Keepalived工作原理三、Keepalived体系主要模块及其作用四、Keepalived
Linux运维老纪·2024-08-27 05:26

Hbase BulkLoad用法

要导入大量数据，Hbase的BulkLoad是必不可少的，在导入历史数据的时候，我们一般会选择使用BulkLoad方式，我们还可以借助Spark的计算能力将数据快速地导入。
kikiki1·2024-08-27 04:22

MySQL集群技术1——编译部署mysql

MySQL在服务器中的部署办法一般而言，企业中的服务器操作系统都为linux，对于MySQL的安装则通常采用源码编译的方式来进行。MySQL是一个广泛使用的开源关系型数据库管理系统。如果您希望从源代码编译和安装MySQL，可以遵循以下步骤。请注意，这里假设您正在使用类Unix系统（如Linux或macOS），并且您具有root或sudo访问权限。准备工作更新系统包列表：sudoaptupdate安
Autter_A3·2024-08-27 03:46

数据库基础：mysql主从集群搭建

position：表示从file的哪个位置开始；binlog_do_db：表示同步哪一个库在后面的slave配置中，这三个结果都需要使用到。4.Slave(6.85)节点配置配置从库(1)修改my.cnf文件，在[mysqld]加入下面的内容：#服务的唯一编号server-id=2#开启mysqlbinlog功能log-bin=mysql-bin#binlog记录内容的方式，记录被操作的每一行bi
2401_84049040·2024-08-27 00:58

doris跨hdfs集群迁移数据

官网-数据备份步骤一，在dorisA集群执行：CREATEREPOSITORY`repotestall`WITHBROKER`broker_name`ONLOCATION"hdfs://xx.xx.xx.xx
州周·2024-08-27 00:27

钱大妈生鲜如何利用 CCR 实现 Apache Doris 集群读写分离

钱大妈是社区生鲜连锁品牌的开拓者，经过十一年的稳健运营，已成为行业内的领军品牌，截至2023年7月已全国布局超30多座城市，门店总数3000余家，服务家庭超1000万。近年来，随着业务的高速发展以及门店的快速扩张，钱大妈需要对生鲜产品的采购、销售、库存等数据进行实时监控和分析，以保障食品的新鲜度及品质。同时需要管理众多门店与供应链信息，以了解各区域销售趋势和顾客偏好，从而优化商品结构和库存管理。在
ApacheDoris·2024-08-27 00:57

PySpark，一个超级强大的 Python 库

也许能够开启我们的智慧之门，一个普通的方法，也许能在危急时刻挽救我们于水深火热，一个新颖的思维方式，也许能激发我们无尽的创造力，一个独特的技巧，也许能成为我们的隐形盾牌……神奇的Python库之旅，第14章目录一、初识PySpark
炒青椒不放辣·2024-08-26 22:18

redis分片集群

1.为什么使用分片集群？主从和哨兵集群模式可以解决高并发和高可用的问题，依然存在两个问题没有解决：海量数据的存储问题；高并发写的问题；使用redis分片集群能够解决。2.redis分片集群原理？
求知耶·2024-08-26 18:10

[java][集群]consul集群安装

/usr/local/bin/consulagent-server-data-dir=/tmp/consul-node=server-1-bind=192.168.3.110-bootstrap-expect3-client=0.0.0.0-ui/usr/local/bin/consulagent-server-data-dir=/tmp/consul-node=server-2-bind=192
awonw·2024-08-26 17:05

java操作zookeeper

java操作zookeeper文档linux安装java-centos安装java-linux配置java环境变量zookeeper单机安装zookeeper集群安装zookeeper客户端命令行操作、
shuair·2024-08-26 16:59

基于Zookeeper搭建Kafka高可用集群

基于Zookeeper搭建Kafka高可用集群一、Zookeeper集群搭建为保证集群高可用，Zookeeper集群的节点数最好是奇数，最少有三个节点，所以这里搭建一个三个节点的集群。
数字游牧人0v0·2024-08-26 16:58

zookeeper+KAFKA 集群搭建

它是一个为分布式应用提供一致性服务的软件，提供的功能包括：配置维护、域名服务、分布式同步、集群管理等。
懵逼的运维弟弟·2024-08-26 16:28

（十五）Flink 内存管理机制

在大数据领域，很多开源框架（Hadoop、Spark、Storm）都是基于JVM运行，但是JVM的内存管理机制往往存在着诸多类似OutOfMemoryError的问题，主要是因为创建大量的实例，超过JVM
springk·2024-08-26 16:27

面试笔记8.24

正确答案：在我的项目中涉及大数据开发时，我通常会采用分布式的架构，比如使用Hadoop或者Spark等大数据处理框架。我会在集群中部署多台服务器，通过分布式计算和存储来处理大规模数据。
励志秃头码代码·2024-08-26 16:55

zookeeper单机安装

zookeeper单机安装文档linux安装java-centos安装java-linux配置java环境变量zookeeper单机安装zookeeper集群安装zookeeper客户端命令行操作、节点类型及监听器
shuair·2024-08-26 15:49

Zookeeper实现分布式锁

文章目录什么是ZookeeperZookeeper集群机制Zookeeper特性Zookeeper数据结构Zookeeper应用场景Zookeeper的环境搭建（linux）Zookeeper客户端Zookeeper
爱吃糖的靓仔·2024-08-26 15:48

什么是耦合、紧耦合、松耦合

但随着集群规模的扩大，系统的稳定性逐渐变差，主要原因如下：1、同步操作导致对
mingzhi61·2024-08-26 15:18

大数据技术之Zookeeper安装 （2）

目录下载地址本地模式安装1）安装前准备2）配置修改3）操作Zookeeper配置参数解读Zookeeper集群操作集群规划解压安装配置服务器编号配置zoo.cfg文件集群操作Zookeeper集群启动停止脚本创建脚本增加脚本执行权限
大数据深度洞察·2024-08-26 14:43

计算机毕业设计Hadoop+Spark知识图谱体育赛事推荐系统 体育赛事热度预测系统 体育赛事数据分析 体育赛事可视化 体育赛事大数据 机器学习 大数据毕业设计 大数据毕设 机器学习 人工智能

开发技术前端：vue.js、element-ui、echarts后端：springboot、mybatis大数据：spark、hadoop数据库：mysql关系型数据库、neo4j图数据库算法：协同过滤推荐算法
计算机毕业设计大全·2024-08-26 13:43

Kylin系列-入门

Kylin系列-入门ApacheKylin是一个开源的分布式分析引擎，提供Hadoop/Spark之上的SQL查询接口及多维分析（OLAP）能力，以支持超大规模数据。
Dingdangr·2024-08-26 13:34

redis面试（十八）RedLock加锁原理

普通的redis分布式锁，其实是在redis集群中根据hash算法选择一台redis实例创建一个锁就可以了大致流程如下：获取当前时间戳，单位是毫秒跟上面类似，
木小同·2024-08-26 12:26

【赵渝强老师】Spark中的RDD

  RDD（ResilientDistributedDataset）叫做弹性分布式数据集，它是Spark中最基本、也是最重要的的数据模型。
赵渝强老师·2024-08-26 11:52

基于spark+hadoop+hive大数据分析的电影推荐系统的设计与实现

开发介绍1.1开发环境二、系统介绍2.1图片展示三、部分代码设计3.1.部分代码如下：**总结****大家可以帮忙点赞、收藏、关注、评论啦****有问题评论区交流**一、开发介绍1.1开发环境技术栈：spark
毕设木哥·2024-08-26 06:26

每天一个数据分析题（五百）- 关联规则

.预测（Prediction）数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学，数据分析理论，深度学习，可视化，机器学习，Spark
跟着紫枫学姐学CDA·2024-08-26 04:40

每天一个数据分析题（四百九十）- 主成分分析与因子分析

C.协方差矩阵D.相关系数矩阵数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学，数据分析理论，深度学习，可视化，机器学习，Spark
跟着紫枫学姐学CDA·2024-08-26 04:07

数据库系统 第25节 数据库集群

数据库集群是一种高可用性和可扩展性解决方案，它通过将数据和工作负载分散到多个服务器上来提高性能和可靠性。
hummhumm·2024-08-26 03:30

12.Spark Core-Spark-RDD持久化

(1)persist算子使用方法：varrdd=sc.textFile("test")rdd=rdd.persist(StorageLevel.MEMORY_ONLY)valcount=rdd.count()//或者其他操作StorageLevel说明：StorageLevel的构造函数：classStorageLevelprivate(privatevar_useDisk:Boolean,#是否
__元昊__·2024-08-25 23:43

Spring Cloud Config 与Spring Cloud Bus组合实现配置文件热部署

先介绍下SpringCloudConfig功能：配置管理工具包，让你可以把配置放到远程服务器，集中化管理集群配置，目前支持本地存储、Git以及Subversion。
java_飞·2024-08-25 22:34

Tair分布式缓存

redis集群中，想用缓存必须得指明redis服务器地址去要。这就增加了程序的维护复杂度。因为redis服务器很可能是需要频繁变动的。
kingkyrie·2024-08-25 18:38

vue2上传大文件到minio分片上传

项目中使用到的类库：spark-md5、axios、element-ui；npminstallspark-md5--Snpminstallaxios--S页面上传示例文件上传任务数：{{taskQueueRunningNum
zhou周大哥·2024-08-25 17:35

63 - ES 诊断集群的潜在问题

集群运维所面临的挑战用户集群数量多，业务场景差异大使用与配置不当，优化不够如何让用户更加高效和正确的使用ES如何让用户更全面的了解自己的集群的使用状况发现问题之后，需要防患于未然需要“有迹可循”，做到“
舍是境界·2024-08-25 16:36

Hadoop入门基础（五）：Hadoop 常用 Shell 命令一网打尽，提升你的大数据技能！

1.2启动和停止Hadoop集群start-dfs.shstart-yarn.shstop-dfs.shstop-yarn.shstart-dfs.sh和stop-dfs.sh分别用于启动和停止HDFS
william.zhang(张)·2024-08-25 15:52

etcd集群恢复、单节点恢复操作手册

一、集群备份备份方式：Jenkins触发每小时的定时任务，通过调取ansible的playbook进行etcd集群的数据备份和上传，默认只备份集群中的非leader成员，避免leader成员压力过大。
*老工具人了*·2024-08-25 15:21

Kubernetes Master节点 灾备恢复操作指南

KubernetesMaster节点灾备恢复操作指南目录一，Etcd数据备份及恢复...1A,单节点etcd数据备份和恢复...2B，etcd集群数据的备份和恢复...2二，Master节点控制组件的备份及恢复
weixin_34384915·2024-08-25 15:51

kubernetes集群ETCD备份与恢复

一、通过kubeadm方式备份安装etcdctl命令行yuminstall-yetcd备份ETCDCTL_API=3etcdctl\snapshotsavesnap.db\#此处默认是当前路径，可自定义存储路径--endpoints=https://127.0.0.1:2379\--cacert=/etc/kubernetes/pki/etcd/ca.crt\--cert=/etc/kuberne
冷漠程序员小哥哥·2024-08-25 15:19
上一页 6 7 8 9 10 11 12 13 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他